英伟达推出全新NVIDIA TensorRT 3 AI 推理软件 (英伟达2021新品)
编辑:rootadmin
NVIDIA公司今日推出全新NVIDIATensorRT3AI推理软件，该软件能够大幅提升从云端至终端设备（包括无人驾驶汽车和机器人）的推理性能并降低成本。
整理分享英伟达推出全新NVIDIA TensorRT 3 AI 推理软件 (英伟达2021新品)，希望有所帮助，仅作参考，欢迎阅读内容。
内容相关其他词:英伟达最新,英伟达最新,英伟达推出全新显卡驱动,英伟达新功能,英伟达推出全新显卡了吗,英伟达推出全新显卡了吗,英伟达推出全新显卡了吗,英伟达推出全新显示器,内容如对您有帮助，希望把内容链接给更多的朋友！
TensorRT3是一款针对人工智能使用生产部署的高性能优化编译器和运行时引擎，用于在生产环境中部署深度学习程序。它能够快速优化、验证并部署经过训练的神经网络，从而在超大型数据中心、嵌入式GPU或车用GPU平台上开展推理工作。它能够确保高度精确的INT8和FP网络执行，每年能为数据中心*节省数以百万美元计的采购和用电成本。借助它，开发者只需短短一天就能完成神经网络的训练，打造一个比其训练框架快3至5倍的可部署推理搞定方案。 TensorRT3与NVIDIAGPU的结合能够基于所有的框架、为诸如图像和语音识别、自然语言处理、视觉搜索和个性化建议等人工智能服务2提供超快速且高效的推理。此外，TensorRT和NVIDIATeslaGPU加速器的速度可达到处理器的倍，而相较于基于处理器的搞定方案，成本仅为其十分之一。 现在，已经有超过家来自各行各业的公司开始采用NVIDIA推理平台，借助此从数据中获得全新洞察，并为企业和消费者部署智能服务。亚马逊、微软、Facebook和Google、以及阿里巴巴、百度、科大讯飞、京东、*等中国领先企业均已开始采用NVIDIA推理平台。
