首页 手机文章正文

工厂将推动全栈重塑,英伟达开放容器供部署

手机 2024年08月11日 02:39 849 admin

IT之家6月2日消息,在目前正在进行的黄仁勋2024台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其NIM(NvidiaInferenceMicroservices)云原生微服务。

英伟达认为“AI工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。

为方便各种规模的企业部署AI服务,英伟达今年3月推出了NIM(NvidiaInferenceMicroservices)云原生微服务。

NIM是一套经过优化的云原生微服务,旨在缩短上市时间,工厂将推动全栈重塑,英伟达开放容器供部署并简化生成式AI模型在云、数据中心和GPU加速工作站的任何位置的部署。它使用行业标准API,抽象化AI模型开发和生产包装的复杂性,从而扩展开发者池。

IT之家注意到,官方制作了一个llama3大模型的NIM容器,现已上线英伟达官网,开放供全部用户下载并任意部署。

▲英伟达官网

标签: 工厂将推动全栈重塑英伟达开放容器供部署

卓越科技网 网站地图 免责声明:本网站部分内容由用户自行上传,若侵犯了您的权益,请联系我们处理,谢谢!联系QQ:2760375052 版权所有:卓越科技网 沪ICP备2023023636号-5