英伟达发布Dynamo，号称“AI工厂的操作系统”

英伟达正式发布Dynamo，号称是“AI 工厂的操作系统”。Dynamo是一个“分布式推理服务库”。本质上，它是一个针对用户需求token而无法生产足够token之间问题的开源解决方案。黄仁勋展示了一张关于推理的图表，X轴显示用户每秒的Token数，Y轴显示工厂每秒的Token数。在Dynamo、Grace Blackwell NVLink72超级芯片的加持下，Blackwell相比Hopper可实现25倍的性能提升。而在推理模型中，Blackwell的性能是Hopper的40倍。黄仁勋还打趣道，有了上述最新技术加持，搭建AI工厂的厂商“买得越多、省得越多”。

本文源自金融界AI电报

相关文章：

英伟达要求部分零部件供应商暂停生产H20芯片 外交部回应08-22

巴菲特、索罗斯最新持仓曝光，高瓴看好中国优质资产！美国7月PPI数据“爆表”，美联储官员“泼冷水”，事关降息08-15

全球乳业新标杆! 蒙牛低温武汉工厂荣膺FWRC福布斯世界之最桂冠08-10

港股收盘，三大指数持续走强，大型互联网企业持续攀升07-15

CRO适合哪些领域07-07

【中国制造新观察】信息通信业如何突破增长瓶颈06-27

从虎扑到喜马拉雅，古典互联网正在消亡?06-19

通过OS构建网络安全一体化，Fortinet看重中国市场AI需求06-05