文章详情

XM交易:EY微调英伟达开源模型,分类成本仅为闭源模型十五分之一

币界网报道:

英伟达11月19日公布与微软在Ignite大会上的合作扩展。最具体的一组数字来自EY:在微软Foundry里微调英伟达Nemotron开源模型后,采购记录分类成本比闭源前沿模型低15倍。

这组数字口径很窄。EY做的是给企业采购记录分类,准确率提升55%是在它自己的评测数据集上测得的,15倍的成本差也只对应这一项任务。英伟达用它说明企业可以把开源模型改成专用工具,没有说其他业务都能照此省钱。

微软的数据中心和必应都在用英伟达

合作的第一层是基础设施。英伟达称,Vera Rubin NVL72系统已在Azure数据中心运行,双方正在扩大基于该系统的Azure虚拟机的使用范围,面向推理、智能体应用以及大规模训练和推理。博客把Azure上的Vera Rubin称为预览。

为说明双方的协同优化,英伟达引用了MLPerf成绩。在MLPerf Training v6.1中,Azure用GB200 NVL72系统把DeepSeek-V3模型的训练扩展到10240块GPU,是该轮规模最大的提交;在MLPerf Inference v6.1中,Azure的GB300 NVL72系统在DeepSeek-R1交互吞吐上领先其他云端提交10%以上,这一比较引自Signal65。两组都是Blackwell一代的成绩,并非Vera Rubin本身的跑分。

第二层是微软自己当客户。微软AI用英伟达Dynamo推理软件支撑后训练阶段的强化学习推演,这一环节负责生成改进模型所用的经验数据;Dynamo在大规模GPU集群上协调推理,管理请求、模型更新和故障恢复。必应搜索模型则使用RTX PRO 6000 Blackwell GPU。

机密计算是另一条线。双方合作把机密计算扩展到裸金属和机架级AI基础设施,在处理过程中保护敏感模型和数据。英伟达的机密计算与证明功能,让客户在交出敏感模型、数据或密钥之前先核验计算环境。双方还借助英伟达MaxLPS做功耗效率合作,目标是在可用电力内拿到更多性能。

从云端延伸到工厂和个人电脑

开发者接触这些模型的入口是Foundry。微软的无服务器Programmed Training让开发者掌控后训练流程,底层设施由Foundry托管;Foundry Managed Compute新增自定义模型权重部署。Nemotron 3.5系列里,Super面向长时间运行的编码、研究和业务智能体,Lightning面向需要快速响应和工具调用的应用;Bolt与语音识别模型Transcribe标注为即将推出。

本地部署方面,Foundry Local扩大对Nemotron 3.5的支持,可在Azure Local环境中运行推理、编码和工具调用智能体。Azure Local将支持硬件伙伴提供的RTX PRO 6000 Blackwell GPU,并扩展到Jetson Thor和Jetson Orin边缘平台,用于机器视觉、机器人和自主作业;Cosmos等物理AI模型也将进入Foundry Local。

Windows 365云电脑将获得Direct Stream能力,支持最多两路4K、每秒60帧的低延迟串流。这项功能目前是限量预览、开放报名,公开预览计划在2027年初。RTX Spark Windows电脑上的本地大模型体验,则以Ignite现场展示的形式出现。

科研方向,BioNeMo Agent Toolkit和ALCHEMI Toolkit进入Microsoft Discovery目录。首个集成使用与华盛顿大学蛋白质设计研究所合作开发的RFD4-Proteina模型,生成候选蛋白结构和氨基酸序列,再交给后续评估和实验室验证。

对持有英伟达或微软股票的读者,这篇博客能确认的是,英伟达的硬件和软件同时出现在微软对外的云服务和自用的模型开发两条线上。公告没有披露Azure上Vera Rubin虚拟机的价格、规模、客户名单,也没有给出EY案例的具体金额或对任何一方收入的贡献;商业效果仍要看两家公司后续财报中的相关披露。