Why NVIDIA is Building Open-Source Large Models | Bryan Catanzaro | Nemotron | Model Distillation...
大家好,这里是最佳拍档,我是大飞。 一家全球顶尖的芯片公司。 为什么要投入数百名顶尖AI研究员。 花大价钱训练自己的大模型。 最后还免费开源给所有人用呢? 这个问题估计很多关注AI的朋友都好奇过。 最近英伟达应用深度学习研究副总裁。 也就是Nemotron系列模型的掌门人布莱恩·卡坦扎罗(Bryan Catanzaro)。 在MAD播客做了一场深度专访。 把这个问题从商业逻辑、技术细节到组织文化。
彻底给讲清楚了。 这场访谈里不仅聊了很多技术干货。 还有很多反常识的行业判断。 比如开源AI其实比闭源更安全。 再比如所谓的奇点理论。 其实忽略了智能最核心的属性等等。 今天我们就来拆解一下这场访谈的核心内容。 看看芯片巨头下场做模型。 背后的真实逻辑究竟是什么。 访谈一开始。 主持人先抛出了一个所有人都关心的问题。 现在开源AI的发展速度越来越快。 就在Nemotron-3 Ultra登顶美国开源模型榜首没多久。
GLM-5.2也紧接着发布。 开源和闭源之间的差距到底还有多大呢? 布莱恩没有直接回答差距的数字。 反而先聊起了互联网的历史。 他说,很多人可能都忘了。 互联网最早也有过封闭的阶段。 当年的美国在线、Prodigy都红极一时。 但最终彻底改变世界的。 是开放的互联网。 不同的行业可以用完全不同的方式利用互联网。 零售业、医疗业、制造业的落地形态天差地别。 但是都因为开放的技术完成了彻底的变革。
在他看来,AI和互联网一样。 是一项颠覆性的基础技术。 它需要在千差万别的场景里落地。 而开源就是支撑这种普惠创新的基石。 看到全球这么多组织都在持续投入开源AI。 他其实非常振奋。 至于开源和闭源的差距。 他觉得这个问题本身有点制造对立的意味。 整个AI行业不管闭源还是开源。 都在以惊人的速度往前跑。 过去三个月的进展放在几年前根本不敢想象。
在一个高速爆发的领域里。 整个赛道的整体推进速度。 远比两个阵营之间的差距重要得多。 主持人接着问。 推动开源AI持续进步的核心动力到底是什么? 是社区的力量,是大厂的支持。 还是和中国的全球竞争呢? 布莱恩说。 最根本的动力其实是真实的需求。 现在越来越多的企业都希望把AI深度整合到自己的业务流程里。 要做深度定制。 这件事本质上就离不开开源模型。 除此之外。 开放协作本身就是开发技术的最佳方式。
过去几十年的软件行业已经反复证明了。 在开放环境里迭代的技术。 进步速度就是更快。 当所有人都能互相学习、互相借鉴的时候。 整个行业的效率都会被拉高。 聊到这里。 主持人问了一个比较尖锐的问题。 现在社区里很多人都觉得。 开源模型的进步很大程度上是在蒸馏闭源模型的能力。 现在OpenAI、Anthropic这些公司都开始限制和阻断蒸馏了。 开源的进步速度会不会因此慢下来呢?
布莱恩的回答很坚定。 他说。 当整个科技行业都在对AI这项颠覆性技术投入巨资的时候。 飞速进步是必然的结果。 这项技术绝对不可能被一小撮人垄断。 科技行业从来就不是这么运作的。 他本人非常认可闭源API的产品力。 也很尊重这些实验室的工作。 但它们绝不是世界上仅有的AI实验室。 全球有无数的研究机构。 有无数才华横溢的研究者在产出新的想法。 从来没有哪个小团体能垄断所有的好创意。
随着时间推移。 这种社区导向的AI开发模式只会越来越壮大。 这是人类文明发展到今天。 创造伟大技术的一贯规律。 顺着这个话题。 主持人又问到了中美竞争的问题。 现在网上有一种很普遍的说法。 说中国AI的进展很多都是抄闭源模型。 或者靠蒸馏闭源模型做出来的。 这到底是博眼球的言论。 还是真有其事呢? 布莱恩作为曾经在中国公司工作过的研究者。 怎么看中国同行的创新能力呢?
布莱恩说,他可能和很多人不一样。 他曾经在百度的硅谷人工智能实验室工作过两年半。 当时和吴恩达(Andrew Ng)还有达里奥·阿莫代伊(Dario Amodei)一起共事。 他很确定的是。 把一个国家的技术成就简单归结为山寨心态。 是完全错误的。 当然。 整个科技行业本来就一直在互相学习、互相借鉴。 这是行业常态。 他反而觉得。 中国AI社区对研发成果保持这么开放的态度。 是全世界的好事。 正因为有这些开源成果。 无数公司才能构建出原本做不出来的产品。
整个AI生态的技术进步都被推动了。 他甚至直言。 在社区协同构建AI技术这件事上。 中国其实一直处于领先地位。 而世界其他地区正在慢慢赶上。 比如之前OpenAI发布GPT开源模型。 还有谷歌的Gemma。 包括英伟达自己做的Nemotron。 其实都是在往这个方向走。 聊完行业大环境。 主持人又问了一个很实际的问题。 站在企业客户的角度。 现在选择开源模型的核心优势到底是什么?
布莱恩的回答落到了每个企业的核心机密上。 他说,每家公司之所以能成立。 本质上都有自己的核心秘密。 可能是独有的知识产权。 可能是独特的业务流程。 也可能是对客户需求的独家理解。 而AI的价值高低。 极度依赖输入的数据质量。 当AI能和企业的核心机密深度结合的时候。 产生的价值才是最大的。 但这些核心数据。 往往涉及商业机密、商业模式。 甚至有监管合规的要求。 必须非常谨慎地处理。
如果用开源模型。 企业可以自己掌控数据的处理方式。 自己定义安全护栏。 自己根据客户需求做深度定制。 就像当年互联网在不同行业长出了完全不同的形态一样。 未来AI要深入到经济的每个角落。 这种深度定制的需求只会越来越强。 这也是开源模型最大的价值所在。 讲完了行业层面的判断。 话题开始落到布莱恩个人和英伟达身上。 主持人请他聊聊自己的职业经历。 怎么从一个研究并行计算的学生。 走到今天领导英伟达整个基础模型团队的位置。
布莱恩说,他是2008年加入英伟达的。 那时候他还是个研究生。 一直在琢磨怎么用并行计算做人工智能。 他当时就觉得GPU有机会彻底改变AI的计算方式。 现在回头看。 2008年的时候做这件事简直是逆潮流而动。 他记得当年去参加国际机器学习大会。 发表了第一篇讲在GPU上训练模型的论文。 现场有人直接问他为什么来这个会议。 说这里都是研究高深数学的。 算力根本不重要。
他当时只能解释说。 算力如果能让我们训练出更大、更强的模型。 就能解决更多以前解决不了的问题。 但大部分人都只是敷衍地点点头。 甚至还有人说。 GPU不就是用来打游戏的吗? 布莱恩的回应很有意思。 他说GPU是什么。 其实是英伟达定义的。 1995年的时候GPU的核心任务是图形渲染。 但从很久之前开始。 它的核心使命就已经变成了加速AI计算。 加入英伟达之后。 他做了很多编译器和算法库的工作。
比如催生了后来的cuDNN。 也就是英伟达第一个深度学习加速库。 但他一直希望能更直接地了解AI的实际落地。 所以当吴恩达邀请他一起去百度建硅谷AI实验室的时候。 他立刻就答应了。 那时候的百度在AI落地业务上已经非常超前了。 对他来说是个非常难得的机会。 主持人顺势问。 那时候和年轻的达里奥·阿莫代伊共事是什么感觉? 当时有没有想到他后来会成为Anthropic的掌门人。 成为AI行业的领军人物? 布莱恩说。
达里奥从一开始就才华横溢。 他当时面试达里奥的时候。 对方还在做生物信息学。 根本没接触过深度学习。 但他学习速度极快。 思考深度也远超常人。 最让他佩服的是达里奥那种纯粹又坚定的信念。 他自己因为学术训练的原因。 一直对AI抱着谨慎的态度。 甚至当年大家都更愿意说机器学习而不是人工智能。 就是怕别人觉得AI是忽悠。 但达里奥从一开始就坚信AI会彻底改变世界。 这种对技术趋势的洞察力非常罕见。
2016年,黄仁勋给布莱恩打了个电话。 问他要不要回英伟达组建一个应用研究实验室。 他毫不犹豫就答应了。 布莱恩说,英伟达最特别的地方。 就是极强的长期定力。 做CUDA是这样。 做深度学习是这样。 做光线追踪也是这样。 这家公司愿意花五到十年的时间投入研发。 就为了真正改变世界。 这种信念感和执行力,是他最看重的。 回归之后。 他参与的第一个项目就是后来的DLSS。 也就是实时图形AI超分辨率技术。
简单来说。 就是不用计算每一帧的每一个像素。 而是用AI来推断生成剩下的画面。 效率能提升十倍。 现在的DLSS 5已经是全生成式的版本了。 算下来是整整十年研究的成果。 几乎在同时。 他们还启动了Megatron项目。 也就是后来支撑了全世界绝大多数大模型训练的框架。 那是2017年,Transformer架构刚出来。 还没有火遍全球。 但布莱恩结合之前在百度的经验。 判断语言理解能力会带来推理能力的飞跃。
进而推动AI在所有领域落地。 于是就启动了这个项目。 向整个行业证明。 在GPU上也能训练最大规模的Transformer模型。 聊完了历史。 终于进入了整场访谈的核心。 Nemotron模型。 主持人问了那个所有人都想问的问题。 英伟达明明是一家芯片公司。 为什么要费这么大劲自己做大模型呢? 布莱恩给出了两个非常清晰的使命。 第一个使命。 是帮助英伟达构建未来的计算系统。 英伟达是做加速计算的公司。 要从第一性原理出发拆解世界上最难的计算问题。
然后设计出对应的软硬件系统。 而要做到这一点。 就必须深刻理解AI运作的每一个细节。 这样才能做好软硬件的协同设计。 简单说,只有自己亲手做过模型。 才知道什么样的芯片才是真正好用的芯片。 摩尔定律失效之后。 芯片的性能提升不能再靠单纯的工艺缩小。 只能靠极致的专业化。 而专业化就来源于对工作负载的深刻理解。 这就是Nemotron的第一个核心任务。 帮英伟达做出更好的核心产品。
第二个使命,是支撑整个开发者生态。 英伟达这么多年最宝贵的资产。 就是全球范围内用英伟达技术做AI的开发者社区。 英伟达有责任持续提供开放的AI技术。 让整个生态持续繁荣。 Nemotron从来没想过要做唯一的开源模型。 反而非常欢迎其他公司的贡献。 因为每一次AI技术的突破。 最终都会带动英伟达的业务增长。 繁荣生态对英伟达的商业有利。 但英伟达不想做生态里唯一的技术提供商。 它的目标是让所有大大小小的公司。
都有能力构建和部署自己的AI。 说到摩尔定律,主持人顺势追问。 现在大家都在说摩尔定律已死。 这到底是不是行业共识? 为什么现在摩尔定律走不通了呢? 布莱恩解释说。 摩尔定律本质上是个经济规律。 每隔一段时间。 我们就能用同样的成本。 在芯片上放下两倍的晶体管。 但这个规律其实已经失效五到十年了。 现在晶体管还在继续变小。 但是成本下降的速度已经跟不上了。 甚至造价越来越贵。
以前做下一代芯片。 只要把现有设计等比例缩小就行。 现在这条路走不通了。 我们必须想办法把系统每个部件的潜力都压榨到极致。 这也是为什么加速计算在今天越来越重要。 因为从晶体管到算法再到应用的全链路协同优化。 才是现在真正的性能来源。 接下来主持人聊到了Nemotron的版本演进。 很多人以为Nemotron是2023年才启动的项目。 但其实历史要早得多。 最早的初代Nemotron。 是2021年左右英伟达和微软合作训练的5300亿参数模型。
当时叫Megatron-Turing NLG。 后来他们把这个算作Nemotron 1。 之后迭代了好几个版本。 一直到Nemotron 3。 中间Llama发布之后。 他们还把自己的技术融入Llama。 做了Llama Nemotron 1。 是第一个基于Llama的推理优化模型。 到了Nemotron 2的时候。 因为没有做混合专家模型。 也就是MoE。 在当时越来越多的MoE模型面前显得竞争力不足。 于是他们立刻决定把MoE加进去。 这就有了Nemotron 3。
这里还有个有意思的小插曲。 他们现在正在做下一代的Nemotron-4。 但其实2024年他们已经发布过一个叫Nemotron-4的3400亿参数模型。 两个版本完全不一样。 这个命名的问题到现在还没完全理顺。 布莱恩说,其实比版本号更重要的。 是英伟达对这件事的长期承诺。 就像当年花十几年做CUDA一样。 现在他们也在以同样的恒心做Nemotron。 过去一年模型进步特别快。 一方面是因为全公司越来越多的团队意识到了这件事的重要性。
更多人才和创意涌入进来。 另一方面。 他们也大幅增加了投入的算力资源。 因为他们坚信这是公司未来的关键。 今年三月的时候。 英伟达还成立了Nemotron联盟。 主持人请他解释一下这个联盟是做什么的。 布莱恩说。 Nemotron的定位是服务生态。 而不是和行业竞争。 那不如在模型开发阶段就和合作伙伴一起做。 从一开始就把大家的需求考虑进去。 这样最终的模型集成起来也更顺畅。 这个联盟不是排他性的。 所有合作伙伴都可以继续做自己的业务。
大家只是因为都希望开源模型越来越好。 所以一起参与进来。 贡献自己的需求、评估标准和运行环境。 最终把模型做得更适配产业需求。 讲完了整体定位。 终于落到了产品本身。 现在Nemotron家族有Nano、Super、Ultra三个版本。 分别对应不同的部署场景。 Nano总参数300亿,激活参数30亿。 适合不需要复杂推理的轻量任务。 Super总参数1200亿,激活参数120亿。 是目前最受欢迎的版本。 在成本和能力之间找到了最好的平衡。
Ultra总参数5500亿,激活参数550亿。 面向要求最高的复杂场景。 布莱恩说。 他们做这种小中大的家族化布局。 就是为了匹配不同客户的部署需求。 而他们最终的目标。 是打造最适合智能体工作流的模型。 让AI能真正帮用户自动处理复杂任务。 主持人总结说。 听起来Nemotron的核心思路就是速度优先。 主打效率和智能体场景。 这个概括对不对呢? 布莱恩非常认可。
因为英伟达本质上就是一家加速计算公司。 一定会从计算的第一性原理出发去思考模型设计。 而Nemotron 3系列最有代表性的技术突破。 就是用4位精度完成了预训练。 很多人可能对4位精度没什么概念。 布莱恩做了个很直观的类比。 4位格式只能表示16个不同的数值。 就像把一张彩色图片做色调分离。 减少可用的颜色数量。 画面肯定会受影响。 当然实际的块缩放格式会更复杂。 一组数值会共享一个缩放因子。
不用深究细节。 之所以要做4位格式。 首先是因为它在Blackwell Ultra架构上能带来成倍的吞吐量提升。 更重要的是,它能节省惊人的能源。 布莱恩在这里抛出了一个核心判断。 我们终将会逼近计算的极限。 不管是经济上的极限。 因为没那么多钱买服务器。 还是能源上的极限。 比如供电能力有上限。 当我们已经运行在极限上的时候。 想要获得更强的智能。 唯一的路径就是提升效率。 不能再靠大力出奇迹了。
4位格式的数据传输成本低,占内存小。 不管是数据移动还是计算本身。 能耗都大幅降低。 这就是整个行业都在往这个方向投入的核心原因。 现在推理用4位量化已经很成熟了。 但是预训练用4位难度要大得多。 因为优化器对数值精度非常敏感。 稍微处理不好模型就会发散。 整个训练直接报废。 英伟达花了大量的精力做算法创新。 才最终实现了用NVFP4格式完成预训练。 这也是他们最引以为傲的技术突破之一。
除了低精度训练。 Nemotron另一个核心特点就是混合架构。 也就是把Transformer和Mamba状态空间模型结合到一起。 布莱恩解释说。 他们早在2024年的论文里就证明了。 把状态空间模型和注意力机制结合。 能得到效果更好的模型。 他们做了大量的参数搜索。 最后发现最优的组合是以状态空间模型为主。 搭配少量的注意力机制。 背后的逻辑也很好理解。 状态空间模型擅长对长序列做全局的、整体的理解。
它不会像注意力那样随机访问整个序列。 而是把每一步的信息都汇总到一个固定大小的缓存里。 相当于把整个序列压缩到恒定的空间里。 这种约束反而让它在处理需要全局理解的任务时表现更好。 而注意力机制的优势是精准提取细节。 不会有信息损失。 两者结合起来。 效果比单独用任何一种都好。 而且这还不只是速度优势。 纯粹是模型本身变得更聪明了。 从那之后。 很多实验室都得出了同样的结论。 现在用状态空间模型加注意力的混合架构。
已经成了行业共识。 除此之外。 这种架构还能带来巨大的速度提升。 因为状态空间的缓存大小和序列长度无关。 内存占用更低。 就能让GPU跑更大的批次。 一直保持高负载运行。 效率提升非常明显。 聊完了混合架构。 自然就聊到了混合专家模型。 也就是MoE。 布莱恩解释说。 MoE的本质是利用神经网络的稀疏性。 我们训练模型的时候。 希望它学遍全天下的知识。 但回答一个具体问题的时候。
根本不需要调动所有的参数。 就像你去图书馆查资料。 不需要把整个图书馆的书都看完。 只要找到相关的几本就行。 MoE就是这个思路。 模型里有很多个专家网络。 每一个Token经过的时候。 有一个可学习的路由器。 决定把它发给哪几个专家来处理。 每次只有一小部分参数被激活。 这种架构对硬件设计的影响非常深。 比如Blackwell架构之所以在MoE推理上表现这么好。 还有专门的NVL72技术。 支持最多72个GPU高速互联读写内存。
就是因为英伟达在设计硬件的时候。 已经对MoE的运作逻辑有了非常深刻的理解。 他们把不同的专家分到不同的GPU上。 Token在层间传递的时候。 就在GPU之间动态路由。 这就对GPU之间的通信速度要求极高。 而NVL72就是为这个场景量身定做的。 主持人问到了隐式MoE的概念。 布莱恩解释说。 这是Nemotron-3里的一个创新。 核心是把Token的向量先做压缩再通过网络传输。
到另一端再解压。 这样能节省大量的网络带宽。 同样的推理成本下。 专家数量可以翻四倍。 相当于图书馆的藏书量直接翻了四倍。 主持人问。 MoE是不是已经成了前沿AI的默认架构呢? 布莱恩给出了肯定的答案。 因为它在推理成本和智能水平之间找到了最好的平衡点。 当然它也有短板,比如非常吃内存。 如果内存有限。 稠密模型反而效果更好。 另外它要么在单请求的场景下表现好。 要么在超大规模数据中心的高并发下表现好。
中间的规模反而比较难优化。 除了架构本身。 Nemotron-3 Ultra还有一个很受关注的特性。 就是100万Token的上下文窗口。 布莱恩说,上下文越长。 模型能解决的问题就越复杂。 你可以把整个代码库、一整本手册都丢给模型。 让它基于这些信息处理任务。 长远来看。 每个人都应该有一个专属的大模型。 能读完自己所有的邮件和文档。 随时解答问题。 能附加给模型的信息越多。 它的价值就越大。
当然长上下文的推理成本也会更高。 所以这是一个不断平衡和突破的过程。 而对于智能体工作流来说。 长上下文更是基础。 虽然上下文压缩也能用。 但原生支持长上下文的模型。 本质上用处还是要大得多。 接下来聊到的多Token预测技术。 布莱恩说这是他觉得非常能体现加速计算魅力的一项技术。 很多人可能不知道。 当我们用小批次甚至单批次跑模型的时候。 GPU其实有很多闲置的算力。 因为这个场景下。 大部分时间都花在了从内存里读取权重上。
真正做计算的时间占比并不高。 如果让模型一次预测多个Token。 比如一次预测5个。 读取一次权重就能完成多步的计算。 花费的时间几乎是一样的。 当然。 第一个预测的Token是确定正确的。 后面的几个不一定全对。 所以在下一轮前向传播的时候。 模型会验证这些预测的Token对不对。 对的就直接采纳,错的就扔掉重来。 这样做的好处是。 完全不会损失准确率。 因为所有的预测都会被校验。
但却能带来非常可观的速度提升。 模型越聪明,预测的准确率就越高。 加速效果就越好,相当于模型越聪明。 推理就越快、越便宜。 这也是为什么英伟达必须把这项技术研究透。 因为它直接决定了未来推理场景的效率。 也直接影响硬件的价值。 再往后就是多教师蒸馏技术。 也就是MOPD。 这是Nemotron后训练阶段用到的核心技术。 布莱恩说,在Nemotron 3 Ultra里。 他们大概用了10到15个不同领域的教师模型。
有的擅长科学理解。 有的擅长数学证明。 有的擅长编程,有的擅长智能体交互。 每个教师模型只需要在自己的领域做到极致。 然后通过蒸馏技术。 把所有领域的能力都融合到一个学生模型里。 用强化学习的方式做蒸馏。 每一个Token都能得到密集的奖励信号。 模型学习的速度非常快。 最终能在所有任务上都达到和教师模型相当的水平。 有意思的是。 这项技术不止是技术上的突破。 还解决了组织协作的问题。 以前几百个人一起优化一个模型。
很容易出现不同团队往不同方向拉的情况。 最后变成拔河比赛。 总有人的工作要被牺牲。 而多教师蒸馏的模式。 每个团队可以专注打磨自己领域的教师模型。 最后再融合到一起。 大家的工作都能体现价值。 团队协作的效率也高了很多。 聊到后训练的数据来源。 布莱恩说他们主要有两个途径。 一个是向专业的数据公司采购商业数据集。 只要有开源再分发的权限。 他们都会随模型一起开源出去。 另一个就是合成数据。
他们用大量的算力运行模型生成合成数据。 用来提升模型在特定领域的能力。 其中很多也会同步开源。 当然合成数据也不是万能的。 垃圾进垃圾出是AI的铁律。 必须花很大的功夫保证数据质量。 才能真正帮到模型。 主持人接着问。 现在AI已经在编程和数学领域做得很好了。 接下来能不能在法律、咨询这些行业也达到同样的水平? 强化学习接下来的发展方向是什么? 布莱恩说,编程确实是很特殊的领域。
既有海量的训练数据。 又有明确的验证标准。 所以AI在这个领域的进步还会持续加速。 而接下来真正的趋势。 是强化学习的学习环境会变得越来越复杂、越来越多样。 当AI能在更真实的环境里学习。 更深刻地理解行动和结果之间的关联。 它解决实际问题的能力就会越来越强。 现在的训练环境还相当初级。 未来几年一定会有非常大的发展。 聊完了技术。 话题转向了英伟达内部的研发组织。 很多人都好奇。 几百个顶尖研究员一起做一个大模型。
到底是怎么协作的? 布莱恩说。 英伟达不是靠组织架构图来运作的。 他们常说一句话。 叫使命即老板,而不是职位即老板。 做Nemotron的不止一个团队。 全公司大概有10个团队都深度参与。 有做企业软件的,有做AI软件的。 甚至还有设计GPU硬件的团队。 大家都是为了同一个使命协作。 当然跨团队协作很难。 人天生就有部落属性。 对不熟悉的人很难立刻建立信任。 Nemotron这个名字本身就是协作的产物。
以前有做AI软件的Nemo团队。 还有做大模型系统的Megatron团队。 后来两边打破壁垒一起合作。 就把名字合成了Nemotron。 之后越来越多的团队加入。 他们甚至在公司内部开放志愿者机制。 只要对做AI有想法,都可以参与进来。 他们还搭了内部的创意分享网站。 所有人都可以提想法。 然后由负责不同模块的负责人评估。 好的想法就会落地到下一轮模型迭代里。 在布莱恩看来,未来能做好AI的公司。 一定是懂得协作的公司。
那些天天争谁拥有AI控制权的组织。 只会浪费大量的精力。 主持人又问,就算是英伟达。 也不可能有无限的GPU。 那算力到底是怎么分配的呢? 布莱恩坦言这是整个行业都头疼的难题。 他们内部有层级化的项目体系。 项目群下面设具体项目。 每个项目提资源申请。 每两周审查一次预算。 然后做分配决策。 这个过程非常难。 因为每个研究员都坚信自己的想法能改变世界。 都想要更多的算力。 但现实的约束就摆在那里。
他们能做的就是尽量吸纳不同的视角。 让大家至少理解决策背后的逻辑。 就算拿不到足够的资源。 也能明白为什么优先级是这样的。 当然他自己的首要目标。 还是争取到更多的GPU。 这样就能支持更多项目。 关于基础研究和应用研究的平衡。 布莱恩提出了一个自举的概念。 做研究本质上是个先有鸡还是先有蛋的问题。 当你的想法已经被证明很厉害的时候。 拿资源很容易,但在那之前。 你没有资源怎么证明想法厉害呢?
答案就是小步迭代的自举模式。 先做个小实验拿到正向结果。 展示给大家看。 然后申请多一点资源。 再往前推进一步。 再拿结果换更多资源,慢慢滚雪球。 只要迭代足够快。 就能靠自己一步步把想法做大。 还能吸引更多人加入。 主持人问。 英伟达那些登月级别的项目。 都是这么自下而上起来的吗? 布莱恩说。 是自下而上和自上而下的结合。 黄仁勋当然也有很多绝妙的想法。
公司响应也非常快。 但公司本质上是由志愿者组成的。 大家都是因为认同使命才聚在一起。 比如NVFP4预训练就是自上而下的战略决策。 领导层决定大力投入FP4硬件。 但具体的技术实现方案。 全都是研究员自己摸索出来的。 研究的核心永远是人。 你不能教研究员怎么解决问题。 那就不叫研究,叫工程了。 主持人感慨说。 英伟达成立三十多年了。 居然还能保持这么强的创业精神。 非常难得。
核心原因之一是领导层的任期足够长。 黄仁勋已经执掌公司33年了。 还有很多资深领导都在公司待了三十年以上。 他们经历过公司创业的阶段。 有很强的主人翁意识。 而且英伟达的文化里有一句话。 叫没有人会独自失败。 加速计算是个全链路的事情。 编译器不行,芯片再好也没用。 任何一个环节掉链子。 整个系统的价值就归零了。 大家一荣俱荣,一损俱损。 这种共识是驱动所有人紧密协作的核心动力。
访谈的最后。 聊到了更宏观的行业趋势。 主持人问。 很多人说布莱恩不相信奇点理论。 是真的吗? 为什么? 布莱恩说,他觉得智能这个东西。 是极度多元化和情境化的。 比如一家公司选CEO。 不会去找国际奥数冠军吧? 奥数冠军的智商当然极高。 但管理公司需要的是完全不同的能力。 再比如做音乐、做艺术。 需要的也是完全不同的才智。 原始智力就像发动机的马力。 但没有轮子的引擎。
哪儿也去不了。 智能能产生多大的影响力。 很大程度上取决于它所处的环境和平台。 而奇点理论最大的问题。 就是忽略了智能的多元性和情境性。 把智能当成了单纯的马力堆叠。 他当然相信AI会继续高速发展。 会释放巨大的经济潜力。 但他不认为会出现那种瞬间失控的技术奇点。 他更倾向于用外部大脑来比喻AI。 正如人类早就有了外置的器官。 比如厨房就是人类的外部胃。 它帮我们消化了很多原本消化不了的食物。
最终催生了农业。 催生了城市,彻底改变了人类文明。 而现在我们正在创造的AI。 就是人类的外部大脑。 它会帮我们处理很多原本处理不了的复杂问题。 它的影响一定会和农业的诞生一样深远。 只是现在我们还没办法完全预见。 人类历史上已经经历过很多次这样的技术变革。 最终都找到了适应的方式。 这一次也一样。 我们面临的所有难题。 不管是气候变化还是不平等。 最终都需要更多的智慧来解决。
而AI就是我们能创造的、提升集体智慧的终极工具。 主持人又问。 现在社会上好像有一股对AI的抵触情绪。 这是行业的沟通问题吗? 布莱恩说。 公众对新技术的接受是有过程的。 当AI还是一个抽象概念的时候。 大家很容易产生恐惧和抵触。 但当AI融入到日常工具里。 变成导航、修图、写代码的辅助功能。 大家就不会再刻意想着这是AI了。 只会觉得这是个好用的工具。
接受度永远是建立在实际体验上的。 用得越多。 就越习以为常。 访谈的最后一个问题。 是关于AI安全的。 现在大家都在讨论AI安全。 开源和闭源到底哪个更安全? 布莱恩的观点非常反常识。 他认为开源技术通常更安全。 因为阳光是最好的防腐剂。 当有更多的人去审视一项技术的安全性。 去评估它的风险,去迭代优化它。 本质上就比一小撮人替所有人做安全决定要可靠得多。 而且AI本质上是对思想的探索。
多样性永远比单一文化更安全。 尤其是在那些争议最大、最硬核的问题上。 让大家用不同的方式去探索。 远比建一个围墙花园。 自上而下规定什么想法安全、什么危险要稳妥得多。 这不是什么新道理。 人类社会已经有几百年的经验了——信仰自由、言论自由。 不是因为我们没试过管控思想。 而是试过之后发现。 单一管控的模式远比多元主义更危险。 所以他坚信。 构建人工智能最安全的方式。
就是拥抱开源。 整场访谈听到这里。 其实我们就能完整回答最开始的那个问题了。 英伟达为什么要做开源模型? 它不是要和大模型公司抢生意。 而是要站在更底层的位置。 用模型研发反哺硬件设计。 同时用开源技术繁荣整个生态。 最终让所有AI创新都跑在英伟达的算力之上。 这是一种更高维度的商业逻辑。 也是英伟达能一直站在AI浪潮核心的根本原因。 不知道你怎么看待开源比闭源更安全这个观点?
欢迎在评论区留下你的看法。 感谢收看,我们下期再见。
