# 29.直击 2025 GTC（下）｜王冠之重，黄仁勋如何回应一切质疑？ 卫诗婕｜漫谈 Light the Star · 2025-03-26 · 48 min · https://www.xiaoyuzhoufm.com/episode/67e39e7451d887b229f3ff4b?utm_source=rss ## 逐字稿 卫诗婕 谢谢。 姚欣 告诉我今年能出多少货，明年能出多少货，这个是它面临的压力。 卫诗婕 英伟达急了，对，就是急了，英伟达急了。今年的 GTC 有什么不一样吗？ 姚欣 我觉得今年的 GTC，我同事给我发的一些照片，跟去年的情绪相比是暗淡了一些。 另外一点，虽然大家不讲中国，但是中国对于整个硅谷，我认为产生了冲击。 哈喽，大家好，这里是商业漫谈，我是诗洁。这是直击二零二五英伟达GTC系列的下期，在上期中，我和PPIO派欧云的联合创始人兼CEO姚欣一起还原了英伟达过往的三十年历史以及精彩的算力江湖。这一期内容将聚焦三月十九号召开的本届GTC大会所传递出的风向和重要信号，以及二零二五AI发展的大趋势，依然是由备受好评的姚欣老师为大家解读。 ### Nvidia Bets Beyond Graphics 卫诗婕 上期我们讲到，英伟达是一个持续下注未来的公司。过去这一二十年，它当时下注的未来是什么？ 姚欣 我觉得首先第一个就跟 GPU 有关系。最早的 GPU 全称叫 Graphics Processing Unit，是完全为图像处理服务的，我们叫显卡。 但事实上，大概在 2000 年左右，英伟达当时的首席科学家叫 Bill Dally。他提出，能不能把这一套 GPU 的架构、并行结构，用来解决很多其他的通用问题。他提出了一个叫 General-Purpose GPU，也就是通用型 GPU，GPGPU。 其实当时这套架构最早都是学者提出来的，是 Stanford 的教授提出的。那个时候很少有人重视，但是黄仁勋特别欣赏他，所以把他挖进来做英伟达的首席科学家。然后他们最开始提出了第一代通用 GPU 结构。 那个时候我记得，应该是十几年前，我们最开始做视频编解码，就已经在用 CUDA 了，还是第 2 版、第 3 版的时候。那时候他就在讲，未来的视频会消耗非常多的算力。 接下来还有很多科学计算，包括未来大家要做一些生物模拟。实际上，他很多年前就预言了后面的视频时代。 卫诗婕 很多年前就预言了后面的视频时代，是吧？ 姚欣 对，他当时就在提出这一部分。所以今天我们去看，比如自动驾驶汽车，车里面都要有车联网、自动驾驶的核心部分，这也是他很早就布局的方向。 我记得大概 15 年前，他就提出要把整个芯片放到移动设备里。一开始放到手机里面，耗电太高了，所以手机市场没有打下来。后来他说，那我就放到游戏机里面，最早做出了一台性能很强的掌上游戏机。 包括大家在玩的 Switch 游戏机，你知道吗？Switch 后面的芯片用的就是英伟达的。就是当年从手机上拿下来、耗电很高的那块芯片，后来又把它装到了汽车上面。 最开始的第一波自动驾驶模拟，全部都是用它的芯片来做的。一直到什么时候呢？我印象很深，网上还有一张图，是 Elon Musk 在 OpenAI 刚刚创立的时候，黄仁勋给他送了一台 AI 服务器。Elon Musk 签收了那台服务器，那应该是 2016 年的一张照片。 卫诗婕 他希望 OpenAI 用这个服务器做什么？ 姚欣 去推进 AI 的诞生和发展。 卫诗婕 其实那是给 OpenAI 的第一次捐赠。当年 OpenAI 也是 nobody，谁能知道后来它真的做出了 ChatGPT？所以这也是一段渊源。 姚欣 我觉得这点证明了这些企业，也是黄仁勋和英伟达成功的原因之一：愿意不断地下注未来，不断地进行非常长远的投资。 我的理解是，他下注的未来，其实就是判断未来哪些场景需要什么样的计算。 卫诗婕 对，就是海量计算领域。他的业务其实就是冲着这一句话去做的。 姚欣 对，甚至你可以看 GTC 发布会的后半段，几乎就是这样的主题。它后半段描绘的是未来已经到来了。 卫诗婕 所以它不是一个产品发布会，而是一个技术展望会。 姚欣 对，也是科技风向标，是科技的一个展望。我们有时候会吐槽，它已经变成一个期货发布会了，因为它说的东西都不是今天就能发行、就能发生的，可能要到明年你才能看得到。 卫诗婕 站在此刻，面向下一个十年，它未来压注的是什么？ ### The Four Ages of AI 姚欣 这次 GTC，我觉得它给出了一个很清晰的脉络，上次还没有讲得这么清晰。它讲了 4 个 AI。 第 1 个叫 Perception AI。实际上 Perception AI 是什么呢？就是 2015 年、2016 年大家熟知的、基于计算机视觉的 AI。AI 突然能够做人脸识别了，这个每个人的手机好像都用到了。四小龙做人脸识别、语音识别，这个叫感知式的 AI。 第 2 个阶段叫生成式 AI，就是 ChatGPT 诞生的 Generative AI。 第 3 个叫 Agentic AI，其实就是刚才讲的 Manus，实际上是 Agent 的一种，是一个在数字世界里面能帮你自动完成任务的智能体。 当然，这还是数字世界。如果有一天数字世界又能跟物理世界结合呢？比如我们在数字世界中间，可能没法真的帮我送外卖、下订单，但是如果有机器人结合呢？所以将 Agent 跟机器人结合之后，又形成了第 4 个 AI，叫 Physical AI，也就是物理 AI。 所以整个故事，我自己觉得已经把过去 10 年和未来 10 年都画在了这张图里。 卫诗婕 其实昨天晚上我也在看 GTC，看到很晚。我看到它其实给了一个曲线图：最早是 Perception AI，在这里；然后到 Generative AI，上升了一点；再到我们现在正在经历的 Agentic AI，又上升一点；最后它把 Physical AI 放在最高点，是这样一条折线图。 我很好奇，为什么是这样的路径？ ### Physical AI Follows Evolution 姚欣 这背后我自己的解读，好像没有官方解读，是我个人的解读。我觉得它有点像生物的进化逻辑。 你想想，最早的单细胞生物，开始先产生的是感光器官，实际上就是感官、眼睛，以及声音等。第 2 步开始产生一定的智慧能力，就是大脑开始逐渐发育，然后产生神经系统。 神经系统本质上是在感知外界，并控制你的身体运动。实际上，这就已经从 Generative AI 走向更加聪明的阶段了。包括这次 DeepSeek，能让你进行更多的深度思考，这就像大脑在发育。 接下来，生物开始长出手和脚。它逐渐从数字世界的手和脚，也就是 Agent，走到物理世界的手和脚，最后都变成机器人了。 所以这 4 个阶段，我觉得有点像生物进化的 4 个过程。 卫诗婕 我是另外一套理解。我觉得它很像我们接触到一个事物之后所做的一系列反射。 最早的图形识别，其实是我们的视觉，是我们接收到信息。接收到信息之后，我们要在大脑里过一遍，做一个计算和思考，这个我理解就是 Generative AI，也就是生成式 AI。 当我们大脑有了一个想法或者结果的时候，就会用一些行动。有一些可能是在脑海当中实践的，这个时候我在脑海当中已经做了一个回复，这可能就是 Agentic AI。它做代理，帮你操纵数字世界。 但是 Physical AI 指的就是我们要做出行动，然后改变物理世界。所以 Physical AI 还处在一个更遥远的进程里面。 我昨天也看到了这个折线图，觉得很有意思。而且昨天他也讲了很多 Physical AI，也讲了很多产业。 ### Nvidia Must Beat Physics 姚欣 我觉得大家跳出来看，为什么黄仁勋要渲染这一条？其实有他的压力所在。 最近他的股价也一直在被波动和挑战，他必须在每年的发布会上，让所有人都期待他给大家看到一个多么巨大的未来。这个未来能够消耗大量的算力。 如果站在 10 年后去看今天的英伟达，3 万亿美元都不是个事儿。这其实是它背后要表达的一个特点。 卫诗婕 的确。到最后，Physical AI 已经要实现物理定律的模拟了。一个物体在所有的模拟世界里面，它的整个弹跳、反射，以及所有的摩擦力，全都可以计算。 这块我自己觉得还是一个非常有想象力的想法。如果 Physical AI 真的 100% 实现，可能我们要问一个问题：我们当前这个世界是不是也是模拟出来的？我们今天所谓的真实，到底是真实还是一个模拟？ 而且我看 Physical AI 的时候，自己也会有一个感受：如果 Physical AI 真的实现了，像英伟达这样的公司，不是要吞掉整个物理世界的千行百业吗？它就真的变成一个超级无敌的大巨头。 姚欣 英伟达最终要对抗的是什么呢？是能耗。 最后对抗的是物理定律。所以你可以看到，它今年后来的所有发布，包括很多讲法，都在说：我如何面对最大的瓶颈，也就是能耗；我如何在特定的能源消耗情况下，让我的算力和 Token 输出持续增长 10 倍、100 倍。 这其实是它面临的最大挑战。 ### GTC Prioritizes Near Term Products 卫诗婕 我比较好奇的一点是，其实我们俩之前也聊过。我们本来预期今年 GTC 会大讲特讲机器人，尤其是人形机器人，但是我感觉昨天机器人相关的篇幅好像没有那么高。 姚欣 没有这么高。我还是觉得，第 1 个，它其实内部还是一直在做。包括去年发布的 Isaac Newton，这次不是也最后出了 Blue 机器人吗？ 但的确，我觉得英伟达更要解决当前的问题。现在投资者在问的是：你接下来马上要消耗多少算力？你别老给我讲通用人工智能、讲未来，那个可能 10 年后才会成为现实。告诉我今年能出多少货，明年能出多少货，这个是它面临的压力。 而且去年 GTC，也就是一年前发布的期货，GB200 已经发出了。但是 GB200 最开始的第一批，大家传出来它有散热问题，系统稳定性也存在一些问题，所以产生了忧虑。 再加上 DeepSeek 的冲击，大家有一段时间会担忧：我是不是整个算力架构会发生一些变迁？所以短期内，市场对它是一个挑战，你看到股价这么波动，也是这个原因。 但我觉得这次它为什么不把重心放在人形机器人上？因为它要解决当前面临的问题。它告诉大家，我马上要出的 Blackwell 增强版 Ultra，下一代原来定名的 X100 也已经定名了，叫 Rubin，我也会推出。 而且我觉得前几年都没有这样，一口气把未来 3 年的产品路线图，以及每个产品什么时候交货，全都写下来了。 卫诗婕 英伟达急了。 姚欣 对，就是急了，英伟达急了。 所以它还是用这种方式，向远在美国东岸的资本市场传递一些信息。我觉得这就是 GTC 会后的背后声音。 ### DeepSeek Reprices Nvidia 卫诗婕 话既然说到这儿了，我就要跟您大聊特聊一下我最近特别关注的一个话题。 大概从 DeepSeek R1 发布之后，我一直在观察英伟达的股价。资本市场上把它称为“1·27 惨案”，“1·27”指的就是当天英伟达市值出现大幅下跌。 我觉得这件事一方面反映了美国资本市场的一些特性和戏剧性，但另一方面，我们也看到了跟中国人很相关的一点：1·27 惨案源自一份非常有名的英伟达做空报告，被称为史上最成功的做空报告。 那份报告的中心主旨就是在讲，DeepSeek 的出现如何冲击英伟达的算力生意，它的高利润率和高市场占有率还能保持多久。 这个影响一直延续到现在，它的股价还在震荡。包括 GTC 发布会之后，股价还是在跌，而且还跌了。 所以您可以从专业角度给大家讲一下，为什么从 1 月份到现在，DeepSeek 如何冲击了英伟达的股价？也可以帮助我们理解，为什么今年 2025 年的 GTC，英伟达听起来压力这么大。 姚欣 我觉得黄仁勋今年上台的状态，跟去年也不一样。去年感觉他是在台上蹦着玩摇滚，今年就有一点…… 卫诗婕 去年我觉得他真的非常意气风发，觉得那是一场顺风球。 姚欣 对。今年可能能够感受到，好像步子还是很大，但迈起来沉重一些。当然，也有可能是我们的主观臆断。 这块其实跟行业内人士和投资者、行业外人士之间的信息差有关。 从 2023 年大模型开始发布，包括国内也开始“百模大战”，大家都开始做大模型，然后大量投入算力。2023 年到 2024 年，国家也在建设算力中心，全球各地都在买英伟达的卡。大家解决的一件事情，就是训练更大的大模型。 这是行业内的事情。但事实上，从去年的六七月份开始，在真正的 AI 圈内，大家开始传出一种声音：所谓大模型的规模效率，也就是 Scaling Law，在训练侧慢慢减弱了。 大家都认为，训练差不多快要到头了。典型的应该是到去年 11 月底，OpenAI 的首席科学家伊利亚主动宣布，他认为数据都快被用完了。如果大模型想再扩增 10 倍，难度会很大。 所以行业内已经形成了这样一个看法：从模型训练，迁移到模型应用，也就是模型推理服务。 但是这种迁移反映到资本市场和投资者那里，会有一个滞后的过程。大家还认为，英伟达就应该继续大量售卖芯片。 其实去年黄仁勋也极力教育大家，未来他的卡更多会用于推理，但架不住大家对大模型还有很多想象。所以在整个扭转过程中，我认为 1·27 惨案突然发生，不仅是英伟达，我觉得整个全球 AI 圈，包括 DeepSeek 的出圈，都让很多投资者和更多企业决策者意识到了一件事情： 原来现在的大模型能力已经不错了，开源模型已经做得很好了。接下来要卷什么？卷性价比，卷使用成本，卷应用，而不是一味追求性能指标达到多高，而是要追求应用落地。 这种变迁，跟之前投资者对英伟达股价预期之间产生了差距，所以导致了短期下滑。 但我认为，看完这次 GTC 会议，你能看到老黄这次 GTC 的核心主题里，几乎听不到“Training”这个词，替代它的是“Inference”，也就是推理、使用推理。 这次听得最多的词就是 Token、Token、Token，大量消耗 Token。他其实在描绘另外一个概念：当训练转向推理之后，英伟达依然是推理时代的王者。 甚至你们可能要消耗更多算力。它里面有好几页特别做了对比：同样的情况下，DeepSeek 这类模型和以前 ChatGPT 这类模型相比，Token 消耗多了 20 倍。回答同一个问题，要多花 20 倍的 Token，算力可能要多花 100 倍。 这不就可以支撑它所谓的“Buy More, Save More”吗？买得越多，省得越多。它是在说，未来会诞生更大量、上百倍的算力消耗，而英伟达依然是能够给你提供充裕算力的厂商。 这就是它想拼命传递的信息。 卫诗婕 但为什么股价又下跌呢？ 姚欣 就在于市场上还在打一个问号：真正走到推理市场之后，英伟达是不是还会像在训练市场一样垄断？ 大家还是有疑问。 卫诗婕 这个问题我们一会儿可以好好展开讲一下。 我也呼应一下您刚才讲的一个观点。去年我在做大模型相关选题的时候，跟您的同行、同样做 AI 基础设施的硅基流动袁金辉老师聊过。他有一个非常有代表性的观点，跟您刚才说的一样： 如果训练所需的算力是一池游泳池，那么推理所需的算力可能是一条河。也就是说，它是一个更大的消耗量。 姚欣 其实黄仁勋去年在 GTC 发布会上，就已经小小预告了推理时代的到来。 可能是因为去年我们还没有真正看到推理型模型的应用出来，但是去年年底、今年年初，DeepSeek 发布了一系列模型。包括年初我们刚才聊到 Manus，我们会觉得 Agent 到来了，AI 应用在 2025 年一定要来了。 所以这件事情已经从小范围共识变成了大共识。 卫诗婕 今天早上看 GTC 大会，除了刚才讲到的推理，还有没有什么比较有趣的事情？ 姚欣 我们刚才讲，好像没有预期当中那么多人形机器人，是因为人形机器人那个事情还有点远。他得先把近阶段大家的焦虑解释明白。 卫诗婕 对对对。我们一开始关注的时候，对比去年最后一幕，10 个机器人全部升起来，大家都在讲人工智能，包括讲元宇宙。甚至之前还有人传，这一次会讲量子计算。 姚欣 量子计算最近也有很大的一些推动，但这些所谓的推动，可能都要看 10 年、20 年的周期。 所以我觉得这次老黄整个选题都更加务实了。他不是最开头还在讲，这次我没有提词器，所有东西都没有背稿。 卫诗婕 怪不得我昨天看的感受就是，今年他吃螺丝吃得好多，不像去年那么通顺。 姚欣 而且我们自己在看他的很多产品线，我认为都是匆匆推出的。AI 这个行业的确变化很快，3 个月、3 个月，其实就是在不断考验大家的反应。 所以我觉得他也开始变得更加敏捷和快速，快速调整，快速适应。 ### Dynamo Builds an AI Factory 卫诗婕 我看他这次推出了一个所谓 AI 工厂的新操作系统，叫 Dynamo，是吧？ 姚欣 Dynamo。 卫诗婕 Dynamo 是你说的这种临时反应的成果吗？ 姚欣 我认为是，而且我认为跟中国有关系。因为 DeepSeek 把它催生出来了，这是我的解读。 首先，这次老黄又造了一个名词，给原来一个我们很熟悉的东西升级了。以前熟悉的东西叫数据中心，IDC。后来大家说，我放的都是 GPU，把它升级成了 AIDC，也就是智算中心。 这次连智算中心都觉得这个词不够高级，又起了一个新名字，叫 AI 工厂。 老黄的原话是，他认为未来我们需要两种工厂。第 1 种是生产物理世界真实物体的传统工厂，送进去原材料，出来就是锅碗瓢盆，以及各种各样的使用品。 第 2 种叫数字工厂，也就是 AI Factory。进去的都是各种各样的数据，出来的是各种模态，包括音频、视频和各种生成内容。 未来大量 Token 的生成，都是由这类工厂来完成的。 像传统工厂一样，你要追求生产线的效率。比如流水线能不能提高工作效率，能不能 24 小时连续运转，甚至一条产线能不能生产出更多的东西，同时生产出更多 iPhone 和其他设备。 它追逐的也是这样一件事情：如何让这些数据中心、智算中心、AIDC，在单位时间和特定能源限制的情况下，产生出更多 Token。 它把 Token 当成未来新的计价单位，或者说商品的最小计价单位。只要能够生产出更多 Token，就证明投入产出比足够好，这样它的卡就更好卖。 那 Dynamo 是什么呢？Dynamo 可以理解为 AI 工厂的操作系统。它其实是一套软件，解决的是如何把数据中心里大量的英伟达 GPU 更加高效地利用和管理起来。 我们后来快速看了看它的 PPT，里面有几段介绍，比如里面有一些专业术语，像 PD 分离、专家并行。这一类术语，恰恰在不到 1 个月之前，DeepSeek 做了一个 2 月份的开源周。 DeepSeek 在发布 R1 之后，把底层是怎么运作的、为什么推理速度能这么快，做了一个开源解释。它连续发布了 1 周，把每个功能部件都进行了说明。 我能看到，今天的 Dynamo 和 1 个月之前 DeepSeek 的这一套开源组件有异曲同工之妙。甚至你可以认为，Dynamo 就是之前那一系列开源组件的又一次组合。 卫诗婕 而且我们知道，作为硬件厂商，它肯定有一个长周期。黄仁勋不可能突然预料到 3 年后要做什么卡。 但是这套东西，在去年发布会，甚至半年前的很多媒体沟通会，包括今年年初 CES 的会议上，都只字未提。 我们甚至猜测，团队在看到 Dynamo 的时候还觉得，它有点像 Kimi 发布的 Mooncake，里面很多架构和术语都很像。 姚欣 当然，这些都是开源的，所以我觉得这块确实有可能存在借鉴和参考。但这也从侧面说明，英伟达这个团队真的非常快速、非常敏捷。 他们可以把 1 个月、2 个月之内行业里的新共识和新产出，快速集成到自己的系统里面，也在快速迭代。 卫诗婕 我觉得大家都会共同认为，分布式推理会成为每一个大模型，以及每一个像我们这样做大模型服务、AI 服务的厂商的标配。大家都会沿着这条路线走。 能给大家解释一下什么是分布式推理吗？ ### Distributed Inference Rewrites Deployment 姚欣 我可以解释一下，现在的大模型是如何走向分布式推理的，也稍微解读一下 DeepSeek。 DeepSeek 这次做了一个很重要的创新。DeepSeek 满血版是 671B，它并不是一个单一的数千亿参数模型，本质上是由数百个小模型构成的。我们把它叫作专家混合，也就是 MoE。 实际上，它由很多小型专家组成。每个小型专家可能是 7B 参数，也可能是 20B 参数。每个专家适合做一类任务，有的特别适合内容整理，有的特别适合逻辑推理。 正常部署一套 DeepSeek 时，原本可能是把所有专家放在一台机器上。或者说，有 100 个专家，就找 100 台机器，每台机器部署一个专家。 但这会带来一个问题：每个专家被调用的频率和可能性是不一样的。有的专家会经常被访问，有的专家很少被访问，这就会导致 100 台机器的利用率不同，有的利用率不够，有的则太闲置。 DeepSeek 做的事情，就是按照专家的使用率进行再分配。可能把一些相对较少被调用的专家集中部署，而把其他专家分散部署。 这套架构就变成了：未来运行大模型应用时，依靠的不是一台机器，而是一个小型集群，比如 10 台、100 台机器。 这次英伟达推出 Dynamo，也是这样一套思路。英伟达卖机器时，可以卖一张单卡，也可以卖一个集群。比如这次有一个叫 NVL72 的产品，实际上就是把 72 张卡连接在一起的一个集群。 现在它不仅把集群卖给你，还给你卖一套部署软件 Dynamo，告诉你如何自动实施各种最佳部署实践，实现算法最优化，以及所有算力的最优调度和使用。 所以这套思路明显是为推理优化而生的，跟以前做大模型训练的技术路线是不一样的。 卫诗婕 的确，这就是今天大家在考虑推理时，为什么会走向这种分布式结构：在一个集群内，不同机器去做不同的任务。 这听起来很像共享经济。你把调用多的专家放在一批，把调用少的专家放在一批，然后为它们量身定制一种牵涉算力的方式。 姚欣 其实这是我们做计算机系统结构时的一种标准思路。今天如果单机性能不够，就要靠多机来执行；但一旦多机化之后利用率不足，就要开始不断调度。 云计算就是这样。这里的“机”也可以指卡，你可以说多台机器，或者多台机器上的多张卡。 传统云计算也是一种共享。为什么当年会有云计算？因为企业自己买一台服务器，跑自家的任务，可能白天跑完了，晚上没有人用，存在潮汐效应。 但如果放到公有云上，另外一个客户可能在你的低谷期使用，这样大家的综合利用率就提高了，比自己买一台机器部署便宜得多。 所以这种共享和组合，在很多计算架构设计里面都有这样的思路。 卫诗婕 算力的共享经济。 姚欣 对，也是这样。 卫诗婕 所以您觉得，新发布的 Dynamo 可能就是您刚才说的这个意思，可能有所借鉴？ 姚欣 我觉得应该是形成了行业共识。我相信不仅是 DeepSeek、Kimi，包括海外很多新的模型厂商，可能在过去半年里，早就用这种方式进行内部部署了。 我觉得这次无论是 DeepSeek 的开源，还是英伟达在 GTC 发布的 Dynamo，都证明了这条路线的可行性，也会鼓励大家向这条路线迁移。 卫诗婕 这也是我很感兴趣的一个话题。今天早上看发布会，可以说英伟达的当下和 DeepSeek 是强绑定的。很多质疑都是由 DeepSeek 引发的，但在 GTC 这场会议当中，还是没有太多提到 DeepSeek，几乎没有吧？ 姚欣 对，也没有正面回应市场的这些质疑。但是听下来，我觉得黄仁勋在用自己的方式默默回应这些质疑。 他没有正面回应，但其实在努力消除大家的误解。 比如发布会一开始，他先讲主流云厂商去年买了他的 Hooper，一共 120 万张，现在已经订了 360 万张 Blackwell。这是在给资本市场传递信息：它们还在不断增加投入，而且是大幅投入。 第 2 个，他又继续讲，接下来因为 DeepSeek 这类模型走向 reasoning，也就是走向深度思考的推理模型，它们单位时间消耗的 Token，比以前的问答要多 100 倍，所以算力需求会更多。 因此，英伟达可以变得更好。 第 3 层，他又在讲，我还推出了 Dynamo。你们说 DeepSeek 好，我也向它学习，我也快速参与竞争，我都做好了，你还不让我股价涨一涨吗？ 所以 Dynamo 很有意思。它首先说明，我愿意听到你们所有的声音，我都听到了；而且我主动学习，很快就学到了；我仍然保持着市场领先地位。 ### Nvidia Moat Faces Reality 卫诗婕 去年的大会，的确是在整个生成式 AI 的加持之下，包括大家对人工智能无限想象的情况下，达到了最高的顶点。 今天我觉得，AI 所谓的高预期也在慢慢回落。您不觉得吗？ 姚欣 我认为这在科技发展史里面非常正常，而且这才标志着科技走向成熟。 在科技发展路线里面，有人总结过一条曲线，叫 Gartner 技术炒作曲线，也叫 Hype 曲线。它说每一款技术诞生之初，我们都会有过高的预期，然后慢慢炒作。 但炒作的速度超过了技术进步的速度，这时候就会出现预期落空的过程，所以曲线会滑落。 但不要觉得滑落就是坏事。泡沫破灭根本不是坏事，恰恰相反，它是在挤掉水分，让大家更加脚踏实地、务实地做事。 这个时候，技术在进步，我们的预期也变成合理预期，反而能够走向真正的光明期。 我能感觉到，整个大模型从造神、造更大的模型、Scaling Law，到去年那套叙事逻辑，再走到今天讲 AI 工厂、讲生产力、性价比、讲模型消耗，看似没有那么性感，但在逐步落地。 实际上，这也让我们看到，未来 1 年、2 年之内，AI 真的可能进入并改变我们的生活。它会像移动互联网、互联网一样，润物细无声地全面使用起来。 因为它足够便宜，性能也已经被验证，再加上产业界有这么多共识，包括 DeepSeek 开源带来的影响。我觉得我们作为行业参与者，或者作为普通用户，反而应该对未来更有信心、更有期待。 卫诗婕 我非常认同。刚才您讲的这条曲线，让我想到其实很多伟大的公司都是诞生于寒冬。 大家可以仔细想一想，为什么它们诞生于寒冬？往往是在市场水分被挤掉之后，在一个非常冷静的状态下，它们才能有这样的做事状态。 姚欣 对。 当年英伟达在 10 多年前，我印象还很深。那时候我还在做投资人，在蓝驰做投资。我发现我们投的这些初创公司，英伟达的工程师都会进去，给他们培训怎么用 CUDA 做 cuDNN，也就是基于 CUDA 的深度学习网络。 卫诗婕 高标准的售后。 姚欣 对，甚至包括高校，大量高校，包括中国的高校，都可以直接免费申请，英伟达会免费送给你，送很多张 1080，请你使用。 英伟达在 10 多年前靠这种方式，捕获了大量开发者的心。就像我们当年学 C 语言，学会之后就一直想用 C、C++，不想再切换一样。 卫诗婕 但我在写英伟达那本书的时候，看到一个小细节。 当年 Jeffrey Hinton 的学生训练大模型需要卡，Hinton 专门为此给英伟达写了一封信，说：“你们送我一张卡，我就对在座所有学术会议的参与学者说，让他们使用英伟达。” 但是英伟达拒绝了。 姚欣 那个时候还太早了，那是 2011 年、2012 年的时代。 卫诗婕 对，但架不住后来它的反应确实非常快。 姚欣 我觉得在上一波深度学习浪潮的时候，英伟达的反应就非常迅速，开始大量投入。 卫诗婕 您说的上一波，是指 2015 年、2016 年那一波？ 姚欣 对。刚才那个故事更早，因为那是 2013 年之前的事情。当时甚至连深度学习都还没有真正进入视野。 但当深度学习被行业接受之后，我能看到英伟达在那一波进行了大量投入。它得到的结果就是，现在全球所有做 AI 研究的高校、学者和算法工程师，可能都会默认先调一个基于 CUDA 的版本。 如果调通、做好了，再平移到其他平台；其他厂商则都要做适配。 所以基于这一点，它形成了很强的护城河。 这个护城河在今天大模型时代的早期也依然很强。过去两年有上百个大模型，每个模型、每张卡都去适配，难度太大，所以大家觉得兼容 CUDA 就好了。 但是随着“百模大战”结束，现在很多模型厂商都宣布放弃预训练。以后我们的基座模型，我认为会像手机操作系统，或者当年的 PC 操作系统一样，可能就剩几款。 就像今天的 iOS、安卓，以及 Windows、Linux。当基座大模型变成几款，底层模型数量缩小之后，硬件厂商适配它的难度就会减少。 这样一来，所谓 CUDA 兼容性的壁垒就会慢慢下降。甚至再往上，大家都走向 Agent 编程之后，对底层的关注会更少。 我认为，如果放到 10 年来看，英伟达的软件护城河还是可以被突破的，而且正在慢慢消融。 卫诗婕 所以您刚才提到，AMD 现在跟英伟达比起来，硬件上有性价比，但是生态上还差一口气。但您又提到，未来这些年英伟达的生态壁垒可能会慢慢下降。 姚欣 随着整个模型开始标准化和集中化之后，大家会说，我用 AMD 也能兼容，英伟达也能兼容。 它面临的挑战，就会变成毛利率下滑，业务进一步被更多性价比解决方案追赶。所以它的确不好过。 虽然它看起来很风光，估值这么高，但大家对它的期望也高。它今天有 80% 到 90% 的毛利率，25 倍、30 倍的 P/E，这能不能坚持 10 年、20 年？ 在科技历史上，这样的公司非常罕见，几乎没有公司能够长期维持这么高的毛利率。它也面临着这样的挑战。 卫诗婕 我记得凯文·凯利之前说过一句话：没有任何一个科技巨头会长期处在垄断地位，在整个科技史当中都是这样。 姚欣 这就是科技有魅力的地方，永远有后来者的新生力量。 就像今天我们聊到的，英伟达现在不停下注下一个 3 年、下一个 5 年、下一个 10 年。但难道所有的未来，都只能在这些大公司里面看到吗？ 卫诗婕 对呀。像今天的 DeepSeek，包括刚才讲的 Manus，以及中国诞生的这些新力量，很可能你的创业对手根本还不在牌桌上，可能还在车库里、实验室里，在你完全不会注意的地方。 姚欣 往往真正最有威胁的力量，都是从没有被关注到的领域里发生出来的。 卫诗婕 这让我想到一个话题，也是我之前看书时印象特别深刻的一个细节。 黄仁勋认为，祝福别人就是祝福你去承受痛苦。他对于痛苦的忍耐力，会让我觉得，也许英伟达当下的状态，恰恰是他的舒适区。 姚欣 我觉得英伟达其实也是起起伏伏很多次。像刚才说的 2017 年、2018 年，它也经历过股价下滑，但黄仁勋依然一步一步看好 AI，持续下注。 去年我看 GTC 大会，他把 Transformer 的 8 位作者都找了过来，要纪念 2017 年，因为那一年论文发表，也是英伟达上一个高峰期。 但谁能想到，当年的落寞，最后又造就了今天英伟达的崛起呢？ 卫诗婕 所以它后来是怎么从落寞当中翻身的呢？ 姚欣 我觉得还是这一波 AI 的技术路线和大的技术框架。它下注的大逻辑没有错。 刚才我们讲到，从图形计算走向并行计算，再走到通用计算，这是计算架构变迁的一个大趋势，持续了 10 多年、20 年。 今天依然是并行计算、通用计算，走向更多的加速计算。新的时代里，很多做应用、做算法的人，都会往这个方向去架构和设计。 包括我们公司自己也在做分布式计算，其实也是并行计算的一个分支。 甚至我们能看到，计算架构有一个特点，就是“分久必合，合久必分”。 拉长时间去看，七八十年代，那时候我才刚刚诞生，大家做的是集中式的大型计算。当时 IBM 做的大型机，一台机器跟这个房间一样大，什么东西都装进去了。 二十年前，银行保存的所有数据，基本都用大型机。但大型机后来被谁替代了？被一系列 PC 机替代了。 我今天组装 20 台 PC 机，性能可能就跟你的一台大型机一样。这台 PC 专门做存储，那台专门做打印服务，另一台专门负责访问。几十台凑在一起，就可以迭代。 这是 90 年代 PC 替代大型机的浪潮，本质上也是用分布式结构替代集中式结构。 但慢慢又开始集中。集中又是谁做的呢？谷歌提出了云计算。 它说，我今天把 1 万台服务器放在一个机房，把它们互联起来，形成一个超大的云。后来变成 1 万台、10 万台、100 万台，直到今天最大的云计算。 现在如果你去大型数据中心，光散热的能耗就能达到总能耗的 40% 以上，这证明计算已经超级密集了。 但这种计算在未来几年又会被打破。随着自动驾驶、物联网、机器人，以及各种各样的设备出现，你会看到算力并不一定搭载在一个核心位置，而是会走向边缘侧、设备侧。 甚至我们的手机上也可以运行小参数大模型，做图片处理、声音录制等事情。 所以我认为，计算架构 20 年的变迁，是最重要的底层旋律。英伟达从 2000 年开始抓住并行计算、分布式计算和加速计算的浪潮，才有了今天的成功。 至于其他过程，的确，如果想要成功，必先要“苦其心志”。这就是英雄成功的必经路径。 ### China Reshapes Nvidia Future 卫诗婕 现在中国用户非常关注的一件事情，就是之前被热议的 DeepSeek 会不会给算力版图带来非常大的变革效应。 我想知道，这个变革效应是真的存在吗？ 姚欣 我觉得第 1 个，已经呈现出来了。 今天这次 GTC 发布会，我所在的行业主要做基础设施，也就是在 GPU 之上部署一套云服务，同时把大量模型集成起来，向大家输出 Token。 我们输出 Token，首先要追求越来越便宜，因为只有这样，大家才能轻松用起大模型。 第 2 个，我们还需要足够的弹性。你不知道用户会涌过来 1,000 万，还是 1 亿，但你都要能够承载得住。 这种需求的变迁，实际上是 DeepSeek 在今年 1 月之后才明显感受到的。特别是国内的需求开始大量响应进来。 今天在国内以前很难进入的很多领域，比如政企客户、教育行业、医疗行业，也开始拥抱 AI 了。以前可能更多是互联网行业、数字经济行业在拥抱，现在各个行业都在拥抱 AI。 所以我觉得这是一次大众的、破圈式的教育，首先把需求侧激发起来。只要有了需求，剩下的事情交给我们这些工程师完成就好了：怎么降本，怎么增效，怎么提升性能。 我觉得这会带动整个 AI 产业链上下游的发展。以前可能只有卖算力芯片、卖卡的能够收益，接下来很多做模型服务、算力调度管理、垂直模型开发的软件厂商，也会大量受益。 这样就能带动整个行业健康、持续地发展。 卫诗婕 这次 DeepSeek 公开的论文当中，有人留意到一些细节：他们应该有工程师对 CUDA 的底层进行了优化。 也就是说，DeepSeek 的模型用了 CUDA，也用了英伟达的芯片。他们做了一个相较于一般模型公司来说比较底层的工作，把底层基础设施重新做了结构上的优化，可能通过一些工程方式实现。 我认识的一位 AI 应用公司负责人评价说，世界上能够胜任这份工作的人屈指可数。我不知道他说得对不对。 姚欣 我觉得第 1 个，的确要认可 DeepSeek 这个团队。 这个团队不是我们常见的、仅仅由科学家构成的大模型算法团队。你要看到它背后的母公司幻方。 幻方是做量化基金的。了解量化基金的人都知道，这是一个非常比拼工程效率的行业。 对他们来说，每一天股市高频交易，如果能比竞争对手快 0.1 微秒、零点几毫秒提交进去，就能挣到钱。每次挣的钱都很少，但可以大量累积起来。 做高频量化交易，非常要求对底层系统性能进行优化。很多量化交易公司甚至会自己搭数据中心，自己搭建整套技术架构，不会去买一套标准服务。 幻方就是这样的企业。我们知道，2021 年它就在买 A100。在大模型这一波炒作之前，国内 2023 年我就听说它手里有 1 万张卡。 它当然是用这些卡做自己的量化交易，但它同时具备从底层优化硬件、提升性能的能力。所以才会有你刚才说的那一系列成果。 首先，我觉得要肯定：正是因为幻方对底层基础设施有巨大的理解，才促成了今天 DeepSeek 的高效率。 但第 2 个方面，对于刚才你引用的同行观点，我不完全同意。 并不是全世界只有几个人能做这件事。因为对于底层优化，大家各有专长。很多做应用的厂商，可能并不太关注这个部分。 举个例子，我当年做 PPTV。因为我们诞生得太早，2004 年成立的时候根本没有云。我们从底层搭服务器、搭硬件、做操作系统，包括到 2010 年、2011 年，那时候大家还不知道云是什么，我们就已经把所有东西都构建在云之上了。 当年我们也做了很多底层优化。只是后来公有云普及后，互联网创业者幸福多了，不需要再做底层，不需要养基础设施团队，调用各家云的能力就行了。 所以我认为，具备这种能力的企业还是很多的，特别是有 10 年以上深厚技术积累的团队。 还有一个细节，刚才你的描述不够准确：DeepSeek 并不是真正意义上绕过了英伟达。 我的观点是，DeepSeek 跟英伟达的架构其实绑得更紧了。 CUDA 是一个整体框架，上层直接给你封装好了很多接口。大部分开发者直接调用一个接口就行了，就像调用 API、调用动态库一样。 但这个动态库毕竟是 CUDA 官方写好的，它发挥底层硬件性能的效率是一个固定值。 而幻方这个团队具备优化能力，所以它调用了 CUDA 里面一个叫 PTX 的语言。你可以把 PTX 约等于汇编语言。 我们都知道，汇编语言的效率肯定比 C 语言更高。它其实是用汇编语言的形式操控英伟达底层硬件，才实现了性能效率的提升。 但正是因为用了 CUDA 里面的这套汇编，也意味着这套汇编语言可能更多是 Only for 英伟达，也就是只适用于英伟达这套体系。 所以我觉得，DeepSeek 更多是向大家展现了一套通过系统架构和技术，往更深层次做工程化优化、挖掘巨大潜力的路径。这种展现对行业的启发可能更重要。 卫诗婕 明白。 不过我们刚才讲到 Dynamo，其实也印证了 DeepSeek。或者说，今天我们在中国仍然持续看到很多新生力量。 由于国际之间科技竞争的关系，我相信中国市场对于英伟达来说，是不是前所未有的重要？ 姚欣 对。在美国商务部封禁中国市场的芯片出口之前，中国是它最重要的市场。 从它的财报来看，当时全球芯片销售市场中，每年大概有 24% 转向中国。 卫诗婕 这个数字后来应该跌到 10% 以下了。 姚欣 对，因为很多芯片禁售了。 所以对它来讲，你能看得到黄仁勋有多么拼命。前段时间他还穿了个大花袄，包括英伟达公司开年会。 不光是英伟达，全球这些商业巨头对中国来说都是这样。中国是一个巨大的消费市场，是不可或缺的市场，是所有人都要争夺的市场。 所以这次 GTC 一开始发布预告的时候，不是还有 China AI Day 吗？ 卫诗婕 因为我们在中国，所以我问了现场的同事：有没有 China AI Day，会不会有专门的 Panel，专门面向国内？ 姚欣 现场同事告诉我没有。而且不仅如此，英伟达大会和赞助厂商的现场展台里，基本没有中国公司的展台。 除了联想，因为联想还卖服务器，算是英伟达的合作伙伴。现场没有任何一家中国公司在应用侧和模型侧进行展示。 我觉得这也是当前地缘政治环境下的产物。 China AI Day 更多是在线上的。它的时间是在北京时间晚上 9 点半，实际上美国那边已经是半夜了，所以不会在当地会场，而是通过线上、以中文的方式进行。 这也算是英伟达向中国开发者和中国市场示好，是在取悦中国开发者、取悦中国市场。 卫诗婕 所以你们在前方 GTC 现场，会觉得今年的 GTC 有什么不一样吗？ 姚欣 我觉得今年的 GTC，跟去年相比，现场的情绪确实暗淡了一些。 大家没有看到那么 Fancy。去年第一次开会的时候，还先放了一段音乐，黄仁勋摇滚着登场，大家感觉像进入了一个文艺范儿的现场。 这次一上来就在讲：你看，我们的卡卖了很多很多。上来就谈商业、谈 Business，非常实用。 另外一点，虽然大家不讲中国，但是中国对于整个硅谷，我认为已经产生了冲击。 卫诗婕 是的。 姚欣 包括刚才讲的 Manus。在国内我看到很多批评它的文章，但是我发现，在硅谷很多人还是会觉得，他们也在关注。 我们有一个朋友是 YC 孵化器的创业者，他说很多人都在找 Manus 的邀请码，也想试一试。 硅谷大量产业界人士已经意识到，中国是一个不容小觑的竞争对手。他们也觉得，要跟中国公司比性价比，比产品和服务，这也是非常重要的环节。 卫诗婕 这一点的确可以看到，在全球竞争环境里面，目前 AI 只有中美两家最具备综合竞争能力。 姚欣 所以我觉得，我们也需要对自己更有自信一些。 我们在追赶，但这个追赶的差距确实越来越小。而且在走向应用、走向场景专业化，甚至走向数据优势的时候，中国企业的优势越来越大。这些都正在发生。