29.直击 2025 GTC(下)|王冠之重,黄仁勋如何回应一切质疑?
- 英伟达在 2025 GTC 上把核心增长叙事从 training 切换到了 inference。 姚欣称,行业从 2024 年六七月起已意识到训练侧 scaling law 边际减弱,DeepSeek 的出现则把这一判断推成大众共识:下一阶段要卷性价比、应用与 token 成本。黄仁勋几乎不再讲 training,而是反复讲“token token token”,并用单次回答约 20 倍 token、可能 100 倍算力的口径证明推理仍需要海量计算。
- Blackwell Ultra、Rubin 与三年路线图背后,是资本市场要求英伟达立刻证明出货与增长。 GB200 首批产品曾传出散热和系统稳定性忧虑,DeepSeek 又引发架构变迁疑问,因此机器人让位于更近的交付承诺:主流云厂商去年买了约 120 万张 Hopper,如今已订约 360 万张 Blackwell。“告诉我今年能出多少货,明年能出多少货”才是当下压力,姚欣的概括是:“英伟达急了。”
- DeepSeek 冲击的关键,不是算力需求消失,而是英伟达能否把训练时代的垄断复制到推理市场。 卫诗婕引用袁金辉的比喻:“训练所需的算力是一池游泳池,推理所需的算力可能是一条河”;但河里的计算更分散、更重调度,也让 AMD 等性价比方案获得了挑战空间。GTC 后股价仍跌,说明市场尚未接受“买得越多,省得越多”的全部逻辑。
- Dynamo 是英伟达对推理时代最具体的软件回应,也可能是一次受中国开源实践推动的快速追赶。 它把数据中心包装成生产 token 的“AI 工厂”,其介绍中出现 PD 分离、专家并行等术语,并用于管理集群、优化部署与利用率;姚欣认为其思路与 DeepSeek 二月开源周的组件“异曲同工”。卫诗婕还猜测部分架构像 Kimi 的 Mooncake,姚欣则表示开源项目之间可能存在借鉴。NVL72 卖出 72 张卡组成的集群,Dynamo 则补上部署、调度和利用率优化。
- DeepSeek 展示的是系统工程挖潜能力,而不是绕开了英伟达。 幻方的量化背景使团队长期重视底层效率;其调用 CUDA 内近似汇编语言的 PTX,把硬件性能压得更深,却也意味着代码可能更“only for 英伟达”。姚欣不同意“全球只有屈指可数的人能做”的说法,认为许多拥有十年以上 infra 积累的团队都具备类似能力。
- CUDA 的生态壁垒仍强,但基座模型集中化正在降低跨硬件适配成本。 英伟达曾靠免费送卡、工程师驻场和 cuDNN 培育开发者,形成“先调通 CUDA,再迁移别的平台”的默认路径;未来基座模型若收敛为少数几款,AMD 等厂商逐一适配便容易得多。姚欣因此判断,十年尺度上软件护城河会逐渐消融,百分之八九十的毛利率与 25—30 倍 P/E 很难被视为永久状态。
- perception、generative、Agentic、physical AI 四阶段,把英伟达的长期 TAM 一直推到物理世界。 姚欣把它比作生物从感官、大脑到数字手脚、实体手脚的进化,卫诗婕则理解为感知、思考、代理、行动的完整反射链。physical AI 若要模拟摩擦、弹跳和全部物理定律,最终瓶颈不是想象力而是能耗:“英伟达最终要对抗的,是物理定律。”
- 中国既是英伟达失去的一块重要市场,也是迫使硅谷加速迭代的技术压力源。 姚欣称,从财报印象看,中国曾占英伟达全球芯片销售约 24%;卫诗婕补充禁售后跌至 10%以下,姚欣解释说这是因为很多芯片被禁售。本届现场除联想外几乎没有中国展台,China AI Day 也转到线上。可硅谷仍在争抢 Manus 的邀请码,并开始正视中国在性价比、应用场景与数据上的优势:“虽然大家不讲中国,但是中国对于整个硅谷产生了冲击。”
1. 英伟达的基本盘,是提前押注哪里会需要海量计算
姚欣把起点追溯到约 2000 年:GPU 原为 Graphics Processing Unit,Bill Dally 等学者却提出 GPGPU,把并行结构用于视频、科学计算和生物模拟。黄仁勋将 Dally 挖为首席科学家,英伟达由显卡走向通用计算。
约 15 年前,英伟达曾尝试把整块芯片放进移动设备,但因耗电转向掌机,后来用于 Switch、汽车和早期自动驾驶模拟;2016 年黄仁勋又向初创期 OpenAI 捐赠 AI 服务器,由 Elon Musk 签收——姚欣称这是一家公司“持续下注未来”的缩影。
GTC 因而不只是产品会,更像技术展望会,甚至被吐槽成“期货发布会”:今天宣布,明年才可能看到。黄仁勋售卖的并非单一芯片,而是下一批会吞噬计算量的场景。
姚欣用“分久必合,合久必分”概括底层周期:IBM 大型机的集中计算被 PC 集群分散,Google 云又把百万服务器集中;自动驾驶、物联网、机器人和手机端模型则可能再次把算力推向边缘。英伟达抓住的是并行、分布式与加速计算这条二十年主旋律。
2. 四种 AI 把增长终点推向物理世界,但能耗决定上限
黄仁勋给出的路径依次是 perception AI、generative AI、Agentic AI 和 physical AI:从人脸、声音识别,到 ChatGPT 式生成,再到能在数字世界完成任务的 agent,最后让 agent 借机器人进入物理世界。
姚欣的个人解读是“像一个生物的进化的四个过程”:先长出感官,再发展大脑和神经系统,然后拥有数字世界的手脚,最终拥有实体手脚。卫诗婕补充了另一套理解——接收信息、计算思考、形成代理行动,最后真正改变物理世界。
physical AI 的野心,是把弹跳、反射、摩擦等物理规律全部纳入模拟;这也引出两人的终极追问:“我们今天的所谓真实,到底是真实还是一个模拟?”但商业瓶颈更现实:大型数据中心仅散热就可能占约 40% 能耗,英伟达必须在固定能源下把 token 产出提升十倍、百倍。
3. 机器人让位于出货路线图,因为黄仁勋先要回答眼前质疑
两人原本预期大会会大讲人形机器人,实际篇幅却低于预期。姚欣认为,不是英伟达放弃 physical AI,而是投资者此刻不愿只听十年故事:“告诉我今年能出多少货,明年能出多少货。”
一年前预告的 GB200 已开始出货,但首批产品传出散热和系统稳定性忧虑,DeepSeek 又让市场怀疑算力架构是否生变。黄仁勋因此集中推出 Blackwell Ultra,并把原先称为 X100 的下一代正式命名 Rubin。
更异常的是,英伟达一次性列出未来三年的产品和交货时间。姚欣反复强调这是压力信号:“英伟达急了”,路线图也是写给美国东岸资本市场看的答卷。
现场气氛也从去年的“摇滚顺风球”转为务实商业会。黄仁勋称自己没有提词器,表达中停顿、口误更多;姚欣感觉部分产品线“匆匆在推出”,反映 AI 行业以三个月为周期逼迫巨头快速调整。
4. “1·27”把行业内共识突然传导给了资本市场
卫诗婕把 DeepSeek R1 发布后的英伟达暴跌称为资本市场口中的“1·27 惨案”,并提到一份被称为“史上最成功”的做空报告:它质疑低成本模型会否击穿英伟达的高市占率与高利润率。
姚欣指出,AI 从业者与外部投资者之间存在时间差。2023—2024 年行业仍在建设智算中心、争训更大的模型;但从 2024 年六七月开始,业内已在讨论训练侧 scaling law 变弱,到了 11 月底,OpenAI 的 Ilya 又表达过数据“都快被用完了”的判断。
真正的迁移是从模型训练走向模型推理和应用,只是资本市场较晚才看见。DeepSeek 的破圈让企业决策者意识到:开源模型能力已经不错,接下来要卷的是性价比、使用成本和落地,而不只是更高的性能指标。
卫诗婕引用硅基流动袁金辉的形容:“训练所需的算力是一池游泳池,推理所需的算力可能是一条河。”推理总量可能更大,却不再完全遵循集中训练的同一套架构,这正是英伟达机会与风险同时放大的地方。
5. 黄仁勋用订单和 token 回应 DeepSeek,市场仍追问垄断性
发布会开场先报商业数字:按黄仁勋所述,主流云厂商去年购买约 120 万张 Hopper,目前已订购约 360 万张 Blackwell。其潜台词是,客户并未停止投入,订单反而仍在大幅增加。
黄仁勋随后把 reasoning 模型改写成算力利好:一处对比称,同样回答下 DeepSeek 类模型可能多用约 20 倍 token、消耗约 100 倍算力;另一处又用“单位时间百倍级 token”强调增长。他把结论浓缩为“buy more, save more”——买得越多,省得越多。
GTC 后股价仍下跌,说明疑问尚未消失:训练市场几乎由英伟达定义,但分布式、成本敏感的推理市场是否仍只能选它?姚欣认为,这个问号而非“推理不需要算力”,才是估值震荡的核心。
6. Dynamo 把数据中心变成以 token 计产量的“AI 工厂”
黄仁勋把 IDC、AIDC 再升级为“AI factory”:传统工厂送入原材料、产出锅碗瓢盆;数字工厂送入数据,产出文字、音频、视频及各种 token。token 由此成为数字商品的最小计价单位。
工厂竞争的关键不是装了多少卡,而是在特定能耗和时间内能产出多少 token,能否让设备 24 小时运转。姚欣认为,这个看似不性感的表述,标志着行业从“造神”转向生产效率和投入产出比。
Dynamo 可以理解为 AI 工厂的操作系统:它管理大量 GPU,优化数据中心的部署、调度和利用率;其介绍中出现了 PD 分离、专家并行等术语。
姚欣明确把“受 DeepSeek 推动”标注为个人解读:他认为 Dynamo 与 DeepSeek 二月开源周展示的组件“异曲同工”;卫诗婕还猜测其部分架构像 Kimi 的 Mooncake,姚欣回应说这些都是开源的,可能存在借鉴和参考。由于这些内容在半年前沟通和年初 CES 均未出现,他推测英伟达可能快速吸收了近一两个月的行业成果。
7. 分布式推理把大模型拆成专家,也把单机生意改成集群生意
姚欣以 DeepSeek 满血版 671B 解释 MoE:它可理解为由数百个小专家组成,不同专家可能是 7B、20B,分别擅长内容整理或逻辑推理,而非每次请求都调用全部参数。
若把一百个专家平均放在一百台机器上,热门专家会拥堵,冷门专家则闲置。DeepSeek 的办法是按调用率重新分配,把低频专家集中、高频专家分散,让十台乃至一百台机器共同服务;卫诗婕称之为“共享经济”,姚欣也认可这是“算力的共享经济”。
NVL72 把 72 张卡作为集群出售,Dynamo 再交付自动部署与调度实践。英伟达由此不只卖单卡,还卖集群及其软件管理层;这是一套“明显为推理优化而生”的路线,与训练大模型的技术重点不同。
8. AI 预期降温不是终局,而是应用开始接管产业链
姚欣借 Gartner Hype Cycle 解释 GTC 气氛转暗:新技术诞生时预期上涨快于实际进步,随后会出现预期落空、曲线滑落;“泡沫破灭根本不是个坏事”,它会挤掉水分,让技术在合理预期中走向成熟。
从 scaling law、超大模型转向 AI 工厂、成本和 token 产能,表面上不再性感,却意味着能力已经验证、价格足够便宜。姚欣预计,未来一两年 AI 可能像互联网和移动互联网一样“润物细无声”,进入大量日常场景。
DeepSeek 之后,国内政企、教育和医疗等此前较慢的行业也开始拥抱 AI。基础设施厂商必须既让 token 更便宜,又能弹性承接一千万乃至一亿用户;受益者将从卖卡者扩展到模型服务、算力调度、垂直模型和应用软件厂商。
9. CUDA 曾靠开发者习惯筑墙,模型收敛正在降低这堵墙
卫诗婕提到一个早期反例:约 2011—2012 年,Jeffrey Hinton 曾写信表示,只要英伟达送卡,他便会在学术会议上推荐大家使用,但英伟达拒绝了。姚欣认为那时仍太早,深度学习尚未真正进入行业视野。
深度学习浪潮被行业接受后,英伟达反应迅速:工程师进入初创公司协助使用 CUDA、cuDNN,高校还能免费申请 1080 等显卡。它由此“捕获了大量开发者的心”,形成先用 CUDA 调通、再迁移其他平台的默认习惯。
过去两年有上百个模型,每个模型适配不同卡的成本极高,CUDA 因而极具优势;但百模大战结束后,基座模型可能像 iOS、Android、Windows、Linux 一样只剩少数几款。硬件厂商逐一兼容的难度下降,Agent 编程又进一步遮蔽底层。
姚欣判断,AMD 等性价比方案会随标准化获得机会,CUDA 壁垒在十年尺度上“慢慢消融”。英伟达当前百分之八九十的毛利率、25—30 倍 P/E 能否持续十年二十年,仍是极高要求;卫诗婕引用 Kevin Kelly 的判断:“没有任何一个科技巨头会长期在一个垄断地位。”
10. DeepSeek 的优势来自量化式系统工程,但 PTX 并未绕开英伟达
姚欣认为,DeepSeek 不是常见的纯算法科学家团队,其母公司幻方来自高频量化:交易快 0.1 微秒或零点几毫秒都可能产生收益,因此会自建数据中心、优化全栈,并在大模型热潮前就持有大量 A100,市场还曾传其约有一万张卡。
对于“世界上能胜任底层优化的人屈指可数”的评价,姚欣明确不同意。他以自己 2004 年创办 PPTV 的经历反驳:当时没有公有云,团队从服务器、操作系统一路做到云架构;许多拥有十年以上 infra 积累的企业同样具备底层优化能力。
技术上,DeepSeek 并未摆脱 CUDA,而是调用其中近似汇编语言的 PTX,更直接地操控英伟达硬件。性能因此提高,绑定也可能更深;真正的行业启发是,系统架构与深层工程仍有巨大挖潜空间,而非只有扩大模型规模一条路。
11. 中国从 GTC 舞台上淡出,却已进入硅谷的竞争假设
姚欣援引自己对财报的印象称,出口限制前中国约占英伟达全球芯片销售的 24%;卫诗婕补充称后来跌至 10%以下,姚欣解释说这是因为很多芯片被禁售。黄仁勋前段时间还穿花袄参加英伟达公司年会,也说明中国仍是不可或缺的消费与开发者市场。
地缘政治在现场留下明显痕迹:China AI Day 实际安排在北京时间、以线上中文形式进行;GTC 展区除仍销售服务器的联想外,几乎没有中国模型或应用公司的展台。
“虽然大家不讲中国,但是中国对于整个硅谷产生了冲击。”姚欣称,硅谷产业人士在寻找 Manus 的邀请码,也开始认真比较中国公司的性价比和产品服务;这与国内部分负面讨论形成反差。
姚欣最后判断,目前只有中美具备较完整的 AI 综合竞争能力。中国仍在追赶,但差距正在缩小,进入应用、专业场景和数据优势阶段后,中国企业的相对优势反而增加:“我们也需要对自己更有自信一些。”
Full transcript
谢谢。
告诉我今年能出多少货,明年能出多少货,这个是它面临的压力。
英伟达急了,对,就是急了,英伟达急了。今年的 GTC 有什么不一样吗?
我觉得今年的 GTC,我同事给我发的一些照片,跟去年的情绪相比是暗淡了一些。
另外一点,虽然大家不讲中国,但是中国对于整个硅谷,我认为产生了冲击。
哈喽,大家好,这里是商业漫谈,我是诗洁。这是直击二零二五英伟达GTC系列的下期,在上期中,我和PPIO派欧云的联合创始人兼CEO姚欣一起还原了英伟达过往的三十年历史以及精彩的算力江湖。这一期内容将聚焦三月十九号召开的本届GTC大会所传递出的风向和重要信号,以及二零二五AI发展的大趋势,依然是由备受好评的姚欣老师为大家解读。
1. Nvidia Bets Beyond Graphics
上期我们讲到,英伟达是一个持续下注未来的公司。过去这一二十年,它当时下注的未来是什么?
我觉得首先第一个就跟 GPU 有关系。最早的 GPU 全称叫 Graphics Processing Unit,是完全为图像处理服务的,我们叫显卡。
但事实上,大概在 2000 年左右,英伟达当时的首席科学家叫 Bill Dally。他提出,能不能把这一套 GPU 的架构、并行结构,用来解决很多其他的通用问题。他提出了一个叫 General-Purpose GPU,也就是通用型 GPU,GPGPU。
其实当时这套架构最早都是学者提出来的,是 Stanford 的教授提出的。那个时候很少有人重视,但是黄仁勋特别欣赏他,所以把他挖进来做英伟达的首席科学家。然后他们最开始提出了第一代通用 GPU 结构。
那个时候我记得,应该是十几年前,我们最开始做视频编解码,就已经在用 CUDA 了,还是第 2 版、第 3 版的时候。那时候他就在讲,未来的视频会消耗非常多的算力。
接下来还有很多科学计算,包括未来大家要做一些生物模拟。实际上,他很多年前就预言了后面的视频时代。
很多年前就预言了后面的视频时代,是吧?
对,他当时就在提出这一部分。所以今天我们去看,比如自动驾驶汽车,车里面都要有车联网、自动驾驶的核心部分,这也是他很早就布局的方向。
我记得大概 15 年前,他就提出要把整个芯片放到移动设备里。一开始放到手机里面,耗电太高了,所以手机市场没有打下来。后来他说,那我就放到游戏机里面,最早做出了一台性能很强的掌上游戏机。
包括大家在玩的 Switch 游戏机,你知道吗?Switch 后面的芯片用的就是英伟达的。就是当年从手机上拿下来、耗电很高的那块芯片,后来又把它装到了汽车上面。
最开始的第一波自动驾驶模拟,全部都是用它的芯片来做的。一直到什么时候呢?我印象很深,网上还有一张图,是 Elon Musk 在 OpenAI 刚刚创立的时候,黄仁勋给他送了一台 AI 服务器。Elon Musk 签收了那台服务器,那应该是 2016 年的一张照片。
他希望 OpenAI 用这个服务器做什么?
去推进 AI 的诞生和发展。
其实那是给 OpenAI 的第一次捐赠。当年 OpenAI 也是 nobody,谁能知道后来它真的做出了 ChatGPT?所以这也是一段渊源。
我觉得这点证明了这些企业,也是黄仁勋和英伟达成功的原因之一:愿意不断地下注未来,不断地进行非常长远的投资。
我的理解是,他下注的未来,其实就是判断未来哪些场景需要什么样的计算。
对,就是海量计算领域。他的业务其实就是冲着这一句话去做的。
对,甚至你可以看 GTC 发布会的后半段,几乎就是这样的主题。它后半段描绘的是未来已经到来了。
所以它不是一个产品发布会,而是一个技术展望会。
对,也是科技风向标,是科技的一个展望。我们有时候会吐槽,它已经变成一个期货发布会了,因为它说的东西都不是今天就能发行、就能发生的,可能要到明年你才能看得到。
站在此刻,面向下一个十年,它未来压注的是什么?
2. The Four Ages of AI
这次 GTC,我觉得它给出了一个很清晰的脉络,上次还没有讲得这么清晰。它讲了 4 个 AI。
第 1 个叫 Perception AI。实际上 Perception AI 是什么呢?就是 2015 年、2016 年大家熟知的、基于计算机视觉的 AI。AI 突然能够做人脸识别了,这个每个人的手机好像都用到了。四小龙做人脸识别、语音识别,这个叫感知式的 AI。
第 2 个阶段叫生成式 AI,就是 ChatGPT 诞生的 Generative AI。
第 3 个叫 Agentic AI,其实就是刚才讲的 Manus,实际上是 Agent 的一种,是一个在数字世界里面能帮你自动完成任务的智能体。
当然,这还是数字世界。如果有一天数字世界又能跟物理世界结合呢?比如我们在数字世界中间,可能没法真的帮我送外卖、下订单,但是如果有机器人结合呢?所以将 Agent 跟机器人结合之后,又形成了第 4 个 AI,叫 Physical AI,也就是物理 AI。
所以整个故事,我自己觉得已经把过去 10 年和未来 10 年都画在了这张图里。
其实昨天晚上我也在看 GTC,看到很晚。我看到它其实给了一个曲线图:最早是 Perception AI,在这里;然后到 Generative AI,上升了一点;再到我们现在正在经历的 Agentic AI,又上升一点;最后它把 Physical AI 放在最高点,是这样一条折线图。
我很好奇,为什么是这样的路径?
3. Physical AI Follows Evolution
这背后我自己的解读,好像没有官方解读,是我个人的解读。我觉得它有点像生物的进化逻辑。
你想想,最早的单细胞生物,开始先产生的是感光器官,实际上就是感官、眼睛,以及声音等。第 2 步开始产生一定的智慧能力,就是大脑开始逐渐发育,然后产生神经系统。
神经系统本质上是在感知外界,并控制你的身体运动。实际上,这就已经从 Generative AI 走向更加聪明的阶段了。包括这次 DeepSeek,能让你进行更多的深度思考,这就像大脑在发育。
接下来,生物开始长出手和脚。它逐渐从数字世界的手和脚,也就是 Agent,走到物理世界的手和脚,最后都变成机器人了。
所以这 4 个阶段,我觉得有点像生物进化的 4 个过程。
我是另外一套理解。我觉得它很像我们接触到一个事物之后所做的一系列反射。
最早的图形识别,其实是我们的视觉,是我们接收到信息。接收到信息之后,我们要在大脑里过一遍,做一个计算和思考,这个我理解就是 Generative AI,也就是生成式 AI。
当我们大脑有了一个想法或者结果的时候,就会用一些行动。有一些可能是在脑海当中实践的,这个时候我在脑海当中已经做了一个回复,这可能就是 Agentic AI。它做代理,帮你操纵数字世界。
但是 Physical AI 指的就是我们要做出行动,然后改变物理世界。所以 Physical AI 还处在一个更遥远的进程里面。
我昨天也看到了这个折线图,觉得很有意思。而且昨天他也讲了很多 Physical AI,也讲了很多产业。
4. Nvidia Must Beat Physics
我觉得大家跳出来看,为什么黄仁勋要渲染这一条?其实有他的压力所在。
最近他的股价也一直在被波动和挑战,他必须在每年的发布会上,让所有人都期待他给大家看到一个多么巨大的未来。这个未来能够消耗大量的算力。
如果站在 10 年后去看今天的英伟达,3 万亿美元都不是个事儿。这其实是它背后要表达的一个特点。
的确。到最后,Physical AI 已经要实现物理定律的模拟了。一个物体在所有的模拟世界里面,它的整个弹跳、反射,以及所有的摩擦力,全都可以计算。
这块我自己觉得还是一个非常有想象力的想法。如果 Physical AI 真的 100% 实现,可能我们要问一个问题:我们当前这个世界是不是也是模拟出来的?我们今天所谓的真实,到底是真实还是一个模拟?
而且我看 Physical AI 的时候,自己也会有一个感受:如果 Physical AI 真的实现了,像英伟达这样的公司,不是要吞掉整个物理世界的千行百业吗?它就真的变成一个超级无敌的大巨头。
英伟达最终要对抗的是什么呢?是能耗。
最后对抗的是物理定律。所以你可以看到,它今年后来的所有发布,包括很多讲法,都在说:我如何面对最大的瓶颈,也就是能耗;我如何在特定的能源消耗情况下,让我的算力和 Token 输出持续增长 10 倍、100 倍。
这其实是它面临的最大挑战。
5. GTC Prioritizes Near Term Products
我比较好奇的一点是,其实我们俩之前也聊过。我们本来预期今年 GTC 会大讲特讲机器人,尤其是人形机器人,但是我感觉昨天机器人相关的篇幅好像没有那么高。
没有这么高。我还是觉得,第 1 个,它其实内部还是一直在做。包括去年发布的 Isaac Newton,这次不是也最后出了 Blue 机器人吗?
但的确,我觉得英伟达更要解决当前的问题。现在投资者在问的是:你接下来马上要消耗多少算力?你别老给我讲通用人工智能、讲未来,那个可能 10 年后才会成为现实。告诉我今年能出多少货,明年能出多少货,这个是它面临的压力。
而且去年 GTC,也就是一年前发布的期货,GB200 已经发出了。但是 GB200 最开始的第一批,大家传出来它有散热问题,系统稳定性也存在一些问题,所以产生了忧虑。
再加上 DeepSeek 的冲击,大家有一段时间会担忧:我是不是整个算力架构会发生一些变迁?所以短期内,市场对它是一个挑战,你看到股价这么波动,也是这个原因。
但我觉得这次它为什么不把重心放在人形机器人上?因为它要解决当前面临的问题。它告诉大家,我马上要出的 Blackwell 增强版 Ultra,下一代原来定名的 X100 也已经定名了,叫 Rubin,我也会推出。
而且我觉得前几年都没有这样,一口气把未来 3 年的产品路线图,以及每个产品什么时候交货,全都写下来了。
英伟达急了。
对,就是急了,英伟达急了。
所以它还是用这种方式,向远在美国东岸的资本市场传递一些信息。我觉得这就是 GTC 会后的背后声音。
6. DeepSeek Reprices Nvidia
话既然说到这儿了,我就要跟您大聊特聊一下我最近特别关注的一个话题。
大概从 DeepSeek R1 发布之后,我一直在观察英伟达的股价。资本市场上把它称为“1·27 惨案”,“1·27”指的就是当天英伟达市值出现大幅下跌。
我觉得这件事一方面反映了美国资本市场的一些特性和戏剧性,但另一方面,我们也看到了跟中国人很相关的一点:1·27 惨案源自一份非常有名的英伟达做空报告,被称为史上最成功的做空报告。
那份报告的中心主旨就是在讲,DeepSeek 的出现如何冲击英伟达的算力生意,它的高利润率和高市场占有率还能保持多久。
这个影响一直延续到现在,它的股价还在震荡。包括 GTC 发布会之后,股价还是在跌,而且还跌了。
所以您可以从专业角度给大家讲一下,为什么从 1 月份到现在,DeepSeek 如何冲击了英伟达的股价?也可以帮助我们理解,为什么今年 2025 年的 GTC,英伟达听起来压力这么大。
我觉得黄仁勋今年上台的状态,跟去年也不一样。去年感觉他是在台上蹦着玩摇滚,今年就有一点……
去年我觉得他真的非常意气风发,觉得那是一场顺风球。
对。今年可能能够感受到,好像步子还是很大,但迈起来沉重一些。当然,也有可能是我们的主观臆断。
这块其实跟行业内人士和投资者、行业外人士之间的信息差有关。
从 2023 年大模型开始发布,包括国内也开始“百模大战”,大家都开始做大模型,然后大量投入算力。2023 年到 2024 年,国家也在建设算力中心,全球各地都在买英伟达的卡。大家解决的一件事情,就是训练更大的大模型。
这是行业内的事情。但事实上,从去年的六七月份开始,在真正的 AI 圈内,大家开始传出一种声音:所谓大模型的规模效率,也就是 Scaling Law,在训练侧慢慢减弱了。
大家都认为,训练差不多快要到头了。典型的应该是到去年 11 月底,OpenAI 的首席科学家伊利亚主动宣布,他认为数据都快被用完了。如果大模型想再扩增 10 倍,难度会很大。
所以行业内已经形成了这样一个看法:从模型训练,迁移到模型应用,也就是模型推理服务。
但是这种迁移反映到资本市场和投资者那里,会有一个滞后的过程。大家还认为,英伟达就应该继续大量售卖芯片。
其实去年黄仁勋也极力教育大家,未来他的卡更多会用于推理,但架不住大家对大模型还有很多想象。所以在整个扭转过程中,我认为 1·27 惨案突然发生,不仅是英伟达,我觉得整个全球 AI 圈,包括 DeepSeek 的出圈,都让很多投资者和更多企业决策者意识到了一件事情:
原来现在的大模型能力已经不错了,开源模型已经做得很好了。接下来要卷什么?卷性价比,卷使用成本,卷应用,而不是一味追求性能指标达到多高,而是要追求应用落地。
这种变迁,跟之前投资者对英伟达股价预期之间产生了差距,所以导致了短期下滑。
但我认为,看完这次 GTC 会议,你能看到老黄这次 GTC 的核心主题里,几乎听不到“Training”这个词,替代它的是“Inference”,也就是推理、使用推理。
这次听得最多的词就是 Token、Token、Token,大量消耗 Token。他其实在描绘另外一个概念:当训练转向推理之后,英伟达依然是推理时代的王者。
甚至你们可能要消耗更多算力。它里面有好几页特别做了对比:同样的情况下,DeepSeek 这类模型和以前 ChatGPT 这类模型相比,Token 消耗多了 20 倍。回答同一个问题,要多花 20 倍的 Token,算力可能要多花 100 倍。
这不就可以支撑它所谓的“Buy More, Save More”吗?买得越多,省得越多。它是在说,未来会诞生更大量、上百倍的算力消耗,而英伟达依然是能够给你提供充裕算力的厂商。
这就是它想拼命传递的信息。
但为什么股价又下跌呢?
就在于市场上还在打一个问号:真正走到推理市场之后,英伟达是不是还会像在训练市场一样垄断?
大家还是有疑问。
这个问题我们一会儿可以好好展开讲一下。
我也呼应一下您刚才讲的一个观点。去年我在做大模型相关选题的时候,跟您的同行、同样做 AI 基础设施的硅基流动袁金辉老师聊过。他有一个非常有代表性的观点,跟您刚才说的一样:
如果训练所需的算力是一池游泳池,那么推理所需的算力可能是一条河。也就是说,它是一个更大的消耗量。
其实黄仁勋去年在 GTC 发布会上,就已经小小预告了推理时代的到来。
可能是因为去年我们还没有真正看到推理型模型的应用出来,但是去年年底、今年年初,DeepSeek 发布了一系列模型。包括年初我们刚才聊到 Manus,我们会觉得 Agent 到来了,AI 应用在 2025 年一定要来了。
所以这件事情已经从小范围共识变成了大共识。
今天早上看 GTC 大会,除了刚才讲到的推理,还有没有什么比较有趣的事情?
我们刚才讲,好像没有预期当中那么多人形机器人,是因为人形机器人那个事情还有点远。他得先把近阶段大家的焦虑解释明白。
对对对。我们一开始关注的时候,对比去年最后一幕,10 个机器人全部升起来,大家都在讲人工智能,包括讲元宇宙。甚至之前还有人传,这一次会讲量子计算。
量子计算最近也有很大的一些推动,但这些所谓的推动,可能都要看 10 年、20 年的周期。
所以我觉得这次老黄整个选题都更加务实了。他不是最开头还在讲,这次我没有提词器,所有东西都没有背稿。
怪不得我昨天看的感受就是,今年他吃螺丝吃得好多,不像去年那么通顺。
而且我们自己在看他的很多产品线,我认为都是匆匆推出的。AI 这个行业的确变化很快,3 个月、3 个月,其实就是在不断考验大家的反应。
所以我觉得他也开始变得更加敏捷和快速,快速调整,快速适应。
7. Dynamo Builds an AI Factory
我看他这次推出了一个所谓 AI 工厂的新操作系统,叫 Dynamo,是吧?
Dynamo。
Dynamo 是你说的这种临时反应的成果吗?
我认为是,而且我认为跟中国有关系。因为 DeepSeek 把它催生出来了,这是我的解读。
首先,这次老黄又造了一个名词,给原来一个我们很熟悉的东西升级了。以前熟悉的东西叫数据中心,IDC。后来大家说,我放的都是 GPU,把它升级成了 AIDC,也就是智算中心。
这次连智算中心都觉得这个词不够高级,又起了一个新名字,叫 AI 工厂。
老黄的原话是,他认为未来我们需要两种工厂。第 1 种是生产物理世界真实物体的传统工厂,送进去原材料,出来就是锅碗瓢盆,以及各种各样的使用品。
第 2 种叫数字工厂,也就是 AI Factory。进去的都是各种各样的数据,出来的是各种模态,包括音频、视频和各种生成内容。
未来大量 Token 的生成,都是由这类工厂来完成的。
像传统工厂一样,你要追求生产线的效率。比如流水线能不能提高工作效率,能不能 24 小时连续运转,甚至一条产线能不能生产出更多的东西,同时生产出更多 iPhone 和其他设备。
它追逐的也是这样一件事情:如何让这些数据中心、智算中心、AIDC,在单位时间和特定能源限制的情况下,产生出更多 Token。
它把 Token 当成未来新的计价单位,或者说商品的最小计价单位。只要能够生产出更多 Token,就证明投入产出比足够好,这样它的卡就更好卖。
那 Dynamo 是什么呢?Dynamo 可以理解为 AI 工厂的操作系统。它其实是一套软件,解决的是如何把数据中心里大量的英伟达 GPU 更加高效地利用和管理起来。
我们后来快速看了看它的 PPT,里面有几段介绍,比如里面有一些专业术语,像 PD 分离、专家并行。这一类术语,恰恰在不到 1 个月之前,DeepSeek 做了一个 2 月份的开源周。
DeepSeek 在发布 R1 之后,把底层是怎么运作的、为什么推理速度能这么快,做了一个开源解释。它连续发布了 1 周,把每个功能部件都进行了说明。
我能看到,今天的 Dynamo 和 1 个月之前 DeepSeek 的这一套开源组件有异曲同工之妙。甚至你可以认为,Dynamo 就是之前那一系列开源组件的又一次组合。
而且我们知道,作为硬件厂商,它肯定有一个长周期。黄仁勋不可能突然预料到 3 年后要做什么卡。
但是这套东西,在去年发布会,甚至半年前的很多媒体沟通会,包括今年年初 CES 的会议上,都只字未提。
我们甚至猜测,团队在看到 Dynamo 的时候还觉得,它有点像 Kimi 发布的 Mooncake,里面很多架构和术语都很像。
当然,这些都是开源的,所以我觉得这块确实有可能存在借鉴和参考。但这也从侧面说明,英伟达这个团队真的非常快速、非常敏捷。
他们可以把 1 个月、2 个月之内行业里的新共识和新产出,快速集成到自己的系统里面,也在快速迭代。
我觉得大家都会共同认为,分布式推理会成为每一个大模型,以及每一个像我们这样做大模型服务、AI 服务的厂商的标配。大家都会沿着这条路线走。
能给大家解释一下什么是分布式推理吗?
8. Distributed Inference Rewrites Deployment
我可以解释一下,现在的大模型是如何走向分布式推理的,也稍微解读一下 DeepSeek。
DeepSeek 这次做了一个很重要的创新。DeepSeek 满血版是 671B,它并不是一个单一的数千亿参数模型,本质上是由数百个小模型构成的。我们把它叫作专家混合,也就是 MoE。
实际上,它由很多小型专家组成。每个小型专家可能是 7B 参数,也可能是 20B 参数。每个专家适合做一类任务,有的特别适合内容整理,有的特别适合逻辑推理。
正常部署一套 DeepSeek 时,原本可能是把所有专家放在一台机器上。或者说,有 100 个专家,就找 100 台机器,每台机器部署一个专家。
但这会带来一个问题:每个专家被调用的频率和可能性是不一样的。有的专家会经常被访问,有的专家很少被访问,这就会导致 100 台机器的利用率不同,有的利用率不够,有的则太闲置。
DeepSeek 做的事情,就是按照专家的使用率进行再分配。可能把一些相对较少被调用的专家集中部署,而把其他专家分散部署。
这套架构就变成了:未来运行大模型应用时,依靠的不是一台机器,而是一个小型集群,比如 10 台、100 台机器。
这次英伟达推出 Dynamo,也是这样一套思路。英伟达卖机器时,可以卖一张单卡,也可以卖一个集群。比如这次有一个叫 NVL72 的产品,实际上就是把 72 张卡连接在一起的一个集群。
现在它不仅把集群卖给你,还给你卖一套部署软件 Dynamo,告诉你如何自动实施各种最佳部署实践,实现算法最优化,以及所有算力的最优调度和使用。
所以这套思路明显是为推理优化而生的,跟以前做大模型训练的技术路线是不一样的。
的确,这就是今天大家在考虑推理时,为什么会走向这种分布式结构:在一个集群内,不同机器去做不同的任务。
这听起来很像共享经济。你把调用多的专家放在一批,把调用少的专家放在一批,然后为它们量身定制一种牵涉算力的方式。
其实这是我们做计算机系统结构时的一种标准思路。今天如果单机性能不够,就要靠多机来执行;但一旦多机化之后利用率不足,就要开始不断调度。
云计算就是这样。这里的“机”也可以指卡,你可以说多台机器,或者多台机器上的多张卡。
传统云计算也是一种共享。为什么当年会有云计算?因为企业自己买一台服务器,跑自家的任务,可能白天跑完了,晚上没有人用,存在潮汐效应。
但如果放到公有云上,另外一个客户可能在你的低谷期使用,这样大家的综合利用率就提高了,比自己买一台机器部署便宜得多。
所以这种共享和组合,在很多计算架构设计里面都有这样的思路。
算力的共享经济。
对,也是这样。
所以您觉得,新发布的 Dynamo 可能就是您刚才说的这个意思,可能有所借鉴?
我觉得应该是形成了行业共识。我相信不仅是 DeepSeek、Kimi,包括海外很多新的模型厂商,可能在过去半年里,早就用这种方式进行内部部署了。
我觉得这次无论是 DeepSeek 的开源,还是英伟达在 GTC 发布的 Dynamo,都证明了这条路线的可行性,也会鼓励大家向这条路线迁移。
这也是我很感兴趣的一个话题。今天早上看发布会,可以说英伟达的当下和 DeepSeek 是强绑定的。很多质疑都是由 DeepSeek 引发的,但在 GTC 这场会议当中,还是没有太多提到 DeepSeek,几乎没有吧?
对,也没有正面回应市场的这些质疑。但是听下来,我觉得黄仁勋在用自己的方式默默回应这些质疑。
他没有正面回应,但其实在努力消除大家的误解。
比如发布会一开始,他先讲主流云厂商去年买了他的 Hooper,一共 120 万张,现在已经订了 360 万张 Blackwell。这是在给资本市场传递信息:它们还在不断增加投入,而且是大幅投入。
第 2 个,他又继续讲,接下来因为 DeepSeek 这类模型走向 reasoning,也就是走向深度思考的推理模型,它们单位时间消耗的 Token,比以前的问答要多 100 倍,所以算力需求会更多。
因此,英伟达可以变得更好。
第 3 层,他又在讲,我还推出了 Dynamo。你们说 DeepSeek 好,我也向它学习,我也快速参与竞争,我都做好了,你还不让我股价涨一涨吗?
所以 Dynamo 很有意思。它首先说明,我愿意听到你们所有的声音,我都听到了;而且我主动学习,很快就学到了;我仍然保持着市场领先地位。
9. Nvidia Moat Faces Reality
去年的大会,的确是在整个生成式 AI 的加持之下,包括大家对人工智能无限想象的情况下,达到了最高的顶点。
今天我觉得,AI 所谓的高预期也在慢慢回落。您不觉得吗?
我认为这在科技发展史里面非常正常,而且这才标志着科技走向成熟。
在科技发展路线里面,有人总结过一条曲线,叫 Gartner 技术炒作曲线,也叫 Hype 曲线。它说每一款技术诞生之初,我们都会有过高的预期,然后慢慢炒作。
但炒作的速度超过了技术进步的速度,这时候就会出现预期落空的过程,所以曲线会滑落。
但不要觉得滑落就是坏事。泡沫破灭根本不是坏事,恰恰相反,它是在挤掉水分,让大家更加脚踏实地、务实地做事。
这个时候,技术在进步,我们的预期也变成合理预期,反而能够走向真正的光明期。
我能感觉到,整个大模型从造神、造更大的模型、Scaling Law,到去年那套叙事逻辑,再走到今天讲 AI 工厂、讲生产力、性价比、讲模型消耗,看似没有那么性感,但在逐步落地。
实际上,这也让我们看到,未来 1 年、2 年之内,AI 真的可能进入并改变我们的生活。它会像移动互联网、互联网一样,润物细无声地全面使用起来。
因为它足够便宜,性能也已经被验证,再加上产业界有这么多共识,包括 DeepSeek 开源带来的影响。我觉得我们作为行业参与者,或者作为普通用户,反而应该对未来更有信心、更有期待。
我非常认同。刚才您讲的这条曲线,让我想到其实很多伟大的公司都是诞生于寒冬。
大家可以仔细想一想,为什么它们诞生于寒冬?往往是在市场水分被挤掉之后,在一个非常冷静的状态下,它们才能有这样的做事状态。
对。
当年英伟达在 10 多年前,我印象还很深。那时候我还在做投资人,在蓝驰做投资。我发现我们投的这些初创公司,英伟达的工程师都会进去,给他们培训怎么用 CUDA 做 cuDNN,也就是基于 CUDA 的深度学习网络。
高标准的售后。
对,甚至包括高校,大量高校,包括中国的高校,都可以直接免费申请,英伟达会免费送给你,送很多张 1080,请你使用。
英伟达在 10 多年前靠这种方式,捕获了大量开发者的心。就像我们当年学 C 语言,学会之后就一直想用 C、C++,不想再切换一样。
但我在写英伟达那本书的时候,看到一个小细节。
当年 Jeffrey Hinton 的学生训练大模型需要卡,Hinton 专门为此给英伟达写了一封信,说:“你们送我一张卡,我就对在座所有学术会议的参与学者说,让他们使用英伟达。”
但是英伟达拒绝了。
那个时候还太早了,那是 2011 年、2012 年的时代。
对,但架不住后来它的反应确实非常快。
我觉得在上一波深度学习浪潮的时候,英伟达的反应就非常迅速,开始大量投入。
您说的上一波,是指 2015 年、2016 年那一波?
对。刚才那个故事更早,因为那是 2013 年之前的事情。当时甚至连深度学习都还没有真正进入视野。
但当深度学习被行业接受之后,我能看到英伟达在那一波进行了大量投入。它得到的结果就是,现在全球所有做 AI 研究的高校、学者和算法工程师,可能都会默认先调一个基于 CUDA 的版本。
如果调通、做好了,再平移到其他平台;其他厂商则都要做适配。
所以基于这一点,它形成了很强的护城河。
这个护城河在今天大模型时代的早期也依然很强。过去两年有上百个大模型,每个模型、每张卡都去适配,难度太大,所以大家觉得兼容 CUDA 就好了。
但是随着“百模大战”结束,现在很多模型厂商都宣布放弃预训练。以后我们的基座模型,我认为会像手机操作系统,或者当年的 PC 操作系统一样,可能就剩几款。
就像今天的 iOS、安卓,以及 Windows、Linux。当基座大模型变成几款,底层模型数量缩小之后,硬件厂商适配它的难度就会减少。
这样一来,所谓 CUDA 兼容性的壁垒就会慢慢下降。甚至再往上,大家都走向 Agent 编程之后,对底层的关注会更少。
我认为,如果放到 10 年来看,英伟达的软件护城河还是可以被突破的,而且正在慢慢消融。
所以您刚才提到,AMD 现在跟英伟达比起来,硬件上有性价比,但是生态上还差一口气。但您又提到,未来这些年英伟达的生态壁垒可能会慢慢下降。
随着整个模型开始标准化和集中化之后,大家会说,我用 AMD 也能兼容,英伟达也能兼容。
它面临的挑战,就会变成毛利率下滑,业务进一步被更多性价比解决方案追赶。所以它的确不好过。
虽然它看起来很风光,估值这么高,但大家对它的期望也高。它今天有 80% 到 90% 的毛利率,25 倍、30 倍的 P/E,这能不能坚持 10 年、20 年?
在科技历史上,这样的公司非常罕见,几乎没有公司能够长期维持这么高的毛利率。它也面临着这样的挑战。
我记得凯文·凯利之前说过一句话:没有任何一个科技巨头会长期处在垄断地位,在整个科技史当中都是这样。
这就是科技有魅力的地方,永远有后来者的新生力量。
就像今天我们聊到的,英伟达现在不停下注下一个 3 年、下一个 5 年、下一个 10 年。但难道所有的未来,都只能在这些大公司里面看到吗?
对呀。像今天的 DeepSeek,包括刚才讲的 Manus,以及中国诞生的这些新力量,很可能你的创业对手根本还不在牌桌上,可能还在车库里、实验室里,在你完全不会注意的地方。
往往真正最有威胁的力量,都是从没有被关注到的领域里发生出来的。
这让我想到一个话题,也是我之前看书时印象特别深刻的一个细节。
黄仁勋认为,祝福别人就是祝福你去承受痛苦。他对于痛苦的忍耐力,会让我觉得,也许英伟达当下的状态,恰恰是他的舒适区。
我觉得英伟达其实也是起起伏伏很多次。像刚才说的 2017 年、2018 年,它也经历过股价下滑,但黄仁勋依然一步一步看好 AI,持续下注。
去年我看 GTC 大会,他把 Transformer 的 8 位作者都找了过来,要纪念 2017 年,因为那一年论文发表,也是英伟达上一个高峰期。
但谁能想到,当年的落寞,最后又造就了今天英伟达的崛起呢?
所以它后来是怎么从落寞当中翻身的呢?
我觉得还是这一波 AI 的技术路线和大的技术框架。它下注的大逻辑没有错。
刚才我们讲到,从图形计算走向并行计算,再走到通用计算,这是计算架构变迁的一个大趋势,持续了 10 多年、20 年。
今天依然是并行计算、通用计算,走向更多的加速计算。新的时代里,很多做应用、做算法的人,都会往这个方向去架构和设计。
包括我们公司自己也在做分布式计算,其实也是并行计算的一个分支。
甚至我们能看到,计算架构有一个特点,就是“分久必合,合久必分”。
拉长时间去看,七八十年代,那时候我才刚刚诞生,大家做的是集中式的大型计算。当时 IBM 做的大型机,一台机器跟这个房间一样大,什么东西都装进去了。
二十年前,银行保存的所有数据,基本都用大型机。但大型机后来被谁替代了?被一系列 PC 机替代了。
我今天组装 20 台 PC 机,性能可能就跟你的一台大型机一样。这台 PC 专门做存储,那台专门做打印服务,另一台专门负责访问。几十台凑在一起,就可以迭代。
这是 90 年代 PC 替代大型机的浪潮,本质上也是用分布式结构替代集中式结构。
但慢慢又开始集中。集中又是谁做的呢?谷歌提出了云计算。
它说,我今天把 1 万台服务器放在一个机房,把它们互联起来,形成一个超大的云。后来变成 1 万台、10 万台、100 万台,直到今天最大的云计算。
现在如果你去大型数据中心,光散热的能耗就能达到总能耗的 40% 以上,这证明计算已经超级密集了。
但这种计算在未来几年又会被打破。随着自动驾驶、物联网、机器人,以及各种各样的设备出现,你会看到算力并不一定搭载在一个核心位置,而是会走向边缘侧、设备侧。
甚至我们的手机上也可以运行小参数大模型,做图片处理、声音录制等事情。
所以我认为,计算架构 20 年的变迁,是最重要的底层旋律。英伟达从 2000 年开始抓住并行计算、分布式计算和加速计算的浪潮,才有了今天的成功。
至于其他过程,的确,如果想要成功,必先要“苦其心志”。这就是英雄成功的必经路径。
10. China Reshapes Nvidia Future
现在中国用户非常关注的一件事情,就是之前被热议的 DeepSeek 会不会给算力版图带来非常大的变革效应。
我想知道,这个变革效应是真的存在吗?
我觉得第 1 个,已经呈现出来了。
今天这次 GTC 发布会,我所在的行业主要做基础设施,也就是在 GPU 之上部署一套云服务,同时把大量模型集成起来,向大家输出 Token。
我们输出 Token,首先要追求越来越便宜,因为只有这样,大家才能轻松用起大模型。
第 2 个,我们还需要足够的弹性。你不知道用户会涌过来 1,000 万,还是 1 亿,但你都要能够承载得住。
这种需求的变迁,实际上是 DeepSeek 在今年 1 月之后才明显感受到的。特别是国内的需求开始大量响应进来。
今天在国内以前很难进入的很多领域,比如政企客户、教育行业、医疗行业,也开始拥抱 AI 了。以前可能更多是互联网行业、数字经济行业在拥抱,现在各个行业都在拥抱 AI。
所以我觉得这是一次大众的、破圈式的教育,首先把需求侧激发起来。只要有了需求,剩下的事情交给我们这些工程师完成就好了:怎么降本,怎么增效,怎么提升性能。
我觉得这会带动整个 AI 产业链上下游的发展。以前可能只有卖算力芯片、卖卡的能够收益,接下来很多做模型服务、算力调度管理、垂直模型开发的软件厂商,也会大量受益。
这样就能带动整个行业健康、持续地发展。
这次 DeepSeek 公开的论文当中,有人留意到一些细节:他们应该有工程师对 CUDA 的底层进行了优化。
也就是说,DeepSeek 的模型用了 CUDA,也用了英伟达的芯片。他们做了一个相较于一般模型公司来说比较底层的工作,把底层基础设施重新做了结构上的优化,可能通过一些工程方式实现。
我认识的一位 AI 应用公司负责人评价说,世界上能够胜任这份工作的人屈指可数。我不知道他说得对不对。
我觉得第 1 个,的确要认可 DeepSeek 这个团队。
这个团队不是我们常见的、仅仅由科学家构成的大模型算法团队。你要看到它背后的母公司幻方。
幻方是做量化基金的。了解量化基金的人都知道,这是一个非常比拼工程效率的行业。
对他们来说,每一天股市高频交易,如果能比竞争对手快 0.1 微秒、零点几毫秒提交进去,就能挣到钱。每次挣的钱都很少,但可以大量累积起来。
做高频量化交易,非常要求对底层系统性能进行优化。很多量化交易公司甚至会自己搭数据中心,自己搭建整套技术架构,不会去买一套标准服务。
幻方就是这样的企业。我们知道,2021 年它就在买 A100。在大模型这一波炒作之前,国内 2023 年我就听说它手里有 1 万张卡。
它当然是用这些卡做自己的量化交易,但它同时具备从底层优化硬件、提升性能的能力。所以才会有你刚才说的那一系列成果。
首先,我觉得要肯定:正是因为幻方对底层基础设施有巨大的理解,才促成了今天 DeepSeek 的高效率。
但第 2 个方面,对于刚才你引用的同行观点,我不完全同意。
并不是全世界只有几个人能做这件事。因为对于底层优化,大家各有专长。很多做应用的厂商,可能并不太关注这个部分。
举个例子,我当年做 PPTV。因为我们诞生得太早,2004 年成立的时候根本没有云。我们从底层搭服务器、搭硬件、做操作系统,包括到 2010 年、2011 年,那时候大家还不知道云是什么,我们就已经把所有东西都构建在云之上了。
当年我们也做了很多底层优化。只是后来公有云普及后,互联网创业者幸福多了,不需要再做底层,不需要养基础设施团队,调用各家云的能力就行了。
所以我认为,具备这种能力的企业还是很多的,特别是有 10 年以上深厚技术积累的团队。
还有一个细节,刚才你的描述不够准确:DeepSeek 并不是真正意义上绕过了英伟达。
我的观点是,DeepSeek 跟英伟达的架构其实绑得更紧了。
CUDA 是一个整体框架,上层直接给你封装好了很多接口。大部分开发者直接调用一个接口就行了,就像调用 API、调用动态库一样。
但这个动态库毕竟是 CUDA 官方写好的,它发挥底层硬件性能的效率是一个固定值。
而幻方这个团队具备优化能力,所以它调用了 CUDA 里面一个叫 PTX 的语言。你可以把 PTX 约等于汇编语言。
我们都知道,汇编语言的效率肯定比 C 语言更高。它其实是用汇编语言的形式操控英伟达底层硬件,才实现了性能效率的提升。
但正是因为用了 CUDA 里面的这套汇编,也意味着这套汇编语言可能更多是 Only for 英伟达,也就是只适用于英伟达这套体系。
所以我觉得,DeepSeek 更多是向大家展现了一套通过系统架构和技术,往更深层次做工程化优化、挖掘巨大潜力的路径。这种展现对行业的启发可能更重要。
明白。
不过我们刚才讲到 Dynamo,其实也印证了 DeepSeek。或者说,今天我们在中国仍然持续看到很多新生力量。
由于国际之间科技竞争的关系,我相信中国市场对于英伟达来说,是不是前所未有的重要?
对。在美国商务部封禁中国市场的芯片出口之前,中国是它最重要的市场。
从它的财报来看,当时全球芯片销售市场中,每年大概有 24% 转向中国。
这个数字后来应该跌到 10% 以下了。
对,因为很多芯片禁售了。
所以对它来讲,你能看得到黄仁勋有多么拼命。前段时间他还穿了个大花袄,包括英伟达公司开年会。
不光是英伟达,全球这些商业巨头对中国来说都是这样。中国是一个巨大的消费市场,是不可或缺的市场,是所有人都要争夺的市场。
所以这次 GTC 一开始发布预告的时候,不是还有 China AI Day 吗?
因为我们在中国,所以我问了现场的同事:有没有 China AI Day,会不会有专门的 Panel,专门面向国内?
现场同事告诉我没有。而且不仅如此,英伟达大会和赞助厂商的现场展台里,基本没有中国公司的展台。
除了联想,因为联想还卖服务器,算是英伟达的合作伙伴。现场没有任何一家中国公司在应用侧和模型侧进行展示。
我觉得这也是当前地缘政治环境下的产物。
China AI Day 更多是在线上的。它的时间是在北京时间晚上 9 点半,实际上美国那边已经是半夜了,所以不会在当地会场,而是通过线上、以中文的方式进行。
这也算是英伟达向中国开发者和中国市场示好,是在取悦中国开发者、取悦中国市场。
所以你们在前方 GTC 现场,会觉得今年的 GTC 有什么不一样吗?
我觉得今年的 GTC,跟去年相比,现场的情绪确实暗淡了一些。
大家没有看到那么 Fancy。去年第一次开会的时候,还先放了一段音乐,黄仁勋摇滚着登场,大家感觉像进入了一个文艺范儿的现场。
这次一上来就在讲:你看,我们的卡卖了很多很多。上来就谈商业、谈 Business,非常实用。
另外一点,虽然大家不讲中国,但是中国对于整个硅谷,我认为已经产生了冲击。
是的。
包括刚才讲的 Manus。在国内我看到很多批评它的文章,但是我发现,在硅谷很多人还是会觉得,他们也在关注。
我们有一个朋友是 YC 孵化器的创业者,他说很多人都在找 Manus 的邀请码,也想试一试。
硅谷大量产业界人士已经意识到,中国是一个不容小觑的竞争对手。他们也觉得,要跟中国公司比性价比,比产品和服务,这也是非常重要的环节。
这一点的确可以看到,在全球竞争环境里面,目前 AI 只有中美两家最具备综合竞争能力。
所以我觉得,我们也需要对自己更有自信一些。
我们在追赶,但这个追赶的差距确实越来越小。而且在走向应用、走向场景专业化,甚至走向数据优势的时候,中国企业的优势越来越大。这些都正在发生。