[BidClub_]
十字路口Crossing · · 66 min

【年终复盘③】用 Kimi 加速 Kimi:RSI前夜,一个AI infra人的10个Aha Moments|对话赵晨阳

Koji赵晨阳

AI & SoftwareTechnical
Podcast ↗
TL;DR
  • 用 Kimi 加速 Kimi,已经构成赵晨阳所说的 AI 自我迭代环路。 他尝试让 Kimi K3.1 编写自己在 B300 上的推理引擎;RSI 的雏形,是人在模型迭代中的参与比例逐步下降。他转述朋友对英伟达“5 万亿美元”、AI 产业“数十万亿美元”市值的追问:单靠卖 token、算力、保险订单和医疗订单,需要多少收入才能支撑?而自我迭代若能突破疾病等难题,可能创造另一量级的经济价值。
  • 低成本、自动化的评估,是他判断 RSI 能否持续推进的核心。 他称,在明确评估约束下,一个仅 80M 的 TTS 模型两天内性能提升了 1700%;但一次 WER 评估可以低于 10 美元,一次芯片流片却数以亿计,试错能力相差悬殊。“What we can evaluate is what we can optimize”——机会取决于能否把目标变成可反复验证的标准。
  • AI 把代码生产放大之后,维护者的判断和治理能力更加稀缺。 水平欠佳的贡献者过去可能每周提交两个 PR,如今可以提交一百个,逐项审查消耗维护者,不审查又可能毁掉代码库。赵晨阳因此推行 BDFL 式管理,把一致的代码偏好写成合并要求;他的判断是,“AI 是人类智力的放大器”,也会放大不负责任的行为。
  • Computer Agent 已经让他从批评演示造假,转向实际交付日常任务。 看到妻子用它操作缺乏 SDK 的科研软件 Origin,是他“我投降了”的转折;随后,Agent 帮他通过三封邮件追回 75 美元物业罚款,并在两小时内导出本科时期的 Notion 笔记。但两个客服 AI 可以从下午四点谈到七点,仍没有谁愿意拍板,暴露出自动化与决定权之间的缺口。
  • 交互式 AI 的落地仍取决于延迟、模块协作和输出设计。 原生双工、轮次式音频模型,以及 ASR+LLM+TTS 级联方案各有位置;级联方案的现实优势是模块能独立升级。难点在于,让面向 coding、动辄输出成千上万 token 的模型决定哪些内容值得朗读,同时避免不开 thinking 调不好工具、开了 thinking 又等得太久——“模型很聪明,又不完全聪明”。
  • 语音入口与个人 context,正在改变他使用模型的效率。 赵晨阳称自己每天输出约四万汉字,语音输入法让“输出速度跟上了我的思想速度”;ASR 负责转写,LLM 利用 prompt 修正姓名等同音错误。Voxt 2.0 对他的价值还包括选中文字后直接翻译、整理,以及自行选择本地或云端模型,减少反复复制粘贴和切换应用。
  • 便宜智能带来的生产力增长,并没有回答收入分配和个人自由的问题。 他期待更强模型,也担忧劳动贬值后,依赖 UBI 的人会被审查如何消费;江西低保家庭女孩赴港看演唱会的争议,是他讨论这一风险的具体例子。“如果人类靠施舍过日子,人是一定不会有自由的”——这是他的悲观判断,他没有给出成熟的解决方案。
  • 组织能否长期运转,最终被他归结为权责对等和规则约束。 从《大明王朝1566》《万历十五年》到开源社区,他串起的逻辑是:权力无需负责,制度又留下权责不对等的空间,体系便会自上而下腐坏。因此,制定代码规范的人必须首先遵守:“设立制度的人是不能违背制度本身的。”
Digest · the substance, structured for research

1. RSI 已经出现在旧模型优化新模型的环路中

  • 赵晨阳先给出自己的定义:模型能主动参与本代部署或下一代训练,就是 RSI 的雏形。电力、GPU 仍需要人管理,但随着人在自我迭代中的参与比例下降,他认为可以说“RSI is here”。

  • 他虚构的 BAI 公司说明了机制:第七代模型可以筛选训练数据、验证下一代架构,也能把第八代模型从每秒 100 token 优化到 200、300 token。推理提速既改善 RL 效率,也改善上线后的 token 服务。

  • Koji 追问具体时刻,他说“可能 Kimi K3 开始”,大约今年年中,环路已很明确。最近,他让 Kimi K3.1 编写自己在 B300 上的推理引擎;比喻是向阿拉丁神灯许愿:“我的第一个愿望是再多给我 3 个愿望。”

  • 他还参与了准备推出初步雏形的 OpenRSI,并转述朋友的估值追问:英伟达“5 万亿”、AI 产业“数十万亿”的市值,要卖多少 token、算力、保险订单和医疗订单才能支撑?若相信 RSI 可能突破癌症、帕金森症等难题,才会看到他所说的巨大潜在价值。

2. 能够评估的目标,才进入可持续优化的范围

  • 他引用前辈钟瑞奇的“What we cannot evaluate is what we cannot optimize”,再补上自己的判断:“What we can evaluate is what we can optimize。”评估在他看来是 RSI 的核心。

  • ASR 的 WER 是他的示范:100 个词错两个,错误率就是 2%。只要脚本正确,要求 WER 不升、性能不降,他认为“AI 一定能把这件事做好”;如果尝试让指标变差,模型就不会把该方案交给他。

  • 他报告,刚过去的周末,一个仅 80M 的 TTS 模型在清晰评估下,两天内性能提升了 1700%。对谈提到他使用“5.5 OPUS”、UltraCode 和 UltraFast;他把结果归因于明确、自动化的验证条件。

3. 评估的成本和完整性,决定优化能走多远

  • 好评估的条件是“自动化且低成本”,并尽量客观。他虽然是《百年孤独》的忠实读者,也承认很难定义这本书究竟好在哪里;比如评估创意写作,邀请作家评审既昂贵,也会遇到彼此不服的审美分歧。评估视频也可能需要专业影视从业者、电影学院的人甚至导演参与。

  • Koji 提议,把视频的美与不美拆成 100、500 个小判断。赵晨阳认可这种方向,却提醒会落入 local minima:如果评估不全面,模型可能把几个指标优化得很好,同时让其他指标彻底崩溃。

  • 因而,约束还必须包括:不能牺牲 A 模型来提高 B 模型,不能堆出大量令人讨厌的环境变量。他说的“定义好评估”,覆盖的不只是单一性能数字,也包括方案对整个工程的影响。

  • 一张 H200 跑一小时,WER 评估可能低于 10 美元;流片一次却数以亿计,他不敢让 Agent 一个周末尝试上千次。Koji 用 AI 制药补充:假设能从十个变成一万个,“但是猴子没有那么多”。他因此称低成本自动评估是 RSI“唯一的 bottleneck”。

4. 代码生成越快,维护者越需要明确的偏好

  • 赵晨阳的判断很直接:“顶尖工程师和顶尖 AI 写出顶尖代码,糟糕的工程师和顶尖 AI 写出灾难性代码。”过去水平欠佳的贡献者每周可能只有两个 PR,如今一百个 PR 涌来,维护者逐项评估会耗尽时间。

  • Koji 认为这是开源项目共同的困境。赵晨阳的应对是成为“仁慈的独裁者”:美很难定义,但杂乱可以识别;偏好未必有唯一正确答案,只要保持一致,就能形成持续合作的框架。

  • 他要求有 if 就有 else,哪怕需要 else pass;要求注释里不能有顿号(他的说法是顿号不是 backtick 语法,而 Python 也不是 backtick 语法),还要求注释里必须有人名。他把这些偏好写成合并要求。“突然交一万行代码”令人兴奋,但几个月后无人看懂,就会变成负担;他的目标是让框架继续活两年、三年,甚至十年。

5. 廉价智能让他兴奋,也让他担忧人的自主权

  • 面对更强模型,赵晨阳承认,自己常用工具的智力和操作能力已经超过他。智能若像水电一样容易获得,社会将发生巨大变化;他对新模型很兴奋,也越来越关注 AI 如何进入真实工作,以及劳动贬值后人的价值在哪里。

  • 他用江西低保家庭女孩赴香港看演唱会的争议说明担忧。女孩在中专读书,当地政府曾多次提醒她,出境可能触发高消费审核、影响低保;她最后仍然去了。赵晨阳认为,在已充分告知的情况下,出境游后低保被取消至少没有特别大的争议,但高消费是否应该取消低保,仍值得讨论。依赖救济的人,连精神消费是否合理,都可能由别人判断。

  • 他把问题延伸到 UBI:将来会不会有人规定领取者不能喝依云、买游戏机或换新手机?Koji 问他有什么答案,他坦言“很遗憾,我只能看到悲观的未来”,并借《赡养地球》中连空气都需购买的世界,表达对财富极端集中的恐惧;他也提出,若一个极端富有的人掌握万亿美元级财富,未来可能会非常可悲。

6. 安全讨论必须容纳每个人,而不能只由精英代决

  • Koji 追问有没有积极的行动或倡议,他说自己曾在 OpenAI 总部门口举过十分钟“Stop AI”牌。但他随后解释,那主要出于好奇;发现对方诉求只是停止 AI,便离开了。他真正呼吁的是更深入地讨论未来。

  • 他讲述,早期 Anthropic 在首次发布超越 OpenAI 的模型时,内部曾有争议:如果使命是给 AI 加约束,彼此竞赛领先是否反而推动加速?这是他对早期安全研究者动机的描述,他没有展开评价今天的争论。

  • 他同时反对有效利他主义可能滑向的精英傲慢:认为自己更聪明,便拥有替全人类选择的权利。“替他人做决定是傲慢的,但不为自己做决定是不负责任的。”模型未来需要每个人认真思考。

7. 保住生活的掌控感,成为他自己的行动答案

  • 他不愿用薪资、显卡或大厂午餐定义成功:一只鸡讨论去正新鸡排、肯德基还是麦当劳,在他看来只是选择不同养鸡场。他希望自己是“一个鲜活的人”,保留吉他、猫、写作,也不粉饰过去的错误。

  • 从年初到录音时,他称自己瘦了约十公斤,坚持每天锻炼一个半小时。工作强度依然很大,但他开始意识到,工作上的事情很多能交给 AI,亏欠伴侣、家人和猫的陪伴,却可能无法逆转。

  • 他卸载《英雄联盟手游》的理由是“不是我在玩游戏,是游戏在玩我”。他感觉匹配机制把胜率控制在约 50%,输了想退出,赢一局又留下;连续失败六次后再输一局,终于卸载。这是他对自身上瘾经历的解释。

  • 一个朋友的故事让他更重视物理世界:九年前后的 AI infra 已天翻地覆,带狗去的医院却几乎没变,狗只是老了。他现在每周刻意与妻子爬山、看展、吃饭,把游戏留下的时间转向读书、历史和写作。

8. Origin 的鼠标操作,改变了他对 Computer Agent 的看法

  • 赵晨阳过去批评 Agent 领域“礼崩乐坏”:录十个 demo,挑最好一个,不能证明系统可靠。他认为后来 OSWorld 等评估工作,以及认真改进标准的研究者,让这个领域重新焕发生机。

  • 真正让他改观的是妻子的工作流。她做传统自然科学研究,使用老旧、缺乏 SDK 的 Origin;他看到 ChatGPT 的 Computer Use Agent 直接移动鼠标,完成原本以为很难自动化的操作:“我真是一叶障目,不识泰山。”

  • 从推理角度,他解释截图的麻烦:字符串共享前缀可以复用计算,鼠标移动后的新图片却可能需要重算。无障碍功能把界面变成文档、字符串,再辅以必要截图,便能让 Computer Use Agent 达到接近无敌的效果;他承认自己此前低估了这些工程方法。

9. Agent 可以替用户办事,决定权仍然是另一道关口

  • 他换银行卡交租后付款失败,一周后才收到通知,并被罚 75 美元。他让 GPT 以“没有当天通知”为理由与物业争论;三封邮件之后,第二天钱退回账户。对他而言,价值来自处理自己不愿耗时纠缠的小事。

  • 另一个任务是保全本科日记:清华邮箱已无法登录,他担心以后失去 Notion 账号。Agent 按他的分类逐页点击 Export,保存 Markdown、CSV、PDF,两小时完成。Koji 也分享,自己用 Codex 导出了拖延数年的数千条印象笔记。

  • 随着用途扩展到医保、预约和搬家,他却看到另一种荒诞:自己的 AI 与物业的 AI 从下午四点对话到七点,十几轮仍无法决定。他称这类系统为“宦官 AI”——不愿为决定承担责任,却把权力留在手里。

  • 他最近还发现,Mac 上的 iPhone 镜像可以让电脑操作手机。Koji 补充,这是 Phone Use 的一种技术路径;对赵晨阳而言,Agent 的可操作范围又向生活推进了一层。

10. 交互式 AI 的三条路线仍会并存

  • 赵晨阳把自然交互定义为持续输入:对方迟迟不答,可以补充背景;说偏了,可以打断。Google 交互模型是 native duplex 的例子:每 200 毫秒读取一次输入,再决定随后 200 毫秒的输出,语音、视频、文字都进入连续过程。

  • 第二条是 turn-based 音频模型,能够输入、输出音频,但仍按轮次对话,打断比较生硬。第三条是级联:VAD 检测说话,ASR 转文字,LLM 处理,再由 TTS 转回语音;模块之间可以分别替换。

  • 前两条路线高度依赖优秀模型供给,缺少新的开源模型时,社区很难推进。级联则可以独立升级 ASR、LLM、TTS;他展示的组合是 Qwen3-Omni 跑 ASR,中间调用 MiniMax M3.1 API,末端接 Qwen3-TTS。MiniMax M3.1 是 400B 模型。

  • Koji 问端到端与级联会不会长期共存,他回答“是的”,中间还会出现部分联合训练的过渡态。成本高于纯级联,却低于从头训练原生双工模型;他喜欢技术收敛前“百花齐放”的状态。

11. 语音助手需要决定说什么,而不能逐字朗读

  • 一个现实冲突是,开源 LLM 大多为 coding 训练,输出常有成千上万 token:“你真的希望每一个 token 都给你 TTS 朗读出来吗?”他赞赏 GPT 的天气体验:口头说今天气温,界面另行呈现一周天气。

  • 他的设想是 TTS as a tool:LLM 查完天气,再调用 TTS,只朗读适合说出的部分。这样既不必念所有文字,也能避免表情符号等内容被 TTS 读成乱码;语音应由模型选择,而不是机械接在文本之后。

  • 但他发现零样本工具调用仍不够可靠:不开 thinking,参数或朗读内容容易出错;打开 thinking,又不可能让用户等十分钟才听一句话。“水面一直升高,以前的暗礁露出水面;但又会出现新的暗礁”,工程修补仍在继续。

12. 语音输入法把转写与个人语境结合起来

  • 赵晨阳称自己每天输出约四万汉字,靠键盘不可能完成;语音输入让速度接近思考。技术方案是 ASR+LLM,类似去掉 TTS 的交互系统:前者转写,后者纠错、润色。

  • 即使 ASR 整体准确,量化后 WER 仍可能约 5%,而姓名还存在同音歧义。他用朋友“高翼飞”的名字举例:ASR 不知道该写“翼”还是“逸”“毅”,需要在 prompt 中列出“高一飞”“高二飞”“高三飞”“高逸飞”“高零飞”等误写,再映射到指定写法。

  • “这个纠错很简单,把信息写在 prompt 里。”他使用 Qwen3-ASR,或用邱锡鹏团队的 MosT 模型做长语音 ASR,再交给 Kimi K3.1 处理;十秒音频可能一秒识别完,短内容使用较低 thinking,长音频则可以提高 thinking。

13. Voxt 的价值还在于把入口放到正在工作的地方

  • 他重点推荐已使用半年的开源语音输入法 Voxt,录音前一天刚发布 2.0。开发者官伟把 ASR 换成 SGLang-MLX,目标是正确性一致、速度更快、使用更方便,并在 Mac 上尝试 speculative decoding。

  • LLM 可以选择 Ollama、云服务或 SGLang-MLX;他最近还用自己部署的 Kimi K3.1。他强调,如果希望掌握自己的 context、控制隐私,也可以用自己的 5090 推理润色模型;这套工作流让 ASR 与后续处理都保持较快速度。

  • 更大的发现是“方便的产品入口非常重要”。过去翻译要复制、打开 GPT、粘贴、输入指令;如今选中文字,直接说“翻译为英文”“朴素一点”或“转成一二三四点”,便能完成,省掉反复切换的几秒钟。

14. 《大明王朝1566》让他把组织问题追溯到最高权力

  • 赵晨阳从剧中得到的第一条判断是:“一个组织只会自顶向下烂掉。”百姓以为奸臣蒙蔽皇帝,而在他的解读中,嘉靖才是根源;严嵩父子是白手套,严嵩替皇帝背锅二十余年,底层恶劣只是体系问题的表现。

  • 第二条是“权责不对等”:嘉靖享有最大权力、收入,可以修宫殿和道观,却把战事、国库亏空等责任推给严嵩。这使他重新理解“以身作则”的分量——当最高权力不承担责任,下面也会复制同样的行为。

15. 制度模糊,会把规则争论变成权力争夺

  • 他高中读《万历十五年》没有读进去,工作后重读,才看见平常年份里不同人物的困境如何连成系统问题。他用一句话概括自己的感受:“这一年没有任何事情发生,但大明朝已经完蛋了。”

  • 立储是他的具体例子:朱常洛与朱常洵之争持续十余年。在他看来,嫡长子继承虽被称为制度,仍依赖道德解释;皇帝与朝臣各持一套道德,缺少不能随意突破的规则,争论就能无休止拉锯。

  • 他又从蒲正民的《挣扎的帝国:元与明》谈到蒙古继承:“选择贤明的人”看似合理,谁贤明却极其主观,最终容易变成谁能打服兄弟谁继位。这与主观评估的难题相通:不服标准,争端就转向力量。

  • 朱元璋制定《大明律》《大诰》,却又借特务机关绕过制度,是他讲述的另一层问题。规则能否成立,首先取决于制定者受不受约束:“设立制度的人是不能违背制度本身的。”

16. 社区的最高权限必须附带最高责任

  • 赵晨阳把三条线索接回自己的工作:腐坏自上而下,根源是权责不对等,而模糊制度给这种不对等留下空间。代码质量仍可能需要主观判断,但规则一旦明确,任何人都不能例外,包括制定规则的他。

  • 在 SGLang Omni 项目里,他拥有最高权限的理由,是承担责任、建立制度。若自己写 if 没有 else 却直接合并,就失去要求别人遵守的依据;他应当成为第一个被批评的人。

  • 贡献者也一样:社区可以为跳槽、申请学校提供信任背书,但所负责部分出了问题,就要担责。“你写了,就得负责。”他反对无限推脱,同时也强调另一半:“与此同时,你也应该尽情享受自己的权力。”权力与责任必须成对出现。

Full transcript