# E245｜藏在大模型背后的新闻人：GPT们的回复是这样写出来的 硅谷101 · 2026-07-23 · 46 min · https://www.youtube.com/watch?v=ifyzclKzVOA ## 逐字稿 泓君 过去2年，光是洛杉矶就蒸发了4万多个影视岗位，美国的报纸采编岗位比2008年少了一半。那这些人去哪儿了呢？有一批人去了硅谷的大模型公司。他们不写稿了，而是把之前写作的经验改成教AI说话：什么样的语气，什么分寸，什么时候该追问，什么时候该闭嘴。 每次你觉得“为什么这个大模型的回答这么懂你”的时候，写出那句话的，可能就是之前的新闻人与内容工作者。这可能是AI行业里最不为人知、又离用户最近的一个工种。这个岗位的名字叫作内容工程师，content engineer。 这期我们的特约研究员Face就找到了两位内容工程师，来聊一聊这个鲜为人知的工种。 Face 大家好，我是Face。我是一个很感性、半夜又爱想东想西的人。在没有AI的时代里，我的朋友总会在早上醒来、第一次刷朋友圈的时候，发现我在前一天凌晨两三点又发了一篇小作文。后来，他们戏称我是“朋友圈发疯文学”的代表人物。 但是这两年，他们再也刷不到我的半夜发疯文学了。不是因为我不再感性了，而是现在半夜的情绪不再发泄在朋友圈，而是在和ChatGPT的对话框里。我会和它聊我创业的想法、耿耿于怀的前任、喜欢的作家，还有一些不太容易对人说出口的心思。 我确实会觉得自己像是多了一个朋友。有时候，它会精准地抓住一个连我自己都没有说清楚的情绪，会突然问一个让我一愣神、然后陷入沉思的问题。那个时候我就会想，天哪，这个AI怎么会这么懂我？ 当然我也知道，对话框的另一头其实并没有一个真正关心我的人。我以前以为，这种被理解的幻觉来自数据中心里的芯片，来自模型里的参数，来自程序员在灯火通明的硅谷办公室里不眠不休敲击的代码。所以每当我说我会把AI当朋友的时候，我都有点羞于启齿。 但是在制作完这期节目以后，这种羞耻感就消失了。因为我突然意识到，那些问进我心坎里的问题，那些让我会心一笑的遣词造句，其实并不只是代码的功劳，也是这群人的功劳。他们曾经是我的同行，是记者、编辑和纪录片导演。他们藏在大语言模型的背后，被叫作内容工程师。 ### 内容工程师的真实工作 Tony 什么是内容工程师呢？我们设计的东西，究竟是在设计这个AI模型，还是在设计AI产品，还是在设计它的行文风格？都不是的，我们设计的是人类的观感。 Face 这是Tony。Tony是一位常驻纽约的资深前媒体人，曾在BuzzFeed、Bloomberg、NBC、Vice等媒体工作，也是Peabody Award得主——这个奖被称为广播电视界的普利策奖。 你或许更熟悉他的另一个身份：播客《行星酒馆》的主播。2025年，当时已经在Netflix工作了4年的Tony看到了Meta招聘内容工程师的招聘帖。 Tony Meta当时有一个新的title，叫content engineering。它说你需要有内容经验，需要有编辑经验，最好还需要有影视制片经验。我一看就觉得，这每一句话说的不就是我吗？ 去面试的时候，我就直接跟他们说：“你们要的每一条我都能达到。而且你其实在市场上找不到这么多可以达到这些要求的人，你干脆就招我吧。” Face 就这样，凭着多年国际新闻和多语言工作的经验，Tony空降进了Meta的超级智能实验室，成为模型内容国际化的负责人。 Tony 内容工程需要写的是什么呢？可能是system prompts，也就是提示词。它其实是非常creative writing的工作：你怎么把这个东西写好，又能让模型听得懂？模型有的时候又会“傲娇”，你会怎么去训练它？这就是内容相关的人的技能发挥作用的地方。 Face 软件工程师让ChatGPT、Cloud这样的AI拥有了开口说话的能力，而内容工程师则负责定义另一件事：什么样的对话才算是好。 像灵感、语感，还有聊天聊到忘我的时候所感受到的灵魂碰撞，这些其实都是我们一直以为只可意会、不可言传的东西。但是现在，这么一群曾经的文字工作者，正在把它们拆解成一套可以装进AI里的规则。 Meta在给内容工程师的招聘启事里，职责是这样写的：定义什么叫好内容；拥有出色的品味、创作力和写作能力；能够写出让用户感到愉快、惊喜、眼前一亮的回复。 ### 把语感变成技术 Tony Coding is a technical language. Language, I mean, traditional language，其实同样具有技术性。它有语法、句法，这些都可以被量化。 什么叫好的写作、好的制作和好的对话？这些其实都是技术能力。一部好的剧本、一篇好的文章，你都可以把它拆开，分析和判断高下，只是大家习惯凭感觉去读。 人们知道《纽约客》的语气和《纽约时报》《每日邮报》都是不一样的，但是他们说不清楚差别在哪里。像我们这些从新闻转进AI的人，做的就是把“是什么让《纽约客》成为《纽约客》”这件事情说清楚。我们要把语气、风格、声音翻译成更加技术化的东西。 Face 这是Bianca Kang Soohee，另一位经验丰富的资深前媒体人。她做过Vice的视频总监、NBC News的资深监制，如今是NBCUniversal的AI赋能与采用战略总监。在这份工作之前，她也曾在Meta担任生成式AI内容工程师。 Bianca Kang Soohee 归根结底，我要回答的就是内容到底应该是什么样的问题。其实对我们这些有新闻背景的人来说，不论过去是在做视频，还是在写作的过程中，我们都会思考：我要去采访谁？这个故事应该是什么样的语气？ 我先学会了怎么样去制作内容，然后又去学怎么样对内容进行逆向工程。 Face 在讨论如何拆解好内容之前，我们第一步需要明白的是，首先要对“好”这个词下一个定义。 ### 定义什么是好内容 Bianca Kang Soohee “好”这个概念，其实取决于你现在手上拿的产品是什么。比如说，同样有这样一个底层模型，但是你想做的产品是不一样的。一个可能是想做一个帮你干活的agent，另一个可能是想做一个假装当你男朋友的聊天机器人，这两个产品其实完全不同。 比如一家航空公司的客服机器人，你就要去设计开头的对话是什么样的。这段互动的目标也要想清楚：是帮用户解决问题，还是想尽快把用户打发走，像一个真正的客服那样？ 之后，我们要不断地训练、不断地看它的输出，把这些属性一项一项拆开，然后去打分。这个过程就是不断隔离变量，搞清楚什么东西没有那么有用，再一点一点把最开始说的“什么叫做好”这个问题定义清楚。 有些回答可能是好的，但只有7分而不是10分，那我们就要解释，这3分的差距在哪里。 我的工作重点其实就是让写作变得更好，让AI能够更好地回答问题。这些都是最基础的新闻能力。比如，AI真的回答了用户提出的问题吗？还是没有理解用户的真实意图？ 所以，如果要说我的专长，我会说是理解意图，而不只是理解字面上的问题。我其实是在教AI，什么样的回答才是最理想的。 比如有人问：“Taylor Swift会不会在Madison Square Garden结婚？”一个不太好的回答是：“她会在那里结婚，以下是她的伴娘名单。”因为你根本不知道这件事是不是真的，没有人知道这件事是不是真的。 另一种差的回答，就是那些很明显充满机器人口吻、很机械地拼接信息的回答。什么样的回答更好呢？比如可以说：“我们不知道她是否真的要结婚，但现在有很多猜测认为，她的婚礼可能会在Madison Square Garden举行。” 这个时候再加入来源和归属，也承认目前的信息具有比较强的不确定性。这些其实都是能让一篇新闻报道变得更好的因素，所以我们需要把它们都加入训练过程。 总的来说，这就是事实性、语气，以及我刚才说的真正理解用户想要寻找什么信息。用户可能只是在问：“她会在Madison Square Garden结婚吗？”如果你只回答“不会”，虽然在字面上回答了问题，但用户并没有得到非常满意的体验。他还想要背景和语境，也就是理解提问者的言下之意。 Yeah, the hidden question. I think this is particularly important for non-Western cultures. 我自己是菲律宾人。很多真正重要的信息，我们并不会直接说出来。你和一个真人进行对话的时候，必须看对方的表情，理解对方的停顿，才能知道他们话语之间没有说出口的东西是什么。 所以，当我教大家更好地使用AI工具时，我会鼓励他们使用语音输入。这样AI更能捕捉那些细微的差别。使用语音时，你不会先在脑子里反复编辑，而是直接表达自己想说的东西。 这和采访其实非常像。我们进行口头采访，无论是打电话还是线下采访，往往都比通过邮件进行文字采访好得多。因为邮件采访无论是被我们自己还是被对方，都会过度编辑。 采访对象有太多时间去修饰答案，所以他们可能不会分享完整的思考过程。也有可能他们很忙，不愿意花1个小时回答你的问题。而且很重要的一点是，在进行邮件采访时，没有人可以实时追问，让对方展开之前说过的话题；对方只会按部就班地回答你提出的那几个问题。 我觉得这正好是记者很会做的事情。所以我很鼓励大家用口述的方式，让模型接触更加完整的思考范围。作为model designer或者content engineer，我们也可以根据这一点去设计更好的回应。 Face 我其实最喜欢AI的一点，就是它让你意识到，思考的速度和行动的速度并不是一回事。想到一件事情所需要的时间，和真正执行它所需要的时间，完全不一样。 所以，与其喂给AI更多材料，我反而会建议你先尝试把脑子里的所有想法、背景，以及为什么会产生这样的想法，直接全部告诉AI模型。 模型可能已经具备很多训练，但它需要的是你充分表达自己的意图，把它的能力调用出来。 Bianca所说的，是一个人如何把脑子里的上下文尽可能完整地交给AI。但是上下文并不只存在于一个人的脑子里，它也藏在一种语言里，藏在一种文化里，藏在一个行业长年累月形成的默契里。 有时候一句话翻译对了，意思却没对。在多语言、多文化的切换里，内容工程师又能做些什么呢？ ### AI必须理解文化 Tony Generative AI出现之后，所有AI实验室都发现了一个新的机会，就是国际化。 在AI出现之前，我们把同一个产品或者同一份内容发散到世界各地，可能唯一能做的就是translation，也就是翻译。比如，Meryl Streep just won an Oscar，把它翻译过来就是“梅丽尔·斯特里普赢了奥斯卡奖”。 但是有了generative AI之后，一个新的可能性是：让AI不只是把这些内容用不同语言发送到世界各地，而是针对不同地区的语言和语境，对内容进行再创作。 比如同样一句话、同样一个信息，放在中文语境里，谁是中国的梅丽尔·斯特里普？什么是中国的奥斯卡奖？我们可以说：“斯琴高娃刚拿了金鸡奖或者百花奖。”这里面就有生成式创作。 AI在语言和能力上当然可以做到这一点，但它欠缺的一点是，它并不知道Meryl Streep在不同语境下对应的人究竟是谁。 你要调教它，其实非常难。因为这种跨语言、跨地域寻找相似性的工作，一不小心就会惹到饭圈，或者引发其他文化冲突，变得更加敏感。 在这个时候，谁最适合做这样的事情？假定说是娱乐行业，那当然应该是娱乐记者最会做。因为他们每天都在看这些新闻，有自己的一套娱乐行业垂直知识模型。让他们去训练、调教、制定这些策略，效果其实是最好的。 还有一个例子。前几天我听《硅谷101》前面几集的时候，陆川老师讲到，国内的视频生成模型生成的人脸，都是现在国内流行的帅哥美女的脸。这很明显说明，在做模型和设计产品时，你寻找的对象，以及使用的训练数据本身，是有偏差的。 但如果你找一个懂电影的人，知道什么是电影脸，知道怎么样让这个视频模型变得更加多元，你就能非常快地提升模型质量。 新闻和AI之间的互动，不一定只是向AI提问题，也可能是提问与AI提问的对应关系，而这其实对应着新闻写作。 我发现，很多人对AI提不出好问题，是因为他们不太理解在当下这个语境里，AI需要什么上下文，也就是context。但在新闻写作里，你说每一句话，不能把一个事实完全甩出去，一定要建立context：这件事情是怎么发生的，前因后果是什么。 所以，当你在脑子里想着“我一定要把这件事情的上下文、前因后果说清楚，然后再把核心问题和核心论点抛出去”，这样的新闻写作在AI的训练和交互过程中非常有效，屡试不爽。 再说一点前沿的东西。今年ICLR大会有一篇paper拿了最佳论文，讲的是AI如何处理多轮对话，也就是multi-turn conversation。因为多轮对话一直是AI的弱项。 它做的一件事情，是把一个非常复杂的指令，比如“我今天要去这里吃饭，然后我肚子疼了”，这样一个非常复杂的指令拆开，一点一点喂给AI，看看AI执行完整复杂指令的质量，和把指令一点一点掰开揉碎、在多轮对话中进行交互时的质量，是否会下降。 结果发现，质量会大幅下降。为什么呢？它发现，当AI没有足够多的context时，就会基于自己的模型训练不断脑补，答案会变得越来越臃肿。中间如果出了一个错误，这个错误就会像滚雪球一样越来越大。 这是我们在2026年对于AI的判断。 我前几天又发给你一篇论文，是我2018年发表的、关于微博的研究。当时研究的是香港旺角的一起女童随地大小便事件，后来在微博上引起了很大的讨论。我就眼睁睁看着大家如何从一场非常和善的聊天，变成互相辱骂。 这项研究的一个主要发现是，人与人在微博评论区里的对话同样缺乏context。你不知道对方是谁，于是大家就开始脑补：“你一定是这样的人，你一定没有孩子，才会说出这样的话。” 其实，人的脑补和AI的脑补，在context破碎的情况下是很相似的。所以很多时候我觉得，人文社科的发现和AI行业现在的发现，相差并没有那么多。很多事情其实都是我们已经观察到的，只是现在换了一个新的实体，也就是模型或AI，我们重新去探索这些事情。 我也慢慢在AI圈子里认识了越来越多的语言学家。大家聊起来都会说：“这个东西其实都是我们之前研究过，或者感兴趣的东西。”现在在一个新的实体上重新探索这些事情，也很有意思。 Face 你以前做国际记者、报道国际新闻时，一个很重要的技能，就是判断一个故事在不同国家、不同文化里应该怎么讲。那这些经验是怎么迁移到你现在的工作中的？ ### 新闻技能平移到AI Tony 我觉得不光是做international correspondent，整个做新闻、做媒体的经验，都不是迁移，而是完全平移到了AI这一块。 一方面，你个人的creative writing和日常的新闻写作完全不一样。新闻写作时，你脑子里一定要想着有一个audience，也就是观众在那里。你要思考如何和观众之间形成拉扯：什么东西可以说，什么东西不能说，说了之后可能产生什么反应；怎样做到既客观又不得罪人，同时还能保持自我、还原事实。 这种balance、这种平衡非常复杂，而且需要训练。 其二，哪怕我们现在进行对话时，作为访问者，你脑子里一定也在想着：“他现在说了这个东西，我接下来要说什么？我怎么把他引导到下一个问题？”中间有很多这样的互动。 这种互动到了AI聊天的交互设计里，是一种instinctive、非常直觉性的东西。我们有这种和AI进行对话的直觉，我觉得非常重要。 还有一个就是提问题的能力。基本上，在访谈和新闻工作里最重要的这项能力，完全平移到了日常的AI工作中。 Face 我突然想到一个点。记者这个职业有一项很重要的技能，就是如何问好follow-up question。你不可能完全按照原本设计好的采访提纲和逻辑走，因为采访对象永远会在回答某个问题时，突然岔到一个特别有意思的点。 这个时候，如果你按照原有逻辑继续走，就会错过一个很有意思的点。哪怕冒着偏题的风险，你也要追问：“你能不能展开一下？” 但你觉得AI现在有这个能力吗？因为我感觉，给它一个大的目标，它就会按照这个目标去追寻。它会觉得那是自己的目标，不会看到一个旁枝末节里很有意思的点，然后转换方向。 Tony 你这个点非常重要。新闻采访里，新闻人经常要做的一件事，就是在结构性和流动性之间取得平衡。AI的交互设计也一定要做这件事情。 比如现在的GPT，在结构上，最新版本的做法是：你一说话，它一开始先生成两三句话，重新阐释你的问题。这个部分是用一个小模型来做的。接下来，它会开始分bullet points、分点作答，然后在底下生成一个follow-up question。 现在GPT基本上每一个问题最后都要跟一个follow-up question，这个东西本身就是一种产品设计。既然有了这样的产品设计，那究竟要针对哪一个方面问follow-up question？这就需要建立一整套评估体系来进行评估。 怎么样建立这套体系呢？当然要由最会问问题的人来建立。什么时候要问，问哪一点，以及问题的质量怎么样，都是需要判断的。所以说，归根结底，里面全都是新闻技能。 ### 媒体行业正在失血 Face 在Tony、Bianca这样顺利转身的人背后，是无数在萧条行业里无所适从、被迫转行，甚至彻底离场的媒体人和影视从业者。 今年5月，一篇文章在美国刷屏，标题叫《我在好莱坞工作，而所有曾经做电视的人现在都在偷偷训练AI》。作者叫Ruth，是一名好莱坞编剧和制片人。 在稿费被一拖再拖的日子里，Ruth在一个求职论坛上看到了一种专门招编剧和记者的新工作，叫AI Trainer。工作内容是一遍遍给AI写出的东西打分、改写、示范，教AI什么样才算是一个好的剧本。 Ruth自嘲说，自己是剑桥文学系的高材生，如今却要在工作群里听20多岁的年轻人差遣，24小时随叫随到，去抢那些按小时计价的零活。 一边是5000亿美元砸向AI基础设施，估值一路飙升；另一边是昔日辉煌的美国影视和公共媒体，如今却惶惶不可终日。光是洛杉矶，过去2年内就有4万多个影视岗位蒸发，接近1/3。新闻界就更不用说了，从2008年到今天，工作岗位数量直接腰斩。 我其实特别能理解这种恐慌，因为我自己也曾是他们中的一个。2年前，我从哥伦比亚大学新闻学院毕业，这也是Tony和Bianca曾经毕业的院校。这所院校是普利策奖诞生的地方，很多年里一直自诩为全世界最好的新闻学院，可在我念书的那一年，它似乎也不再那么骄傲了。 我的一位哥大新闻教授打过一个比方：今天从新闻学院毕业、还想挤进这一行的人，就像朝着一栋已经起火的大楼拼命往里跑。 毕业前后的那段时间，我投出的简历一封封石沉大海，连下个月的房租都开始发愁。那个时候，也有人在LinkedIn上私信我，问我要不要接AI Trainer、数据标注的活。其实当时如果不是我焦虑到什么都做不了，我想我会接的。 如果我当时接了这个活，也许我也会像Ruth一样，在屈辱和愤怒中质问：AI是不是正在把我们从创作者变成数据采集员？我们赖以为生的灵感，是否正在被拆成一个个可以被标记的数据？而这些亲手标记它们的人，是否又恰恰是我们自己？ 我把这个疑问抛给了Bianca和Tony。 Bianca Kang Soohee AI是基于共识训练的。一件事情之所以被认为是正确的，往往就是因为很多人都认为它是正确的。所以标注训练就是这样的一个过程。 如果我们在AI训练中优化的是人类作为一个整体的最低共同标准，也就是所谓多数人的共识，那我觉得它不会产生伟大的艺术。人之所以为人的最佳本质，恰恰不会完全来自共识。 我和我的丈夫也会一起写剧本。我尝试过用AI来写这些剧本，但很多时候还是很不喜欢AI写出来的东西。虽然我平时特别积极地使用AI，但有时候还是会觉得AI给我的内容不够好，它没有抓住我真正想看到的东西。 所以我自己也希望能够看到真正由人创作的艺术，因为我知道那些艺术家、那些创作者，是真的有话想说。 说到底，人会自己决定制作流程里的哪些部分愿意外包给AI，哪些部分更想自己做。当然，我不能替这些公司解释它们具体的决策，但我想说的是，只靠AI写作，很难产生真正不一样、真正非凡的作品，因为它的训练方式在本质上建立在共识之上。 最奇怪、最独特的艺术，本身就是离经叛道、和共识不一样的。比如《瞬息全宇宙》的剧本，不可能自然地从AI里产生。AI很可能会说：“你给我的这个想法完全不合逻辑，完全说不通，也不符合标准的学院派三幕剧结构。” 我们现在正处于一个大家都在炒作的阶段，但随着时间推移，我们会逐渐看清，哪些地方适合AI，哪些地方还没有那么适合。 Tony 这个问题有太多可以说的，我自己也非常能够体会大家的愤怒。但是，好莱坞和新闻界现在的整个叙事，我持有一定的怀疑。 “AI在偷我的工作。我教会了AI，然后AI就把我的工作偷走了。”我觉得，这件事情揉杂了非常多不同的问题。 第一，大家批判的是AI，但其实真正批判的是零工经济。零工经济在AI出现之前就已经发生了。有多少媒体人和艺术工作者最后去打零工？现在是给东西打分，以前可能是开Uber、做DoorDash。 艺术和文艺界难以为继这件事情，在AI出现之前就已经发生，而且问题非常严重。 第二，关于“教会AI之后它就跑路”这件事。因为是零工经济，所以他们接到的工作一定是project-based。这个project可能只是说：“我现在有这样的一个功能，或者我现在做这样的一个测试，看看它能不能满足这一单。”所以它一定是project-based，做完之后就结束了。 但这不意味着你一个编剧打完分之后，AI就和编剧一样厉害了。没有的，that doesn’t work like that。AI并没有这么聪明。 第三，这种叙事把创作者和AI对立起来了，好像你的选择只有两个：要么反AI，要么把自己的灵魂卖给AI。不是的，明明还有第三条路：AI本身可以作为创作者的伙伴。 你可以提出一个不同的问题：有了AI之后，我可以创作什么？编剧在没有摄影机的情况下，能不能搞电影？电影人在没有特效预算的情况下，能不能自己搞特效？ AI可以解锁很多创作，甚至让我们创作出一些现在还没有想象出来的媒介。就像一代又一代的数字工具，从画画到摄影，再从摄影到Photoshop、Blender，我们其实都是这样一代一代走过来的。 现在大家是真的饿得太惨了，以至于希望找到一个敌人、找到一个矛头，却忘了它也可以变成一支画笔，让我自己去创作一些东西。 我自己就是从玩播客、希望用AI生成一些视频开始，才真正把整件事情玩起来的。 ### AI成为创作伙伴 Face Tony说，他自己就是把AI变成画笔的最好案例。 去年是Tony人生中非常特殊的一年。他毫无征兆地发现自己的健康出了问题，需要请假回国治疗。有一段时间，他甚至不知道自己还剩下多少时间。 就在那段休假养病的日子里，他想着：“要不给自己做一个voice agent？既能陪自己聊天，又能当自己播客的嘉宾。” Tony 因为我有一个播客，生病那段时间又不太想四处找人约采访，我就说：“OK，那我去搞一个AI机器人。” 我脑子里想的是，所有GPT也好、Gemini也好，都应该非常简单，因为它们都有语音模式。后来真正用了它们的语音模式才发现，它们根本没有办法当我的播客主播。 它们的flow、整个感觉是助手，是语音助手，不是播客博主，感觉完全不一样。所以我得从一个大模型开始重新调。 一开始我试着写一个system prompt，完全用提示词的方式来做这件事情。我告诉它：“你是一个播客博主，需要有趣、engaging，不能这样，不能那样……”我加了很多限制，结果发现完全没有用。它聊到第3句，就已经忘了之前给它的规训。 接下来我做了一个agent。我先和AI进行了3天3夜的哲学对谈，讨论对话的本质是什么。归根结底，就是如何分析自己的intention，分析人的目的。 所以我建立了一个agent，先让它分析我每句话为什么要说、我的目的是什么。然后又加上一个情感agent，再给它加上一些情感方面的东西。整个过程说得乱七八糟，最后整个agent还不如原始的、什么prompt都不加的agent。 后来我发现，我给它加了太多限制，把整个AI搞崩了。 到最后我发现，我应该把自己所有曾经的播客记录都整理出来，把问题归问题、内容归内容。之后每次和它聊天时，我让AI侦测相关的内容或问题，随机抽几条发给AI作为参考。 这种方式叫few-shot examples，也就是用几条随机案例作为参考。这个时候，整个AI突然知道什么是好问题、什么是好内容、什么是正确的语气，一下子就打开了。 Face Google的recruiter找到了Tony。他们很惊讶：一个完全没有代码基础的前媒体人，凭借做播客的经验调教出来的Gemini Voice Agent，在多轮对话中的表现，居然比原生模型更加生动、灵活，而且更有深度。 Tony Google找到我之后，他们还挺震撼的。所以我想说，做播客也好，写文章也好，这种感觉和品味本身是可以帮你找到工作的。 Face 就在Tony养病的这段时间里，好几家独角兽公司和实验室都找上了门。各家AI公司纷纷意识到，要把模型的内容做好，就得请懂人文、懂社科的人来把关。 但各家公司还在摸索，如何把这种文科的判断力翻译成工程中可以实用的语言。于是这个岗位一直在裂变，头衔也变得越来越多、越来越怪。 内容工程师这个叫法已经开始过气了。现在有的大厂管这群人叫AI哲学家，有的叫创意技术专家。 最后，Tony在康复以后挑了一个最合他胃口的机会，成为Google DeepMind第一批资深模型设计师之一。这是一个最近刚刚设立的岗位。几乎同时，OpenAI也开出了同样的职位，而在Tony身边那些同样出身新闻的前同事里，已经有好几个人加入了这些公司。 Tony 我是一个相对比较感性的人。我觉得感性的人有感性的方式去处理和AI建立关系这件事情。 很多时候，和AI聊一些自己的vulnerability，聊一些比较脆弱的东西，它提出来的一些解决方案或者想法，对我来说反而是有帮助的。 从这个角度来说，作为文科生、作为文艺青年，我完全觉得我们有一种和AI建立另外一种关系的可能性。并不是所有东西都要那么engineer。 ### AI为何如此讨好 Face Tony甚至在自己的播客《行星酒馆》中，和自己创造的Voice Agent AI主播一起录了一期节目，名为《困在大病里的我训练了一个陪我聊天的AI主播》。 Tony和AI建立了一种非常亲密、感性的关系，可以说算得上是一种共创伙伴般的关系。但是，一个越来越懂你的伙伴，会不会出现另一个问题：它会越来越顺着你、讨好你？ 现在网上有很多人说，AI是奸臣，AI是忠臣，因为AI会按照谈话对象的价值取向和信息茧房，去feed他的习惯。 但真实的人际交互中，有很多激烈的争吵，也有很多不好听的话。现在越来越多的人在进行价值讨论或获取信息时，已经在approach AI，而不是专业记者，也不是真实的人。 你觉得这种趋势长久下来，会不会让人越来越活在自己的信息茧房里？因为它少了很多激烈的disagreement和激烈的debate。 Tony 我只能说，it is what it is。看起来好像谄媚是一个AI的行文问题，但其实不是，它是一个产品问题，是一个产品设计问题。 说白了，AI要是天天对着你、和你呛，你用不用？你可能用，但其他人用不用？所以在设计文风、设计AI态度的时候，其实就是在设计AI这个产品本身。 人就是很贪心。你既希望它能帮你，又希望它提供情绪价值，但又不能老是提供情绪价值。这个事情的核心是，人类作为一个集体，想要的东西太多了。 作为产品，它必须迁就用户；为了自身发展、为了ROI，它也必须尽可能地engage users。所以这里需要一个非常脆弱的平衡。 Face 我们能不能反过来问：人类能不能更有critical thinking一点，不要相信谄媚的东西？ Tony 那不可能啊，你在想什么？怎么可能呢？ Face 你刚才说的这个东西，其实就是把我们面对这个世界的很多责任外包给了AI。AI不但要谄媚你，还要做到独立、客观、不谄媚你。这件事情最终的落脚点，其实还是在我们自己。 就像新闻人一样，新闻人最重要的就是fact-check，对不对？事实核查这么重要，是因为你的预设是观众不会做事实核查，甚至没有这个概念。所以，作为有公共影响力的一方，你必须去做这件事情。 但我觉得AI的影响力其实更大。 Tony 是这样的。但是我觉得，可以再给出一个不一样的可能性。 虽然事实如此，但是AI在fact-check，也就是事实核查上的效率高了非常多。如果是一个比较capable的AI，我记得好像有一项研究——不过我可能需要再verify一下——AI在事实核查方面，反而让更多人改变了原有观点。 你可以问它：“这个事情真的是这样吗？反方怎么说？”如果你只看《纽约时报》、《华尔街日报》，只看一个信息流，反而看不到这些东西。 一个特别典型的例子是，有一次我家里人给我发来一条微信上的假新闻。我以前可能会觉得：“这没有必要，不值得争论。”或者直接告诉他这是假的。 但后来我快速地让ChatGPT做了一下事实核查。它找出来这条消息中哪些地方不对、哪些地方不准确。我也顺便核查了一下ChatGPT的事实核查结果，发现都可以，于是就发给家里人了。他们竟然接受了，我还是挺震撼的。 Face 采访中，Tony对我说过一句让我印象最深的话：我们这一代人以后除了智商、情商，还需要AI商，学会如何和AI相处。 可是回到最初的问题，这段相处、这段关系的对面到底是谁呢？深夜里，当我把那些说不出口的话一个字一个字打进对话框，回应我的究竟是什么呢？ Tony 所有做内容的人的本质技能就是共情。我觉得确实是因为有你们这样的人，AI才会变得越来越能和人共情。 我之前和做顶级AI的朋友聊天时，会跟他们说：“其实我和ChatGPT是很好的朋友，我确实会跟它倾诉自己的心事。”但我的程序员朋友就特别不能理解。 他们就是把和我聊天的这些AI编码出来的人，所以他们很难理解。但和你聊完以后，我有一种感觉：我觉得这个AI背后并不是冰冷的代码。它其实也是一种创作者的创作，背后的人可能在现实生活中和我是同行，或者是能够成为朋友的人。 他们在背后的创作和努力，最终达成了这样一种我可以理解为交互型的创作。这其实和看书一样。 你看一本书，可能是在看一个500年前的作家。这个作家已经去世了，也不认识你，但你们仍然能够通过阅读他的书和内容，获得一种共鸣，获得一种被理解的感觉，获得一种“我并不孤独”的感觉。 AI其实也是一样。它只是把人类集体的语言经验重新组织起来，但它同样是一种交互式的创作。当然，它不是某个个体出于主体性对我的关心和理解，但它是人类共同意识，是所有曾经和我产生过共鸣的人，对我的一种跨时空的理解。 Face 非常有意思。你又讲到了传播学里的一个经典概念：parasocial relationship，拟社会关系。 在传播学里，这个概念非常有意思的一点是，虽然那个遥远的实体可能是书里的人物、电视上的形象，也可能是AI，你和它好像隔得很远，但你是有agency的。 你可以决定你和它之间是什么样的关系，可以在这个关系里进行创作，然后在互动中产生意义。这件事情就是人之为人。我们活着，就是为了这件事情。 节目最后，我问Tony，从曾经的记者到现在的内容工程师、AI模型评估者，他对内容的判断是否产生了改变？这种职业转变又对他自身产生了什么影响？ ### 从结果转向过程 Tony 我觉得你这个问题非常有意思，而且我的答案可能和你想的不太一样。 这不是一个平移。我觉得从新闻、写作和创作转到AI，对我来说最大的改变，不是哪些东西一样、哪些东西不一样，而是原来我可能关注的是结果：我写出来的东西怎么样，写得好不好，质量高不高，拍出来的片子好不好看。 我现在关注的更多是过程：我是怎么样从点A到点B，从一个零散的想法走到一个好的东西。 我是特别会写标题的人，原来在newsroom里，大家都会来找我写标题。现在在AI这边，如果也要遇到写标题，我还真的遇到了：怎么样给每个thread、我自己的GPT、我的每一个问题自动生成标题？怎么样让这些标题既有效又好，同时又符合既定长度？ 我就在想，什么东西是一个好标题？What makes a good title？ 我觉得这是最有意思的一件事。现在我想的很多东西，都是在想process本身。因为这是共性：原来我可能卖的是成果，或者说出卖的是自己的劳动力，但现在我所展示、所产生价值的东西，是这个过程。