大约五十个人的选择史，联邦监管先别指望

书出来几周，已经是《纽约时报》畅销书。销量没有给数字。Kevin Roose 说自己以前的书没有这么顺，赶上的是今年秋天大家开始在意 AI、事情开始乱的那一阵关注。主持人问：我们完了吗？他说不认为完了。前面有真实的风险，有针要穿。历史上的难关渡过过，这一次也许是最难的之一。没有什么被定死。眼下的选择，会决定接下来几年到几十年怎么走。

他写书，有一部分是要自己弄清：是在冲向悬崖，还是全是炒作。书写完，这道题并没有被书判死。他带走的是采访本身。

原始来源：The Inside Story of the 50 Who Built Modern AI With Kevin Roose。中文深度整理，非逐字翻译。本文依据 YouTube 自动生成的英文字幕，专有名词和数字可能有识别误差。Walter Isaac、Walter Isacson、Walter Isaxson 按 Walter Isaacson。Daario、Daario Amade 按 Dario Amodei。Deis 按 Demis，这句没有念姓。Ilia 按 Ilya，没有念姓。habakasha 按 hibakusha。Leo Solard 按 Leo Szilard。Richard Rhodess 按 Richard Rhodes。Marie Cury 按 Marie Curie。boweapons 按生物武器。council of clauds、Claud 按 Claude。页数口播是「400 150」，下文按大约 450 页。片中 Every 订阅口播不纳入。10 月 16 日另一场谈的是安全协作；本稿只整理这一期。

大约五十个人，加上大约一百五十个相关的人

主持人把对象说成大约五十个真正把现代 AI 造出来的人。Roose 的口径是：采访了这大约五十人，再加上总共大约一百五十个和这个圈子有关、参与其中的人。片头另一句把报道对象说成一百五十个在试的人。他后来说，这份工作本来就是去采访这一百五十个人、把故事记下来。几处数字并在一起，下文不加成两百，也不收成同一个总数。

他一度想躲开这本书。太难。他希望 Walter Isaacson 这种量级的人某天醒来，决定自己去写，这样他就不用写。那件事一直没发生。他大约在 2025 年初动手。

动机有两层。他做科技报道超过十年，2021 年出过一本关于 AI 的书，书名这一期没有说。写完仍觉得没有拿到完整故事。例如：2017 年在 Google 做出的 Transformer，为什么在 OpenAI 起飞；2022 年放出 ChatGPT 时，那个决定是什么样；2023 年推理模型是怎么来的。这些在他看来有历史重量。物种应当知道东西是怎么出现的，关键时刻谁在房间里，决定是什么。大量内容是秘密，握在不想说的人手里，跑科技口也吸收不到。

第二层是要快。他担心记录会消失。实验室里都是秘密，都在保密协议下面。Slack 消息和 Signal 线程过一段时间会自己删掉。他爱读转折点上的书：沃森和克里克、莱特兄弟、居里夫人。织物被改了一下，是因为某处有一位科学家做成了。若留下来的记录不够，以后就答不了「我们怎么到了这里」。Isaacson 没有去写这场竞赛，他就自己写了。字幕把竞赛听成 race to hi。

前二十五个最难，然后小圈子自己滚

前大约二十五个是最难的。这些人天天收到记者的信。他为专栏和播客接触过其中一些，这一次要的是他们没讲过的事。多数访谈按 background 做：不点名，材料用来搭叙述。还有人连这也不肯，他就再给别的保证。其中一条是，这本书不会把他们写成一群糟糕的人。

大约二十五个到五十个之后开始滚雪球。圈子很小，彼此都在说话。有人听说谈过了，就也来谈。还有人是因为仇人谈了才来：对方给了自己的版本，他也要给自己的版本。

更大的办法是认真，并且事先读。去见研究者之前先读他们的论文，才能问到细处。他要的是这三家公司史上展开的那些具体问题。这一句没有把三家名字再念一遍。这一期里他点到的是 Google、OpenAI 和 Anthropic。

他最喜欢的一件未发表材料，是一份叫 the big blob of compute hypothesis 的备忘录。Dario 2017 年写于 OpenAI，当时是研究副总裁，Anthropic 还没创立。Roose 口播，大语言模型那时还没被发明出来。OpenAI 里的人记得这份备忘录，因为它改了路线图和野心。当时大量研究走窄路：要做一只能打败最强人类的围棋系统，就像 DeepMind 前一年做的那样，就做一套专用系统，改架构，把一件事练到极好。Dario 认为这是错的。不该训练窄模型，该把大块没有结构的算力攒起来，他的说法是 big blobs of compute，指向更一般的问题，比如预测句子里的下一个词，然后信任这个过程会生出智能。Roose 在自己的 Substack 上发了开头大约十页。他喜欢的是几乎能看见灯泡亮起来的那一件实物：把模型做大，别的什么都不做，也能检验「更大的模型会不会带来更智能的行为」。

另外两本他推荐回去读。一本是 Arthur C. Clarke 的《Profiles of the Future》。OpenAI 当时的首席科学家很喜欢这本书。字幕把这个人听成 I sat，按 Ilya 理解，姓没有念出来。书的引言讲：每次有突破性技术，都有一批见多识广的老人说不可能，然后它发生了。OpenAI 的人在里面看见科幻信仰者被证明是对的。另一本是 Richard Rhodes 的《The Making of the Atomic Bomb》，一部拿过普利策奖的历史著作。Dario 年轻时读过，自认是当代的 Leo Szilard：发现核链式反应的那位匈牙利裔美国物理学家，先争取保密，消息到了纳粹那边之后加入曼哈顿计划，要抢在对方前面把炸弹造出来。Roose 说这是 Dario 人生里的中心故事。他造这项技术，一部分是为了不让它落在坏人手里，或者不让对方先造出来。

主持人说，Roose 把通用人工智能称作这个时代的曼哈顿计划，并问这和他母亲的工作有没有平行。母亲写过日本原子弹幸存者的书，术语字幕听成 habakasha。她做的是实时的历史和记录。推动她的是：这些人不会永远活着，第一手见证必须被听见。Roose 说自己没有有意识地照着母亲的书来写。他并不担心 AI 研究者会死、故事跟着死。同一股劲是：得有人把它写下来。母亲那边，他的理解是为了避免再做一次。他这边，是人们配得上知道这项技术是怎么造出来的。

2023 年他感到的是社会层面的力

书里用过一个说法：你感到 AGI 了吗。字幕把说这句话的人听成 Ilia。Roose 的转述是，此人在 OpenAI 一张桌子一张桌子走过去，说你必须感到 AGI。大家渐渐把他看成一种高僧，带着自己的口诀。

Roose 自己开始有这种感觉，是在 2023 年遇见 Bing 里的 Sydney。那是微软必应聊天功能的一个失控分身。这件事成了他写过、也将写过的最受关注的一篇，也是他人生里的大事。他当时感到不一样。他不认为它有感知、有意识、或者活着。他感到的是：这是一项在社会层面上有力的技术，不只在技术和经济层面，也不像一件惰性工具。从那里他要弄清的，除了系统怎么造、引擎盖下面在做什么，还有那些正抢着把它放进世界的公司和人。有些时候他们切角落，因为太想打败对手。他们为什么这么急，到底在赛什么。这个问题是从那时候开始问的。

大约四百五十页，正文不交给模型

主持人说，大约 450 页，一年写完。Roose 先说一件他希望显而易见、其实未必显而易见的事：写这本书的方式里，没有把写作交给 AI。所有的字来自这个脑子和这些手指。他不想把实际的写作交出去。

其余几乎都用了。同时有人类编辑，有人类研究员 Jasmine Sun。他说她很好。熟练的人手参与了制作。书很长，一年写完，额头上的皱纹是他自己挣来的。

用法里他觉得新鲜的一种，是一组 council of Claudes 审章节。一稿写完，送进 Claude Code，跑一群智能体。每个智能体有一个人设。一个是 AI 怀疑者，不认为大语言模型真有智能。一个是 AI 史家，熟悉他写的那些系统的技术前史，写错了就纠正。一个是 Walter Isaacson 那种匠人，只关心行文怎么流、故事弧是什么、读起来是不是一种享受。再由一个主编辑智能体把这组意见收成一份书面综合，告诉他这一章怎么样。有时有用。它抓到过几处事实错误，他自己没抓住，人类编辑也没抓住。几年前还得人去给 AI 做事实核查，现在是 AI 在给他做事实核查。他把这当成工具变强的证据：幻觉率大幅下降，更会把话说锚在从真实文档里拉出来的真实来源上。比率没有给数字。

另一处是把散开的研究收拢。没有 NotebookLM 一类工具，这本书他写不出来。材料倒进一个或一组笔记本，然后提问、找联系。谁告诉过他 GPT-4 预训练的那个故事。2021 年 Anthropic 发生的那件事，该联系的三个人是谁。它会把他手头的材料梳一遍，给出建议。他每天在用。采访时口播有三四个智能体在跑：和 Casey Newton 一起做的那家初创公司的小项目，也有日常行政、安排托儿。

编辑能做的事很多。最好的人类编辑会改句子，会看出哪里该收紧、展开，会想结构和节奏，也会当教练：还没裂开，回到信源再弄。还会说这个故事值得追，那个没那么值得。他合作过的最好编辑都是人，是这些技能叠在一起。AI 有不少还做不到。逐行编辑已经很好。节奏和结构在变好。他要交出自己看得上的东西，两样都要：技术性的编辑，以及教练、激励、那句「回去，这个你还没完全拿到」。

工具他自称什么都在玩，已经跟不住。现在有智能体在纠正别的智能体，他说这是一团乱，需要做一次清理。点到的有 Claude、ChatGPT、某些事情上的 Gemini，还有一处字幕听成 chatgpt dot，不改成另一款产品。Town 是 Casey 让他用上的一种企业智能体。周末做一些 vibe coding。本地模型用来转录和摘要。笔记栈口播是 Granola，送进个人 CRM。坐下来写，主要仍用 Google Docs。他试过更专门的写作应用，字幕听成 Scriber。节目稿通常和制片人写在同一份文档里，文档仍是最快的方式。

联邦监管先别指望

几年前他说过，出了事之后会有某种程度的监管。主持人说，现在已经出了事：Hugging Face 那一次，还有若干网络安全方面的担忧。这一期没有重述事件本身。

Roose 认为，眼下从特朗普政府这里拿不到联邦层面的 AI 监管。要他们更主动，得先发生坏事。9·11 之后是这种路径：一件原本不在多数人脑子里的事，突然变成唯一被在意的事。国会通过写得很仓促的立法，或者来一次行政行动。危机响应，这个国家知道怎么做。他希望不必等危机，监管机构就回应。

他认为第一步是某种行业标准，一种认证：模型要向公众发布，或者要部署给公众，先过一套标准的安全测试，确认它不会出去做自主的网络攻击，也不会被武器化去制造新的生物武器。他把它当成入场的最低要求。制药公司卖药之前要测试。AI 公司把模型提供给公众之前也该测试。

再往后，大概需要一种协调机制，把前沿放慢。这是过去几个月说服他的。他原先认为放慢不可能，把大家往加速上推的力太多。他从 Dario、Demis、Sam，以及另外许多 AI 负责人那里看到：他们确实认为走得太快，确实想给这些公司的安全研究团队买时间，找出控制和监测的新办法，免得 Hugging Face 那种事以更密的节奏发生。字幕把前两个人名听成 Daario and Deis。

举重和叉车不要用反

他把每天的任务分成两类：举重，和叉车。

举重是挣扎本身就是收益的那一类。不挣扎，就没有成长、学习和对自己的挑战。把叉车开进健身房替你举铁，是浪费：你没有变好，叉车也没有变好，工具和方法配错了。反过来，为了拒绝叉车而拒绝叉车，也不成立。有些任务就是把一件很重的东西从甲搬到乙。工具能抄近路、把它变简单、提高产出，就该用。

多数日常任务能归进这两类。用反了，就是用叉车举自己的铁，人没有变强；或者扛着不必扛的重货板，那不会让人更好，只会伤人。

他眼下的举重是养育。外面有各种用法，比如用 AI 给孩子读睡前故事。对他来说这整块都是举重。他享受养育。这件事得自己做。外包对自己不好，对孩子也不好。眼下交给叉车的，是开公司时那些法律和流程上的研磨：文书、保险，每天那些挡路的小任务。这些他愿意交给机器。

Every 的一场活动要他交一份对未来的 thesis。他说那封邮件还在收件箱里，这一件他还没有举过。到会之前他会准备好。

Machine Gods：先把一周两期站稳

新节目叫 Machine Gods，和 Casey Newton 一起做。Casey 是他在 Hardfork 的长期共同主持。一周两期。Roose 说上一周刚刚开始，和 NPR 合作。主持人口播这节目已经出来几周。两个时间说法都留在口述里，不合成一个日历。

他们把 AI 当成世界上最重要的故事来做。上一周的一期刊访了三位里的两位，前 OpenAI 安全研究员，在一次关于与外部审计分享信息的争执之后被解雇。这一期没有给出名字。计划是继续拆一周的新闻，访问 AI 里制造新闻的人，并把事情做得有趣、听得懂。

和 Hardfork 不同的地方，他先要的是把节目本身做好。站稳至少还要几个月。仍在迭代、测试、试验。一周两次能稳定做出来、自己也觉得好，之后才谈扩展。在《纽约时报》时他们喜欢做现场活动，Machine Gods 以后大概也会再做。他不想扩得太快，把自己拉过界。

他想认真学会视频，做到很多记者和播客主持人还没做到的那种好。大量播客视频是因为用户或广告主期待才做的，画面仍是两个人在屏幕里说话。这种格式可以成立。他想撞的是下一阶段的视频里，真正好的、有野心的新闻看起来是什么样。答案他还不知道。YouTube 上对新闻和信息的需求很大。现在在这个平台上做成新闻和信息频道的人，很多不是记者，不是从《纽约时报》《华尔街日报》或《华盛顿邮报》出来的，是平台上长出来的人。记者要向他们学，同时做自己的事，守住自己的标准。记者历史上不太肯拥抱视频的美学和格式，因为不是他们长大时在做的事。他给自己的目标，至少在接下来这一小段，是找出最好、最有野心、同时仍可持续的版本：像是属于这些视频平台的，人也愿意看，能从里面拿到东西。

从纯音频走到音频加视频，他学到的是节目会变。有一批人只听，不在意画面，所以关着屏幕、在车上、叠衣服的时候，节目也得成立。要是有人在电视或 iPad 上看，也得有值得看的地方。他说还没有任何节目真正把这件事钉死。他的目标是看起来和听起来一样好。YouTube 他看得很多，现在可以把这说成工作：研究什么在这个平台上成立。