E242｜最快半年AI跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地

从ChatGPT掀起生成式AI浪潮到现在，不过短短两三年，AI能力的进化速度已经让"AI自我进化"这件事从科幻走进了现实。上个月，Anthropic在一份公开报告中预测，AI未来将进入"递归自我提升"（Recursive Self-Improvement, RSI）阶段，并呼吁人类共同为AI的发展设计出一个减速或暂停机制。

AI自我进化会以多快的速度到来？未来的AI，它会在通往真理的道路上与人类并肩作战，稳步破解医学、气候等种种难题，还是会在暗处走向失控？

本期播客，泓君邀请到专注做“发现模型”的AI公司Apodex的两位首席科学家，杜少雷和Beibin，一起聊聊AI的自我进化与自我验证。

Apodex是一家陈天桥出资创立并亲自主导的公司，这家公司给自己的定位也非常的特别，他们只做一件事—— heavy duty solver，意思是专啃那些没有标准答案，人类自己都不知道从哪下手的难题。他们管自己想做的模型叫做 discovery model。不是从已知的信息里面找答案，而是要提出人类还没有想到过的假设，自己想办法去验证它，去解决这个世界上还没有被解决的科学难题。

嘉宾预言，最快半年，AI就能跑通一次完整的自我进化闭环。但要实现持续的、可靠的递归提升，模型必须具备“自我验证”能力。这很像人类科学家的基本功：大胆假设，小心求证。而要让AI做到这一点，关键的前提是——教会大模型真正拥有科学家一样的品味和判断力。

【主播】

泓君，硅谷101创始人，播客主理人

【嘉宾】

Simon Shaolei Du（杜少雷），Apodex推理模型与训练首席科学家，华盛顿大学计算机科学与工程学院副教授

Beibin Li （李辈滨），Apodex自我进化与编程首席科学家

【你将听到】

自我进化背后的底层能力

03:00 AI自我进化不是新概念，两三年前就有了

06:48 RSI概念火了，背后是模型能力变强了，长程任务表现更好了

09:20 技术上如何训练AI做好长程任务？算法+数据+infra

12:45 Coding能力代表了模型自我进化的底层能力

14:29 用自我验证规避“递归漂移”，代码领域相对可控

16:21 Apodex的验证方法：多个子agent互相验证

19:11 自我进化三条路径：预训练、后训练、Harness

23:56 另一项关键能力DeepResearch，Apodex如何做到多个榜单第一？

29:19 技术范式决定了多个agent组团解决问题效果好于单个

31:18 模型自动进化后，会碾压agent团队吗？垂直领域护城河仍在

自我进化关键一步——学会提问

34:19 Apodex定位：用Discoverative框架解决人类未解难题，不把Token当生意

36:18 “发现模型”最难之处：提出超出经验范围的假设，并去验证

37:52 让AI像科学家一样提问，需要模型有更好的品味

43:31 如何避免大模型拍马屁？远离大众偏好

46:30 “AI宪法”定义性格，顶级科学家数据校准品味

巩固品味，阻止“跑偏”

51:33 AI巨头都在做科研发现模型，判断问题价值是关键

55:32 不同于AI for Science，Heavy Duty Solver是通用模型，强调元能力

57:25 最快半年能跑通自我进化的第一个闭环，但解决递归漂移还需要2-3年

58:43 让科学家睡不着觉的问题：如何防止AI“走火入魔”

01:00:04 解决方案仍靠人工手调，“自我蒸馏”也许是个方法

01:04:28 人类只是warm start，未来AI将形成自我品味，就像AlphaZero

01:06:18 陈天桥与Apodex：制定“宪法”，聚焦Heavy Duty Discovery

【硅谷101正在招聘】

《硅谷101》招聘多个全职岗位，欢迎加入我们的超酷的深度内容工作团队！

👉🏻点击查看招聘详情

【监制】

泓君

【后期】

Amei

【运营】

朱婕

【BGM】

Light-Footed - Bonnie Grace

Reclaim - Megan Wofford

Charcoal Stream - Curved Mirror

【在这里找到我们】

公众号：硅谷101

收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓FM｜荔枝FM｜网易云音乐｜QQ音乐

其他平台：YouTube｜Bilibili 搜索「硅谷101播客」

联系我们：[email protected] Special Guests: 李辈滨 and 杜少雷.