42章经

我是这样用 RL + LLM 做 Agent 的|对谈 Pokee AI 创始人朱哲清 Bill

42章经

Show Notes

新年正式第一期,来点新东西。 大家都说 Agent 热,那 Agent 到底是啥、到底为啥热、到底咋做、到底长啥样? 大家都说 RL 是新方向,那 RL 到底是啥,和 LLM 的关系是什么,又能怎么和 Agent 结合? 这期我们就请到了在 Meta 工作了七年的应用强化学习组负责人朱哲清 Bill,讲一讲他是怎么用一种很新的技术路线来做一种很新的 Agent,并且在电商等领域是如何落地的。 最后,我们的 AI 私董会也在持续报名中,目前已经聚集了一批市场上最好的 AI 创始人,欢迎点击链接报名(里面也有目前已加入的成员名单,可点击查看) 【人类博物馆】 导游:曲凯,42章经创始人 30 号珍藏:朱哲清 Bill,Pokee AI 创始人兼 CEO,此前 7 年在 Meta AI 做应用强化学习组负责人,并攻读了斯坦福大学强化学习专业博士学位 【时光机】 Part1 强化学习 3:06 我们思考方式已经全面 RL 化 —— from OpenAI 研究员 4:36 Transformer 和 RL 到底是什么关系?又要如何结合? 10:15 RL 解答的是平行宇宙问题 12:35 RL+LLM,就是公认最好的技术路线吗? 14:02 RL 的算法原理类似于「多巴胺刺激」 14:42 在无法清晰定义 Reward 的场景下,RL 还好用吗? 15:12 RL 最强的三个能力 Part2 给 Agent 用上强化学习 18:42 为什么直接用 LLM 做不出规划型 Agent? 20:17 一个有效的 Agent 架构:RL 做核心,LLM 做翻译 23:35 我们做出了一个电商领域的通用型 Agent 24:39 体验相当于一个资深的网站负责人 26:05 原理是让 Agent 通过 self-play 学会使用上千个底层 API

29:43 Agent 当前市场格局: 29:52 Coding Agent 是皇冠上的明珠 30:26 Vertical Agent 遍地开花,但准确性仍是大难题 30:46 通用型 Agent 尚不存在,但 RL 或可迎战

31:17 万物皆可 call API 34:07 一个具体的应用示例:Agent 是怎么帮商家省钱提效的? 39:08 训练成本和推理成本都低得令人发指... 40:33 先定一个小目标:做各行各业的 API 杀手 42:57 对 25 年硅谷 AI 市场的观察和预判 43:11 垂类 Agent 是绝对的热点赛道,融资并不困难 45:29 25 年是 Agent 真正落地的一年

【The gang that made this happen】 制作人:陈皮、Celia 剪辑:陈皮 Bgm:Mondo Bongo - Joe Strummer & The Mescalero

在小宇宙查看该单集文稿

More from 42章经

Oct 17, 2026

这一年,说起 AI 应用创业,相信很多人的共同感受就是:难。 融资难,找 PMF 难,养活团队难,不被模型吃掉难,更难的是,身处绝境时,到底怎样才能坚持下去。 这期节目的嘉宾 Jason,也经历了这样的过程。他是 Articuler.ai 的创始人,此前做过 5 年投资,后来去了美国,埋头创业。去年最难的时候,他拿到的融资 TS 被撤回,睡朋友家的沙发,卖掉了自己的股票垫给公司,却仍一度面临现金流即将断裂、发不出工资的窘境。 那段时间,他经常睡不着,在朋友家楼下转圈,一遍遍问自己:「我到底要不要放弃?」 而他给自己的答案始终是:「这件事我必须得做,而且就得我来做。」 穷让人绝望,却也让他们摸索出了新的 PMF 场景,撑了过来。如今,Articuler.ai 已有 7 万多注册用户、超百万美金 ARR,付费、留存和增长逐渐有了起色,与外部伙伴的合作也越来越顺,co-host 了 OpenAI Codex Meetup、AGI Summit、SF Tech Week 中的各种活动等等。 这期播客,我们就请 Jason 重点讲了讲他是怎么撑过最难的那段日子、在绝境中找到 PMF 的,以及这个华人团队,凭什么能在美国跑通 GTM、赢得本地客户的信任。 坦白讲,Jason 并不是我们播客最常邀请的那类嘉宾,也不是美元 VC 通常青睐的 Founder。但用他自己的话说,从学生时代到创业,他一直把自己看作一个 Underdog,也一直相信: Underdog 能赢。而且很多事情就该由这样的人去改变。 【人类博物馆】 导游:曲凯,42章经创始人 53 号珍藏:Jason,Articuler.ai 创始人 【时光机】 01:52 找到新的 PMF 场景,可能恰恰是因为穷

Oct 12, 2026

最近 Personal Agent 非常火。而早在这波概念火起来之前,子皓就已经在做这个方向的软硬件结合产品 Ambi 了。所以国庆前,我们约他录了这期播客,请他分享几个月做下来对这个赛道的思考和实践经验,比如这件事的成本到底有多高、人们有多大需求、如何看待不同的产品路线、面对大厂该怎么竞争等等。 子皓一直是我心中很擅长 deliver 结果、或者说总能赚到钱的 founder,所以我也请他分享了为什么这么会经营。过程中,还第一次听他讲高三暑假发现商机、成为溜冰场独家代理的故事。不得不说,他在赚钱这件事上真是有天赋,而天赋之外,也有很多可被习得的经验。 其实这波 Personal Agent 的火是有迹可循的,从 Openclaw、Hermes,到 Muse、Instinct,背后的主线都是「如何让智能被更多人更好地用起来」。但奇怪的是,这个赛道上跑出来的国内产品并不多。事实上这几年,跑出来的国内 AI 产品都不多。所以节目最后,我和子皓也探讨了下这到底是为什么。我们没能得出答案,也真的希望这个局面能很快发生变化,因为我们或许已经等到了能跑出亿万级用户体量产品的 timing。 (Ambi 最近已经开放下载,42章经拿到了五个邀请码,欢迎感兴趣的朋友填写表格申请:https://my.feishu.cn/share/base/form/shrcnoeenyPxPRgTUEq3G0tWX8P 【人类博物馆】 导游:曲凯,42章经创始人 54 号珍藏:莫子皓,Ambi 创始人,曾任 Plaud 合伙人兼中国区 CEO。他还曾创办「米公益」,公司后被轻松筹收购。此后,他先后担任暖哇科技合伙人兼首席产品官、百川智能医疗方向产品及运营负责人 【时光机】 Part 1 对 Personal Agent 的思考 01:49 为什么最近 Personal Agent 这么火?

Sep 27, 2026

这几年,很多人都在用 AI 炒股。最近,模型厂和大厂也在主推 AI 在金融场景中的应用。 但 AI 到底怎样才能更好地辅助交易?会给市场带来什么变化?用上 AI,人人就都能像巴菲特一样了吗? 这期播客,我们请到了很火的开源项目 Vibe-Trading 的作者和维护者吴浩哲,聊了聊 AI Trading 相关的各种问题。 浩哲本科毕业于武汉大学数学系,目前是香港大学在读博士生、HKUDS 成员,一直在探索 AI 与金融的结合。Vibe-Trading 开源半年,已有 3.4w 个 Star。 节目里,我们就从这个项目讲起,拆解了 AI Trading 到底是什么、由哪些部分组成、哪个环节最关键,以及它和传统量化有什么区别、人又该在交易流程中扮演什么角色。此外,我们也聊了聊最近很火的 Jev 到底能不能在 AI Trading 中发挥作用。 贯穿整期节目,还有浩哲的一个观察: 在金融里,决策很便宜,行动很贵。 你可以轻易获得成百上千个判断和信号,但真要付诸交易,「可解释性」就变得非常重要。你得知道判断是怎么来的、为什么值得相信,才能决定自己是否愿意为它付出真金白银。 节目最后,我们还聊到了一个颇有哲学意味的问题:随着 AI 越来越强,「Human in the loop」或许不是因为 AI 需要人来判断,而是人需要通过参与,来确认自己的意义感和价值…? 【人类博物馆】 导游:曲凯,42章经创始人 53 号珍藏:吴浩哲,Vibe-Trading 作者及维护者,武汉大学数学系本科,香港大学在读博士生、HKUDS 成员,长期探索 AI for Finance 的研究与实践 【时光机】 01:26 介绍下 Vibe-Trading:为什么开源不到半年,就能有 3 万多 Star?

Aug 29, 2026

活动预告🥳:9 月 12 日,我们会请到雨鑫做一场线上活动,大家记得翻到 shownotes 末尾查看报名信息! 最近硅谷有了新热点:主权 AI 和 Personal Intelligence。简单来说,就是很多人开始相信,未来会有越来越多的应用公司和个人,训练自己的模型。 对绝大多数人来说,训练模型仍然是一件听起来遥不可及、门槛很高的事,但我们这期节目的嘉宾逯雨鑫却认为,它非常简单,简单到他此前没有 AI Lab 的经历,也不是 AI PhD,只用了 2 周和数百美元,就后训练出了两个登顶 Hugging Face Model Trending 榜首的小模型。 他具体是怎么做到的、摸索出了怎样的 Pipeline?过程中踩过哪些坑?以及无论对个人还是公司来说,训练模型最大的卡点都是数据,那么他是怎么攻克这个难题的?在蒸馏路线、数据来源上,又有哪些 secret sauce? 节目后半段,我们还进一步讨论了主权 AI、Personal Intelligence 和 Local AI 相关的各种问题,比如这些事情普及开来的门槛在哪里、未来 AI Lab 和应用公司的分工与价值会有什么变化等等。 就在一个月前,我们还在讲 AI 应用遭受的冷遇;但录完这期,我们好像又看到了应用的曙光。也许在不久的将来,越来越多的应用公司都会成为 Neo Lab,Local AI 也可能成为一个 PC 级别的机会。而拥抱模型训练和 Local AI,最好的时间可能就是现在。 希望雨鑫摸索出的实践路径,能给应用公司和个人带来一些启发。如果你还想了解更多,也欢迎报名 shownote 末尾的线上活动,来和雨鑫直接交流(尤其欢迎应用创业者!) 【人类博物馆】 导游:曲凯,42章经创始人 52 号珍藏:逯雨鑫,Mind Lab 研究员;以个人开发者身份、数百美元成本微调的模型两次登顶 Hugging Face 热度榜;focus 在 post-training(蒸馏、SFT)与数据工程,近期方向为 continued pre-training 【时光机】 Part 1 训模型的实操经验 01:33 非 PhD / AI Lab 背景,凭什么能训出榜一模型?

Aug 8, 2026

活动预告🥳:8 月 22 日,我们会请到繁青做一场线上活动,还会有数十位 model researchers 参与,大家记得翻到 shownotes 末尾查看报名信息! 近几个月,我们找了很多做模型、算法的人交流,聊下来的感受之一是:数据的重要性再次凸显出来。 市场也有很明确的对应反馈,比如一批合成数据公司在很短时间内做出了可观的收入;无论是模型厂还是互联网大厂,都在数据上更为投入。 这期节目,我们请来了较早抓住这波合成数据机会的 Evolvent AI 联合创始人孟繁青。繁青是 01 年出生的 NUS PhD,曾在 Kimi 做过一年多的 Agent 和 RL Infra。 节目里,我们从他在模型厂做 Post-training 与出来创业的不同感受聊起,也相继把有关后训练、数据、RSI/Self-Evolving/AI for AI、国内模型竞争格局,甚至蒸馏这个相对敏感的话题,都比较完整地梳理了一遍,聊出的一个最大非共识,是繁青对国内外模型差异的判断: 原本我们以为,国内更有优势的会是偏工程的 Post-training;但在他看来,国内模型真正有特色的地方,反而是 Pre-training 阶段被资源限制倒逼出来的架构创新。 基于这个认知,我们也得出了一个让人乐观的结论: 很多人会说国模很依赖蒸馏,但繁青认为,蒸馏只是一个加速手段,并不是国内模型变强的决定性因素。就算有一天海外把所有蒸馏通道都封掉,国模依然可以靠预训练的创新能力,构建起自己的竞争力。 最后,Evolvent AI 最近发布了新的研究成果 RSIBench-Data。如果有朋友想在数据、RSI 方面进行交流,也欢迎联系繁青。 【人类博物馆】 导游:曲凯,42章经创始人 51 号珍藏:孟繁青,Evolvent AI 联合创始人;前 Kimi RL 实习生,foucs 在 RL Infra,参与 Kimi K2.5、Kimi Linear 等重要模型发版 【时光机】 Part 1 后训练与模型竞争 01:15 在 Kimi 和出来创业的感受有什么不同?

See all episodes →