Show Notes
在AI算力争霸时代，英伟达凭借GPU市值一路狂飙。但如今，它的蛋糕正在被一点点分食——2024年，苹果论文披露Apple Intelligence全部由TPU训练；2025年，Anthropic签下数十亿美元订单，购买TPU训练Claude；近期，Meta与谷歌签署数十亿美元协议，租用TPU跑Llama。 TPU一直是谷歌低调的“自家武器”，在过去十年里驱动着几乎全部核心产品。直到TPU训练的Gemini 3打了一场漂亮的翻身仗，人们才开始重新审视：这套从搜索推荐系统中长出来的定制芯片，究竟藏着多少秘密？ 本期播客，我们邀请到前谷歌TPU工程师Henry。他在2018年至2024年间深度参与了三代TPU的研发，也见证了大模型时代TPU的关键转型。他将从硬件架构、软件生态、生产供应链三个维度，一层层揭开TPU的神秘面纱。 我们将深入探讨：TPU与GPU的架构有何根本不同？TPU的产能瓶颈卡在哪里？当谷歌开始向Anthropic、Meta开放TPU，它在软件生态上要迈过哪些坎？如果未来模型的底层范式发生改变，TPU还能押准方向吗？而最关键的问题是：TPU真的有机会撼动英伟达的霸主地位吗？
【主播】 泓君，硅谷101创始人，播客主理人 【嘉宾】 Henry Zhu，前Google TPU工程师，参与V6/V7/V8 TPU研发
【你将听到】 TPU挑战GPU 03:06 架构对决：GPU像多个大厨，TPU像流水线接力 06:41 TPU vs GPU：谁在模型训练上更强？ 10:20 TPU产能之困：HBM、封装与良率
XLA软件黑盒 14:06 Anthropic为何率先下单百万部署？ 16:01 黑盒优化如何“榨干”硬件性能 17:47 XLA与CUDA，两种生态之争 19:53 苹果为什么能成为TPU大客户？
“大模型客户” 20:45 Gemini成功背后，TPU做了什么？ 22:34 TPU是如何做MoE优化的？ 23:45 设计难点：如何押中两三年后的算法？ 26:05 TPU的转身：V6开始押注大模型预训练 28:53 Transformer先发优势带来的旗鼓相当能持续多久？ 32:04 Meta的TPU托管服务：生态逐渐走向兼容
供应链命门 36:08 拓扑通信架构如何为TPU打赢数据中心成本战 38:27 博通（Broadcom）是谁？为什么它如此关键 42:04 挑战GPU的机会：用户规模越大推理越快 45:36 V7之后：Gemini实现100%TPU训练 48:15 一句话总结TPU优劣势
TPU十年进化史 49:49 V1推理芯片试水，V2训练芯片旗舰，V4优化推荐算法 52:16 V5/V6：进入大模型时代，推出推理专用版本 56:05 团队演变：软件组话语权越来越重
新星Groq 57:14 踩准每一次红利的编译器公司 59:27 差异化定位：做小规模部署的低延迟优化 01:01:59 AI算力芯片新战局
【更正】 54:20 口误，Groq创始人Jonathan Ross，现为英伟达首席软件架构师
【监制】 泓君 【剪辑】 小师 Jacob 【运营】 朱婕 【BGM】 Virtuoso Violin - Rafael Krux Angular Pulse - Guy Copeland Top Flow - This Violin
本期节目中嘉宾所表达观点均为其个人看法。 本期节目不构成任何投资建议，投资有风险，入市需谨慎。
More from 硅谷101|中国版
回顾9月，AI圈的重磅新闻一个接一个。 先是OpenAI发布GPT-6 Astra，总裁格雷格·布罗克曼在发布会上宣布：AGI已经到来。 这场发布对机器人行业的冲击，来得有些意外，一个发布会报告里只字未提机器人的通用模型，转身就空降了机器人评测榜首，甚至让很多机器人的Benchmark都失效了。有人开玩笑说：机器人领域等了这么多年的“GPT时刻”，居然是GPT自己。 同样在这个月里：Meta Muse冲上美国App Store榜首，它的竞争对手Instinct估值也涨到了100亿美元；xAI的Grok Bot也开放了企业部署；不生成文本、只给选项打概率的决策模型Jev以“系统1”走红，发布24天就融了8.7亿美元。 在AI for Science方面，Claude发现类CRISPR的新酶系统；扎克伯格夫妇资助成立的Biohub宣布将虚拟细胞计划扩大到18亿美元，这些进展又会为科学发现带来哪些改变？ 本期《硅谷101》，我们请来三位分别站在Agent、机器人和AI制药一线的研究者，聊清楚三件事：个人Agent商业化卡在哪？机器人怎么被Astra这样的底层模型冲击？AI制药真正的瓶颈是什么？ （本期节目录制于2026年9月29日）
模型在榜单上越来越强，为什么真正把工作交给AI，还是需要人反复解释、检查和兜底？ 半年前，我们与阿里国际站总裁张阔聊了Accio Work，以及Agent如何参与采购和日常经营。半年后，我们再次请到他，聊聊这半年来商家使用Accio Work的真实案例，试图回答这个问题：模型能力的提升，究竟有多少变成了商家工作里的进步？ 张阔分享，很多模型的通用评测成绩已经接近满分，但团队在真实经营中，并没有感受到同样幅度的提升。为此，他们从实际业务中整理了107个任务，包括比较供应商报价、识别钓鱼邮件、预订船期和处理交易纠纷。据他介绍，在这套特定评测中，最前沿模型在无人干预条件下的任务通过率约为61%。 这些任务没有数学竞赛那么耀眼，却直接关系到商家的成本、交期和利润。一个好用的Agent，既要能把工作做完，也要让人用得起；既要理解工具和流程，也要理解这盘生意究竟想追求什么。 这期节目，我们聊聊榜单成绩与实际交付之间的落差、通用模型与垂直产品的竞争，以及当AI接手越来越多的执行工作，人还需要保留哪些判断。
这个夏天，来自全球各地的多个气象机构都拉响了同一个警报，一场史无前例的超级厄尔尼诺正在上演。 来自摩根大通的经济学家预计，全球的食品通胀将在2027年的上半年上升到5%，明显高于今年同期的2.8% 。这其中有来自霍尔木兹海峡封锁和黑海冲突的因素，也部分归因于我们正身处的这场、50年来颇为罕见的超级厄尔尼诺。 它究竟会通过什么方式影响到全球供给？它所带来的危害是否真的像媒体报道的那么大？在一次次与极端气候变化的对抗中，人们又为应对厄尔尼诺做了怎样的准备？
随着AI模型能力提升，训练需求更复杂，一批为模型公司提供训练数据的新公司正在快速增长：AfterQuery今年4月宣布A轮融资时，估值为3亿美元，到了9月，据媒体报道，新一轮融资已经将其估值推至32亿美元。另一家提供训练数据与智能体环境的公司Bespoke Labs，也在今年7月宣布，种子轮与A轮融资合计达到4000万美元。 虽然估值水涨船高，AI数据行业对外界来说却极其不透明。问题来了：这些公司究竟在卖什么？ 过去提到数据标注，我们容易想到给图片打标签、给模型回答打分。但随着AI从回答问题走向执行任务，数据公司的交付物也在变化：从专家写出的评分标准，到包含任务、工具和验证机制的强化学习环境。它们需要找到懂行的人，获得真实的行业资料，再把专业知识与工作经验转化成模型能够学习的训练信号。 与此同时，新的AI评测层出不穷。榜单分数提高了，究竟代表哪些能力变强了？针对评测生产数据，什么时候能改善真实用户体验，什么时候又会变成单纯的刷分？对于每天训练模型的研究员来说，他们最需要的数据，到底是什么？ 本期节目，我们邀请到在Scale AI负责后训练与评测研究的何允中，以及加州大学伯克利分校博士后、Agents’ Last Exam项目研究者孙一铀，从产业与研究两个视角，拆解这门透明度不高、又变化极快的生意。 我们聊了Scale、Mercor、Surge等数据公司的不同背景，也讨论了小团队在合成环境与垂直领域中的机会。从采购一份游戏源码，到验证专家提交的任务，再到设计让人愿意交出经验的激励机制，好数据的难点，往往藏在榜单之外。
【本期节目由Eight Sleep赞助播出】 在这个健康意识崛起的时代，我们越来越愿意花大价钱管理自己的身体。睡眠，就是其中最重要的方面之一。 与手表、戒指等可穿戴设备不同，Eight Sleep的产品是一张能够自动控温的智能床套。马斯克、扎克伯格、Bryan Johnson、Sam Altman，都是它的用户。多名职业运动员，也习惯带着它去比赛。这张售价约两万元的智能床套，究竟替我们做了什么？ 这期播客，我们邀请了Eight Sleep的两位创始人，Matteo Franceschetti和Alex Zatarain，聊聊睡眠科技和文化。 他们说，现代人已经熟悉了各项睡眠指标，例如深度睡眠、REM、HRV。但Eight Sleep想要更进一步：在人们熟睡时，根据身体的变化，自动调整床面温度、床体高度，让技术在你毫无知觉的时候工作。 这张床套背后，也是一家消费硬件公司十多年的摸索。从拆开电热毯做原型机，到众筹卖爆却发现卖一台亏一台；从搬到中国学习制造，到反复经历现金流危机，创始人踩了很多坑，才慢慢探索出令人满意的产品形态。 今年4月，Eight Sleep进入中国。消费竞争激烈的中国市场，反而是他们增长最快的一个。一张床套卖两万人民币，Eight Sleep如何解释自己的定价？进入全球35个国家，这家公司从上百万用户身上学到了什么？ 我们也聊到伴侣之间的温差、孕期与产后的睡眠变化，以及他们更远的野心：从改善睡眠，走向健康异常预警和预防医疗。最后，我们还是回到那个最朴素的问题：究竟怎么才算睡个好觉？