
Show Notes
本集深度简介 这期我们把token这个被讲烂、却没几个人讲透的概念从头拆到底。Lewis用"模型认知世界的最小切片"给它下定义,复盘了当年Gemini坚持用字符定价、最后被整个行业倒逼着改用token的往事。一次典型的技术导向的胜利。 真正的摩擦从agent时代开始:使用方式从chatbot转向agent,token消耗爆炸式增长,一年预算三四个月就见底。更隐蔽的坑是not every token is created equal。同一段输入在OpenAI、Gemini、Anthropic上切出的token数完全不同,Anthropic往往还多一大截。加上它没什么动力帮你省,连阿里内部都一度停用了Claude。 我们真正想回答的是impact per token。算力买来了,价值链却是断的:为什么该回到revenue、KPI这些最原本的商业指标,而不是像Meta那样拿token用量考核工程师、逼出一堆刷token的假动作。从caching、memory、蒸馏到neuro-symbolic和自我进化的agent,提效的技术路径也一并摊开讲透。最后落到一个更大的判断:scaling law本身可能就有bug,大模型的护城河正在消失,而"法拉利模型"与"本田模型"并存的智能霸权,也许才刚刚开始。
时间线索引 00:00 什么是Token 03:38 agent引爆token经济学 04:34 不是每个token都平等 12:03 咨询公司复兴 15:06 别用间接指标考核 18:29 提高impact的技术清单 30:42 上周趣闻
这期我们讲到的内容 Meta Muse Spark: https://ai.meta.com/blog/introducing-muse-spark-meta-model-api/ Scaling law: https://lilianweng.github.io/posts/2026-06-24-scaling-laws/
More from 硅谷温差
Meta的Muse、OpenAI的Dots接连上线,这期从使用者角度拆Personal AI。Will每月在AI上至少花1000美元,但省下的时间并没有回到家人身上:雇主会收走效率红利,人越用越卷。Instinct这类邮件日历助理在VC和创始人圈爆火,出了圈,多数人只把豆包当更强的搜索。真正值钱的是以前贵、做不到的事,比如看病、高尔夫动作分析、几千页工程图纸的进度管理。瓶颈在Context:邮件日历只是生活的一小片,穿戴设备能补,但越懂你越creepy。Lewis也聊到当年在Google做Gemini时没来得及推的端到端加密推理。最后我们把产品形态分成委托、镜子、延伸、挑战四类,Will反对做数字分身,主张为具体任务设计员工。
NVIDIA花130亿买下Hugging Face,AMD用82亿收了李飞飞的World Labs。同样是芯片厂买模型层,买到的东西完全不同。 Hugging Face作为独立公司很难靠营收扩张,放进NVIDIA才值钱:开发者选模型、测模型的早期信号都在这,抓住源头就能影响inference最后跑在谁的卡上。大厂都在自研芯片,企业却没人造得起TPU,只能买现成的,开源模型的使用者才是GPU的基本盘。小模型已经够用,最贵的token适用场景越来越窄,模型趋近免费,要付钱的只剩GPU。AMD这笔我们觉得风险很大:人很强,但world model连定义都没定下来,离变现还远。 时间轴 00:00 130亿买便宜了 07:03 抢在推理之前 11:43 开源用户是大客户 14:18 Token终将免费 18:18 AMD押注World Model 25:45 Muse证明够用就行 28:45 国内只挖人不并购 30:17 上周趣闻
从孙宇晨把资产丢进 Claude Code、问 AI“5000 万美元该不该给”说起,这期《硅谷温差》聊 Personal AI 个性化 AI 助理 到底靠不靠谱。
DeepSeek把harness开源,连agent loop都是可换的plugin,本质是放权给模型;为什么开源?用open weights的企业根本不会用它的API,这是唯一的触达路径。企业侧的温差很实在:现在的harness也就一个9,企业要三个9,同一个任务跑五遍结果都不一样就很难落地。有人把信用卡号告诉过模型,下次它直接拿去结账,决策和执行不分层,人就失控。Pi靠四个tool和不到1000 token的system prompt走红,但开源harness大家先测的是cache命中率,省token是真的,提质量还是问号。最后没吵完的问题:harness是CPU里的checksum,还是迟早被模型吃掉。
这一期《硅谷温差》聊AutoResearch和Self-improving Agent:AI Agent真的能自己变聪明吗?还是只是被包装成自我进化的Workflow Automation? Lewis和Will从Karpathy提出的AutoResearch、Jeff Dean的Discovery Loop、AI Scientist、Deep Research、Hermes Agent、企业 SaaS 自我迭代等案例出发,拆解self-improving agent的真实技术路径:它到底是靠brute force搜索、memory、harness、eval loop、tool refinement,还是模型能力本身的突破? 这一期重点讨论三个问题: Auto Research 的核心价值是“AI 科学家”,还是帮助人类更快探索更多方案?