硅谷101|中国版

E246|何谓蒸馏?聊聊硅谷如何看中国开放模型逼近前沿

硅谷101|中国版

Show Notes

7月27日,月之暗面正式发布Kimi K3的完整模型权重。自7月16日API上线以来,K3就在在多项测试中展现出接近前沿模型的能力。因此,它成为了硅谷最近讨论开源时的重要案例之一。从2025年初的DeepSeek时刻,到当下的Kimi K3,中国开源模型正在从成本更低、能力稍弱的替代品,逐渐逼近甚至超过最强的闭源前沿模型。 随之而来的,是一场越来越激烈的蒸馏争论。什么是蒸馏?通过闭源模型的输出进行训练,和未经授权的大规模能力提取,有什么区别?即使中国实验室使用过美国模型生成的数据,它又究竟能解释多少最终能力?

本期播客,我们邀请到两位嘉宾来分别从开源生态和企业的视角,讨论这一波中国开源模型的影响:前Hugging Face亚太开源生态负责人王铁震,和TinyFish联合创始人Keith Zhai。 我们从K3带给硅谷的挑战聊起,讨论了为什么把中国模型的进步全部归因于蒸馏,实际上忽略了架构、强化学习、数据工程和推理基础设施上的创新。而当蒸馏从一种中性的训练技术,变成商业竞争和政策讨论中的指控时,争议的核心又变成了什么? 在此之外,我们也讨论了K3针对大型推理服务商设计的商业授权:当开源权重模型持续压低成本,它会如何冲击OpenAI、Anthropic等闭源实验室的商业模式?当模型能力逐渐商品化,未来AI行业的价值会流向模型本身、推理基础设施,还是Agent与企业工作流?

注:本期播客中提到的“开源”,更准确地说是开放权重(open weights)。K3官方称自己为开放模型,它使用的是Kimi K3 License,不是标准MIT/Apache 这类完全开放的OSI license。

【主播】 Yiwen,硅谷101特约研究员 【嘉宾】 王铁震,Hugging Face前亚太生态负责人 Keith Zhai,TinyFish联合创始人

【你将听到】 中国开放模型,硅谷怎么看? 01:45 Kimi K3为什么突然成为硅谷关注的焦点? 03:33 从DeepSeek、GLM到K3:硅谷对中国模型的判断如何变化 06:51 企业为什么开始转向中国模型 10:23 中国开放模型推理成本

蒸馏争端始末 13:24 蒸馏争议:到底什么是蒸馏? 17:22 K3是否可能在短时间内蒸馏最强闭源模型? 19:48 蒸馏能解释模型的核心能力吗?

开放模型对闭源商业模式的影响 23:54 K3 License与开放模型商业化 34:27 开放模型会怎样冲击OpenAI和Anthropic的收入与估值? 37:39 英伟达为什么支持开放权重 43:41 中国公司为什么选择开放

强大的开放能力下,Agent生态如何变化? 45:04 Thinking Machines为什么开放权重? 48:39 开放模型催生的新生态 48:43 OpenRouter等多模型平台为什么开始受益? 49:56 对Agent产品和基础设施的影响

开放模型的安全之争 55:40 接近前沿的模型,到底应不应该开放权重? 01:04:01 开源和闭源模型,谁更容易被滥用?

【相关术语】 开放权重(Open Weights):指模型开发者公开模型训练完成后的参数文件,允许用户下载模型,并在自己的设备或云端进行部署、推理、微调或进一步开发。开放权重并不意味着训练数据、训练代码和完整训练流程也同时公开,具体使用方式还会受到模型授权协议的限制。 开源模型(Open-Source Models):通常指不仅公开模型权重,还公开足以让外部开发者研究、修改和复现模型的更多组成部分,例如训练代码、模型架构、数据处理方法、训练流程,以及在部分情况下使用的训练数据。由于大模型很少完整披露所有训练材料,目前业界对什么样的模型可以被严格称为“开源”仍存在争议。 思维链(Chain of Thought):指模型在生成最终答案之前,用一系列中间步骤拆解问题、组织信息和进行推理的过程。 规模扩展效率(Scaling Effiency):指模型将计算资源转化为能力提升的效率,也就是在使用相同或更少的算力、数据或训练成本时,能否获得更好的模型表现。 键值缓存(KV Cache):指模型在处理上下文和生成内容时,保存此前token在注意力计算中产生的Key和Value数据。这样,模型在生成下一个token时不必重新计算全部历史内容,可以显著降低重复计算,提高生成速度;但上下文越长,KV Cache占用的内存通常也越大。

【硅谷101正在招聘】 《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队!

【监制】 泓君 【后期】 Amei 【运营】 朱婕 【BGM】 Kablaam - Ealot Flickering Torches - Christian Andersen Radar Focus - Blue Saga Pulse Runner - Helmut Schenker

More from 硅谷101|中国版

Oct 20, 2026

回顾9月,AI圈的重磅新闻一个接一个。 先是OpenAI发布GPT-6 Astra,总裁格雷格·布罗克曼在发布会上宣布:AGI已经到来。 这场发布对机器人行业的冲击,来得有些意外,一个发布会报告里只字未提机器人的通用模型,转身就空降了机器人评测榜首,甚至让很多机器人的Benchmark都失效了。有人开玩笑说:机器人领域等了这么多年的“GPT时刻”,居然是GPT自己。 同样在这个月里:Meta Muse冲上美国App Store榜首,它的竞争对手Instinct估值也涨到了100亿美元;xAI的Grok Bot也开放了企业部署;不生成文本、只给选项打概率的决策模型Jev以“系统1”走红,发布24天就融了8.7亿美元。 在AI for Science方面,Claude发现类CRISPR的新酶系统;扎克伯格夫妇资助成立的Biohub宣布将虚拟细胞计划扩大到18亿美元,这些进展又会为科学发现带来哪些改变? 本期《硅谷101》,我们请来三位分别站在Agent、机器人和AI制药一线的研究者,聊清楚三件事:个人Agent商业化卡在哪?机器人怎么被Astra这样的底层模型冲击?AI制药真正的瓶颈是什么? (本期节目录制于2026年9月29日)

Oct 8, 2026

模型在榜单上越来越强,为什么真正把工作交给AI,还是需要人反复解释、检查和兜底? 半年前,我们与阿里国际站总裁张阔聊了Accio Work,以及Agent如何参与采购和日常经营。半年后,我们再次请到他,聊聊这半年来商家使用Accio Work的真实案例,试图回答这个问题:模型能力的提升,究竟有多少变成了商家工作里的进步? 张阔分享,很多模型的通用评测成绩已经接近满分,但团队在真实经营中,并没有感受到同样幅度的提升。为此,他们从实际业务中整理了107个任务,包括比较供应商报价、识别钓鱼邮件、预订船期和处理交易纠纷。据他介绍,在这套特定评测中,最前沿模型在无人干预条件下的任务通过率约为61%。 这些任务没有数学竞赛那么耀眼,却直接关系到商家的成本、交期和利润。一个好用的Agent,既要能把工作做完,也要让人用得起;既要理解工具和流程,也要理解这盘生意究竟想追求什么。 这期节目,我们聊聊榜单成绩与实际交付之间的落差、通用模型与垂直产品的竞争,以及当AI接手越来越多的执行工作,人还需要保留哪些判断。

Sep 29, 2026

这个夏天,来自全球各地的多个气象机构都拉响了同一个警报,一场史无前例的超级厄尔尼诺正在上演。 来自摩根大通的经济学家预计,全球的食品通胀将在2027年的上半年上升到5%,明显高于今年同期的2.8% 。这其中有来自霍尔木兹海峡封锁和黑海冲突的因素,也部分归因于我们正身处的这场、50年来颇为罕见的超级厄尔尼诺。 它究竟会通过什么方式影响到全球供给?它所带来的危害是否真的像媒体报道的那么大?在一次次与极端气候变化的对抗中,人们又为应对厄尔尼诺做了怎样的准备?

Sep 28, 2026

随着AI模型能力提升,训练需求更复杂,一批为模型公司提供训练数据的新公司正在快速增长:AfterQuery今年4月宣布A轮融资时,估值为3亿美元,到了9月,据媒体报道,新一轮融资已经将其估值推至32亿美元。另一家提供训练数据与智能体环境的公司Bespoke Labs,也在今年7月宣布,种子轮与A轮融资合计达到4000万美元。 虽然估值水涨船高,AI数据行业对外界来说却极其不透明。问题来了:这些公司究竟在卖什么? 过去提到数据标注,我们容易想到给图片打标签、给模型回答打分。但随着AI从回答问题走向执行任务,数据公司的交付物也在变化:从专家写出的评分标准,到包含任务、工具和验证机制的强化学习环境。它们需要找到懂行的人,获得真实的行业资料,再把专业知识与工作经验转化成模型能够学习的训练信号。 与此同时,新的AI评测层出不穷。榜单分数提高了,究竟代表哪些能力变强了?针对评测生产数据,什么时候能改善真实用户体验,什么时候又会变成单纯的刷分?对于每天训练模型的研究员来说,他们最需要的数据,到底是什么? 本期节目,我们邀请到在Scale AI负责后训练与评测研究的何允中,以及加州大学伯克利分校博士后、Agents’ Last Exam项目研究者孙一铀,从产业与研究两个视角,拆解这门透明度不高、又变化极快的生意。 我们聊了Scale、Mercor、Surge等数据公司的不同背景,也讨论了小团队在合成环境与垂直领域中的机会。从采购一份游戏源码,到验证专家提交的任务,再到设计让人愿意交出经验的激励机制,好数据的难点,往往藏在榜单之外。

Sep 24, 2026

【本期节目由Eight Sleep赞助播出】 在这个健康意识崛起的时代,我们越来越愿意花大价钱管理自己的身体。睡眠,就是其中最重要的方面之一。 与手表、戒指等可穿戴设备不同,Eight Sleep的产品是一张能够自动控温的智能床套。马斯克、扎克伯格、Bryan Johnson、Sam Altman,都是它的用户。多名职业运动员,也习惯带着它去比赛。这张售价约两万元的智能床套,究竟替我们做了什么? 这期播客,我们邀请了Eight Sleep的两位创始人,Matteo Franceschetti和Alex Zatarain,聊聊睡眠科技和文化。 他们说,现代人已经熟悉了各项睡眠指标,例如深度睡眠、REM、HRV。但Eight Sleep想要更进一步:在人们熟睡时,根据身体的变化,自动调整床面温度、床体高度,让技术在你毫无知觉的时候工作。 这张床套背后,也是一家消费硬件公司十多年的摸索。从拆开电热毯做原型机,到众筹卖爆却发现卖一台亏一台;从搬到中国学习制造,到反复经历现金流危机,创始人踩了很多坑,才慢慢探索出令人满意的产品形态。 今年4月,Eight Sleep进入中国。消费竞争激烈的中国市场,反而是他们增长最快的一个。一张床套卖两万人民币,Eight Sleep如何解释自己的定价?进入全球35个国家,这家公司从上百万用户身上学到了什么? 我们也聊到伴侣之间的温差、孕期与产后的睡眠变化,以及他们更远的野心:从改善睡眠,走向健康异常预警和预防医疗。最后,我们还是回到那个最朴素的问题:究竟怎么才算睡个好觉?

See all episodes →