Summary
Deep Seek has made a significant move by open-sourcing its internal inference framework, Deep Infer, along with its encoding and decoding components, Deep Seek Recipe. This decision is seen as more impactful than releasing any individual model, as it provides a complete production line for AI model deployment rather than just the design specifications. The inference framework is crucial for determining how a model operates once trained, affecting response times and operational costs.
Deep Seek Recipe acts as a translator, converting user messages into a format the model can understand and vice versa. This open-sourcing addresses common issues faced by developers using third-party frameworks, ensuring that models deployed independently can achieve performance levels comparable to those accessed through Deep Seek's official API.
Despite concerns about competition, Deep Seek appears untroubled by the potential for others to utilize its technology. The company aims to focus on its ultimate goal of achieving artificial general intelligence (AGI) rather than consumer-facing applications. By enabling cloud providers and enterprises to run their own models, Deep Seek hopes to reduce reliance on its own computational resources, allowing for more research and development.
Additionally, Deep Infer's native support for Huawei's Ascend chips addresses a significant gap in the software ecosystem for domestic computing power. This move not only facilitates the use of local chips in various sectors but also positions Deep Seek as a foundational player in the AI infrastructure landscape, potentially transforming the competitive dynamics of the industry.
Show Notes
【本期主题】 DeepSeek 前几天把自己内部在用的推理框架 DeepInfer，连同编解码组件 deepseek-recipe 一起开源了。如果说开源模型权重是交出一张跑车设计图纸，那这次等于把生产节拍和制造工艺也交了出来。这期讲清楚推理框架和编解码到底管什么，为什么自己部署的模型总是“不对味”，以及 DeepSeek 把最赚钱的东西送出去，背后算的三笔账：腾出算力做 AGI、把技术栈变成行业地基、打通国产模型和国产芯片。 【核心看点】 开源模型权重为什么只是一张跑车设计图纸，离真正造出车还差什么？
训练决定模型会什么，推理框架为什么决定了模型怎么干活、你要等多久、要花多少电费？
你在手机上问 AI 一句话，背后的推理框架是怎么调度成百上千张显卡的？
deepseek-recipe 这个翻译官管什么，为什么权重一样、自己部署出来的效果就是不对味？
梁文锋说提供云服务不是主要目标，开源推理框架为什么能帮 DeepSeek 腾出算力做 AGI？
把自己的技术栈变成行业默认的地基，和修高速公路有什么相似之处？
推理框架原生支持华为昇腾，为什么对金融、政务、央企特别重要？
从模型权重、算子库到推理框架，各自造轮子的时代为什么正在变成共用一套基建？
【主播】 软件和人工智能专家，程序员，已申请数十项技术专利。连续创业者，历任多家公司 CTO，AI 畅销书《DeepSeek 全场景指南》《学会提问，驾驭 AI：提示词从入门到精通》《玩转 Skill》作者，C 哥的 AI 成长圈主理人，帮众多企业和个人落地 AI。
前往小宇宙评论区与主播互动
More from C哥聊科技
【本期主题】 微信电脑版灰度上线新功能「小微」，把 AI 塞进了聊天、朋友圈、公众号和网页的每个角落。这期带你把它的五个入口逐个走一遍，从今天就能用起来。 【核心看点】 微信上的 AI 到底藏在哪个角落？
【本期主题】 DeepSeek Harness 开源，表面是带本地网页界面的编程智能体，底层则是基于 Cordis 的可组合执行系统。C哥拆开插件卸载、依赖管理和局部替换，解释它如何让智能体更可控地修改自己。但这只是自进化的基础：能换零件之后，还需要学习闭环与效果评估，才能知道改哪里、有没有变好。 【核心看点】 DeepSeek 没有先做成熟办公产品，而是开源执行底座，本地网页界面下面到底藏了哪三层东西？
【本期主题】 小红书开源 dots3-note 预览模型，并限时免费开放 API。C哥关心的不只是长上下文和多模态，更是内容平台为何需要自研模型：高频调用的成本、生活决策的复杂性，都和业务场景相关。本期结合模型闯关、保存记忆的例子，也聊预览版的稳定性短板，以及模型走进搜索、推荐和创作工具前还缺什么。 【核心看点】 小红书开放首个 dots3 系列权重，还限时免费提供接口，这个预览模型带来了哪些能力？
【本期主题】 知识库一定要先切片、向量化吗？C哥把 RAG 和 Skill 的参考资料机制放在一起，比较它们怎样查资料、保留上下文和更新文件，再用 Claude Code 查登录逻辑说明按需检索。本期也保留 RAG 适用的边界，最后给出目录引导、本地精确搜索、外部检索补充的三层知识库查找方式。 【核心看点】 文档切成几百个词元的小片段之后，为什么章节条件和引用关系容易在检索里丢掉？
【本期主题】 最近在企业级 Agent 和知识工程里爆火的「本体」，其实是一张让 AI 看懂企业业务的地图。这期讲清楚它是什么、为什么现在走红、问数 Agent 怎么靠它决策，以及企业落地怎么避坑。 【核心看点】 本体到底是什么，和知识图谱、数据库 ER 图有什么区别？