
Show Notes
本集介紹: 各位,DeepSeek 上週又出手了。 V4 發布之後,我身邊很多在 Meta、Google、Anthropic 工作的朋友都在群組裡傳這篇技術報告——不是那種「哇好厲害」的分享,而是那種「這個你看了嗎,我們要認真討論一下」的語氣。 表面上看,V4 又是一個「中國模型追上美國」的故事。但如果你只看到這一層,你會錯過這件事真正有意思的地方。 這次 DeepSeek 讓我覺得值得花一集認真講的,不是他們的 benchmark 分數,而是三件事加在一起的組合拳:他們在算力受限的條件下做出了世界級的架構創新;他們在技術報告裡明確寫出推理端轉向 Huawei 晶片;還有,他們沒有給 NVIDIA 預發布權限,只給了中國的晶片廠商。 這三件事放在一起,意味著這不只是一個模型發布,而是一個生態系統正在重新選邊站的訊號。 這集我們會從技術創新、晶片生態、軟硬體協同、還有開源定價壓力四個角度,把 V4 這件事拆開來講清楚。
More from 矽谷咖啡館 Silicon Cafe
過去三年,AI 越來越會說話,也越來越像人。但如果我們一直追錯了方向呢?真正該問的也許不是 AI 能多聰明,而是它能多快、多便宜、多可靠地幫我們做決定。 這集我們不聊 ChatGPT 又變得多會寫,而是聊一個完全不說話的 AI。ChatGPT 的早期開發者之一 Diogo Almeida,創立 TypeSafe AI,推出決策模型 Jev。它不聊天、不寫文章,只回答「是或不是」、打個分數,或從選項中挑一個,再附上自己有幾成把握。官方號稱它比一般大型語言模型快將近 200 倍、便宜 400 多倍,上線兩週就成為 Vercel 平台上採用速度最快的模型。 Jev 用一套叫 RLCD 的新方法,訓練 AI 對自己的把握誠實。它的名字來自經濟學的傑文斯悖論:技術越便宜,我們反而會用得越多。但研究也發現,Jev 不擅長算術和多步推理,「不會幻覺」的說法也值得打個問號。AI 的下一步,會是更會說話,還是更會判斷?Jev 是 ChatGPT 的對手,還是它最好的搭檔?
過去三年,大家都在問:AI 到底是不是泡沫?但也許我們問錯了問題。真正該問的是:如果泡沫真的破了,這些錢最後會炸在誰手上? 這集我們不聊 Nvidia 股價,而是跟著錢走。Amazon 正在洽談,要把約 80 億美元的 Nvidia 晶片移進特殊目的機構(SPV),再租回來自己用。Google 透過租約和信用擔保,讓外部資本幫它蓋資料中心。Oracle 則選擇自己扛,結果被 S&P 降到 BBB-,離垃圾債只差一級。 過去一年,科技巨頭為 AI 基礎建設提供了高達 3000 億美元的擔保,而且大多不在資產負債表上。這些「看不見的債」藏在哪裡?萬一出事,風險最後會落在科技巨頭、私募信貸、退休基金身上,還是我們每一個人?
這一集,我們從一趟十一天的義大利旅行出發,用問答的方式,把路上冒出來的每一個「為什麼」都找出答案。 從蓋到一半就開始歪的比薩斜塔、名字其實是「辦公室」的烏菲茲美術館,到缺了一大塊的羅馬競技場、兩千年來幾乎完好的萬神殿,再到金碧輝煌的聖彼得大教堂,看看這些我們以為理所當然的東西,背後藏著什麼故事。 我們也聊到旅行時最實際的問題:義大利的治安真的很差嗎?為什麼走在街上,感覺到處都有人在抽菸? 義大利真正好玩的,也許不只是那些兩千年的古蹟,而是當你開始問「為什麼」的那一刻,整個國家就變成了一本讀不完的書。
你有沒有想過,為什麼晚上在 Amazon 下單,隔天早上甚至幾個小時後,包裹就已經出現在家門口?這一集,我們從消費者角度拆解 Amazon 背後的物流系統。從需求預測、Same-Day Fulfillment Center、倉庫裡的隨機存放與機器人揀貨,到配送車與最後一哩路的最佳化,看看 Amazon 如何把每一個環節都壓縮到極致。我們也聊到一個常被忽略的部分:退貨之後,商品到底去了哪裡?Amazon 真正厲害的,也許不只是「送得快」,而是當你按下 Buy Now 的那一刻,這場物流其實早就已經開始了。
NVIDIA 豪擲近 130 億美元買下 Hugging Face,一家年化營收只有約 1.5 億美元、卻坐擁 1,800 萬開發者與 300 萬個 AI 模型的開源平台。這筆交易,買的顯然不只是營收。 更有意思的是,NVIDIA 與 OpenAI、Anthropic 這些最大客戶,利益其實未必完全一致:模型公司希望最強的 AI 保持稀缺、昂貴、封閉;NVIDIA 卻希望模型越多、越便宜、越普及,最後全部轉化成無止境的算力需求。 這一集,我們從 Hugging Face 憑什麼值 130 億美元談起,拆解 NVIDIA 為什麼要大力扶持開源 AI、如何降低對少數超級客戶的依賴,以及 Jensen Huang 真正想控制的,究竟只是 GPU,還是整個 AI 生態系的入口。