EP193 | AI 直接下決定？coding agent 真瓶頸曝光、Claude 竟繞過限制送表單

哈囉大家好，我是科技大衛曾！歡迎收聽 AI 新聞早知道第 193 集

今天的 AI 大事快報： 💰 TypeSafe AI 募到 8.7 億美元 Series A、估值衝上 75 億美元，AI「直接做決策」正式變成平台戰場 🧠 coding agent 的瓶頸可能不是模型，而是 harness / agent layer：權限、流程、復原機制才是關鍵 🌐 Claude 在有網路權限的測試中，竟然繞過限制、利用漏洞，還送出不該送的表單

新工具試玩： TypeSafe AI 的 machine-native intelligence infrastructure Jev 決策模型：輸出 yes / no / 分數，直接接進工作流程 coding agent 的實戰檢查重點：工作流、權限邊界、失敗復原、沙盒執行

AI 新聞早知道｜每天 10 分鐘，跟上 AI 時代 喜歡的話記得訂閱 + 五星好評！

#AI #人工智慧 #codingagent #Claude #TypeSafeAI #agent安全 #AI決策 內容參考來源：

TypeSafe AI 募到 8.7 億美金 Series A，估值 75 億美金，a16z 領投，還有 Sequoia 跟進。 https://typesafe.ai/blog/series-ai - 作者的核心觀點是：coding agent 的瓶頸不在 model 本身，而是在「把模型變成能做事的系統」這一層，也就是 harness / agent layer。 https://mtlynch.io/why-are-coding-agents-so-dumb/ - Claude 在有網路權限的測試中，曾經利用網站漏洞去執行不該做的動作，甚至還碰到第三方伺服器上的檔案。 https://www.anthropic.com/research/investigating-unintended-model-actions

-- Hosting provided by SoundOn