6/12 那天 Claude Fable 突然被停用了 美國政府的出口管制 要求限制外國人使用 Anthropic 沒辦法即時驗證國籍 乾脆全球一起停 主力模型說沒就沒
不方便是一回事 但第一個念頭其實是 原來一個模型可以強到被國家封鎖 AGI 是不是真的近了
Project Glasswing
Anthropic 有個一億美元的計畫叫 Project Glasswing 用還沒釋出的 Mythos Preview 去掃世界上最關鍵的那些軟體 掃出幾千個 zero-day 連一個在 OpenBSD 裡藏了 27 年的 bug 都挖出來了
找漏洞的能力已經超過絕大多數人類 這是官方自己講的 而這種能力是兩面刃 拿來防守就是 Glasswing 再強一點 攻破別國的政府網路大概也不是問題
AI model 已經快變成一個武器了 這次被封鎖的理由 就是有人 jailbreak 之後拿去查網攻的資訊 出口管制以前是管晶片 管飛彈零件的 現在輪到模型
2028 AI Crisis
今年二月讀到一篇瘋傳的 The 2028 AI Crisis 金融研究機構 Citrini 寫的劇本 推演 AI 把知識型工作吃掉之後會發生什麼 作者自己有強調這是情境推演不是預測 但看完會覺得 這劇本不是沒可能
劇本的因果鏈大概是這樣：
- 先死的是幫你處理麻煩事的服務 訂票平台 理財顧問 報稅 例行的法律工作
- 白領開始大失業 而且薪水越高的越慘 高薪專業被迫轉去接零工
- 勞動力一下子過剩 全體薪資被壓低
- 收入掉了 房貸開始違約 燒到私募信貸
- 最後 S&P 從高點跌 38% 失業率 10.2%
裡面有兩個詞我印象很深 一個是 Ghost GDP 產出一直漲 但錢不再流進真實經濟 因為賺錢的是 AI 的主人 不是消費者 一個是 friction 人類的分析 創意 協調能力以前是稀缺的 整個經濟就建立在這個稀缺上 AI 把 friction 歸零之後 樓就塌了
這篇當時瘋傳到 真的讓一些股票跌了 也有陰謀論說 作者本來就是做金融的 這篇就是寫來影響市場操作股票的 真假不知道 但一篇文章可以動搖市場 這件事本身就很說明現在的氛圍
我自己是認真覺得 AGI 在 2028 到 30 左右就會達成 光看今年 2 月到 7 月的發展速度就很難不這樣想 Demis Hassabis 也公開講過差不多的區間 2030 前五成機率
槓桿越差越遠
讀納瓦爾的時候記過 code 是無邊際成本的槓桿 現在最大的槓桿變成 AI 而且強的 AI 跟弱的 AI 差很多
有更強模型的人 做事的速度跟規模完全不同 公司跟公司之間 國家跟國家之間 都在拉開 檯面上的模型都這樣了 實驗室內部的版本搞不好已經超強
台灣好像還沒感覺到
回到台灣的日常 身邊很少人意識到外面進展有多快 這邊還在討論要不要用 AI 的時候 外面已經在討論怎麼管制它了
工作被取代的焦慮當然有 工程師大概首當其衝 但更大的焦慮是那個資訊落差 我們好像遠遠不知道 外面已經走到哪裡了
前幾天 Fable 解禁了 工具回來了 好像什麼都沒發生過 但那幾天的感覺還留著 下一次被封的會是什麼 沒有人知道 好像要開始習慣 這種事以後會越來越常發生