奧特曼向員工介紹安全開發超級 AI 三條路徑

OpenAI 首席執行官奧特曼上週向員工介紹了三種安全開發超級 AI 的方案。第一種是建立類似國際原子能機構的全球監管組織，檢查先進模型並審計安全措施。知情人士稱，奧特曼傾向於這條路線。

第二種效仿歐洲核子研究中心，讓各大 AI 實驗室合併到一個組織，或通過統一機構共同研發，而不是繼續各自競速。第三種最極端，被他稱為「Eliezer 方案」：一家 AI 公司率先實現遞歸自我改進，再憑藉壓倒性經濟實力控制算力，使其他開發者無法追趕。奧特曼用「熔毀其他所有公司的 GPU」描述這一設想，同時表示該方案非常糟糕，只是為了把可能性講全。

「熔毀 GPU」的設想來自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想實驗，讓超級 AI 製造能夠自我複製的納米機器以熔毀全球 GPU，並表示這只是說明干預力度的極端例子，並非主張執行的方案。OpenAI 在 2023 年提出過建立「AI 版國際原子能機構」，Google DeepMind 負責人 Hassabis 也曾主張設立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 計劃在今年底或明年初成立聯合安全標準組織，但在模型安全測試責任歸屬上存在分歧。奧特曼希望為 AI 研發設定速度限制，同時表示 OpenAI 眼下不能把競爭優勢讓給對手。