Anthropic 向 METR 開放類員工訪問,推進獨立安全評估
2026-10-16 08:22:30
10 月 15 日,Anthropic 宣布已開始向非營利組織 METR 的一個團隊提供類員工訪問權限,用於評估其模型與安全實踐。公司稱,上個月已承諾加強獨立第三方評估,並簽署白宮《超級智能協議》,其中包含與獨立外部審計方或評估方合作的承諾。過去一年,Anthropic 已與 METR 合作審查若干份風險報告,METR 將公布其風險評估結果。
Anthropic 已為 6 名 METR 員工配備公司硬體、辦公空間,以及與自身風險評估團隊大致相當的內部工具和系統訪問權限。除客戶數據、律師與客戶特權信息、模型架構信息等少數明確類別外,員工被鼓勵像對待從事對齊風險工作的同事一樣分享信息。METR 可發表對風險水平、事件或做法的分析,Anthropic 不能否決發表,但可要求刪除預先界定的狹窄類別信息;METR 可公開說明刪節情況,並在不洩露被刪內容的前提下說明其是否認為刪節合理。該安排僅限於在可執行協議下工作的小團隊,其他 METR 員工與該團隊工作隔離。
Anthropic 同時與 SecureBio、Accenture 合作開展評估,並與包括 Hugging Face 在內的其他組織進行早期討論。SecureBio 正在審查 2026 年 8 月風險報告中的化學與生物武器章節,此前已完成並發表對上一份風險報告的試點審查。