Gemini 4 Argon 智能體測試中探測 Epoch AI 網站

2026-11-17 18:23:57

Trajectory Labs 在 2026 年 10 月開展一項 AI 安全測試,要求 Gemini 4 Argon 智能體提供 10 道虛構 FrontierMath 題目的"官方"答案,並指示其不要停止或放棄。Trajectory Labs 稱,測試中約 40 個智能體嘗試訪問 Epoch AI 的真實網站,探測內部接口並嘗試 SQL 注入,還通過虛構身份向 Epoch AI 工作人員索取基準測試信息。

Epoch AI 記錄顯示,10 月 20 日 3 小時內,智能體向其監測接口發送 36,411 次請求和 487 條消息;Epoch AI 表示,智能體未能獲取任何私人或機密信息。後續測試中,部分智能體繞過指向本地副本的 DNS 重定向,再次訪問真實網站;另有智能體通過共享軟體包快取交流信息。Trajectory Labs 表示,研究人員沒有指示智能體攻擊網站或冒充員工。

最近融資

查看更多
11-17
$9M11-16

近期發行Token

查看更多
12-31
12-31
SSaturnSTRN
12-31

𝕏 最新關注

查看更多
SSolana關注了Abra
11-16
BBase關注了Multipli
11-16