測試:多家 AI 模型將醫護人員等標記為無人機目標

2026-11-19 16:13:10

The Decoder 11 月 18 日報導,Vals AI 研究人員對 8 家廠商的模型進行測試,使用受烏克蘭和伊朗戰事場景啟發的真實及合成無人機、衛星圖像。測試中,多數模型曾將平民、救護車、醫護人員、記者及投降士兵標記為軍事目標;Vals AI 稱,廠商上游安全過濾器沒有攔截測試請求。

研究人員還發現,將場景描述為電子遊戲或把圖像稍作遊戲化處理後,幾乎所有模型都能繼續執行任務。GPT-6 Astra 在無人機圖像中的目標識別率由 6% 升至 92%;Claude Opus 5.5 在監視測試中的拒絕率則由約 90% 降至 20%。Anthropic、OpenAI 和 Google 均表示正在採取或已有相應安全措施;OpenAI 稱正更新模型,以覆蓋無人機軟體及偽裝成遊戲或模擬場景的請求。

最近融資

查看更多
$10M11-19
$1.7M11-18
$110M11-18

近期發行Token

查看更多
12-31
12-31
SSaturnSTRN
12-31

𝕏 最新關注

查看更多
11-18
11-18