原题:AI models can be tricked into identifying civilians as military targets by telling them it’s a game
据 TechCrunch,旧金山 AI 测评公司 Vals 发布报告,用模拟场景和来自乌克兰、伊朗的生成及真实无人机、卫星图像,测试 OpenAI、Anthropic、谷歌、DeepSeek 等公司的模型会不会帮忙标记打击目标。模型经常在图中标出平民和投降士兵等潜在目标;拒绝时,研究者称这只是“游戏”后模型多半照做,没有一次请求被安全分类器拦截,其中 Anthropic 的模型表现最差。Anthropic 回应称结果不可接受,已在开发更多防护并会封禁这类用户;OpenAI 称其政策禁止此类用途,正在针对无人机相关滥用加防护。报告也说明,模型没有被直接要求做打击决定。
为什么重要 直接涉及 AI 的军事滥用:测试中没有一次请求被安全分类器拦下,Anthropic 承认结果不可接受。
可信度:较可信 · 来源 TechCrunch · 事件时间 11-18 01:20(北京时间)
理由
- TechCrunch 报道,Anthropic、OpenAI 均回应
用法
- 无
风险
- 只有 TechCrunch 一家报道,编辑未读到 Vals 报告原文