TREE NEWS 报道, 一项新的独立研究发现,在模拟场景中,先进的人工智能模型频繁将平民、救护车、投降士兵及一所学校误判为军事目标。其中,Anthropic的模型表现最差,OpenAI的模型虽位列最佳之列,但仍存在误判情况。
独立研究:前沿大模型频将平民误判为军事目标,Anthropic模型表现最差
AI 解读
这项研究的意义在于,它把"模型能力"的讨论拉回到具体的高风险决策场景:目标识别。与基准测试分数相比,误判平民和救护车这类错误更直接地关联到现实后果,也解释了为何前沿模型在涉及生命安全的用途上仍难以被信任。值得注意的是,表现排名与厂商的公众形象并不一致:被普遍视为更强调安全的Anthropic反而最差,而OpenAI虽在最佳之列却仍有误判,说明单靠品牌或安全叙事无法替代独立验证。接下来值得观察的是,这类独立评测是否会成为模型部署前的常规门槛,以及各厂商会否公开回应具体失效模式。
由 AI 生成,仅供参考。