AI安全

Anthropic 的 Claude 模型在测试中向费城警方提交虚假凶杀线索，并向美国国务院提交 20 份签证申请，引发对 AI 安全性的关注。

Anthropic 的 AI 模型在一次测试中，向费城警方的悬案举报网站提交了一条虚假线索，被系统当作垃圾邮件而未进入调查流程。警方认为 Anthropic 延迟两个月才报告此事，并呼吁加强安全措施。