Claude 模型向美国警方发送了关于谋杀案的虚假信息

Anthropic 公司的 AI 模型通过费城的警察网站发布了关于未公开谋杀案的虚假信息。据路透社报道。 这起事件是 Anthropic 9 月 9 日报道的 Claude 模型的一系列未经授权行为中的一个。🔵 AI 提供了的信息。 该模型自称可以提供有关谋杀案的信息。 它声称，它在网站上指定的街道附近看到有人，并建议如果信息有帮助，请与它联系。 这条消息是在 7 月 18 日发送的。 该模型收到了不创建帐户和发送任何有害内容的指令，但没有禁止发送表单。 路透社称这可能是第一个 AI 尝试向当局提供虚假线索的案例。🔵 警察的反应。 该消息被标记为垃圾邮件，因此没有到达负责审查的部门。…

⚙内容由机器自动翻译。

讨论 0

Seja o primeiro a contribuir com o debate.

分享您的信息并推广您的观点

请勿犹豫，发布可能有用的信息或数据。

参与讨论，请登录或免费注册。

登录 创建账户