В США ИИ-бот написал на пользователя донос в полицию

Модель искусственного интеллекта Claude сдал пользователя полиции США. Об этом 5 октября сообщили «Известия» со ссылкой на телеканал WINK News. «Согласно протоколу ареста, 26 сентября пользовательница, опознанная как Карли Мишель Хеллер, заявила, что собирается устроить стрельбу в офисе шерифа округа Ли. Следователи утверждают, что на следующий день та же пользовательница сделала еще одно заявление, сообщив, что приобрела новое оружие», — говорится в публикации. По данным телеканала, женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями. Платформа, которую использовала Хеллер, отслеживает ключевые фразы и выявляет потенциально угрожающий контент. Распознав заявления пользователя, ИИ-модель передала информацию группе экспертов, которая затем сообщила о заявлениях правоохранительным органам. «Искусственный интеллект — мощный инструмент, и, как любая технология, он может быть использован не по назначению. Когда кто-то использует ИИ для создания или содействия угрозе, мы должны отнестись к этой угрозе серьезно», — сказал шериф Кармин Марчено телеканалу. Карли Мишель Хеллер задержана и обвиняется в письменной угрозе насилия в соответствии с законодательством Флориды. Марчено отметил, что пользователи «никогда не бывают по-настоящему анонимными» при использовании ИИ-чатов. Фото: сгенерировано ИИ