Фото: AP/John Raoux
Модель искусственного интеллекта Claude сообщила полиции США о женщине, которая заявила о намерении открыть стрельбу в офисе шерифа округа Ли во Флориде. Об этом сообщает телеканал WINK News.
По данным СМИ, женщина, опознанная как Карли Мишель Хеллер, использовала ИИ в качестве личного дневника.
Платформа отслеживает ключевые фразы и выявляет потенциально угрожающий контент. Распознав заявления пользовательницы, ИИ-модель передала информацию группе экспертов, которые затем сообщили о них правоохранительным органам.
Следователи утверждают, что Хеллер сообщила и о приобретении нового оружия.
"Когда кто-то использует ИИ для создания или содействия угрозе, мы должны отнестись к этой угрозе серьезно", – сказал шериф Кармин Марчено.
Женщина задержана. Ей предъявлено обвинение в письменной угрозе насилия в соответствии с законодательством Флориды.
Ранее чат-бот ChatGPT передал в ФБР переписку финансового аналитика банка Goldman Sachs Даррена Чжоу. Мужчина обсуждал с ИИ планы убийства и изнасилования своей бывшей девушки.
Система передала данные в ФБР, поскольку распознала прямые угрозы. Пострадавшая также подтвердила факт преследования, передав полиции скриншоты угроз от Чжоу.