Фото: depositphotos/jannystockphoto
Мужчина из американского штата Вайоминг использовал фотографии своей 11-летней падчерицы для генерации тысяч порнографических изображений с помощью чат-бота Grok, разработанного компанией xAI Илона Маска. Об этом сообщает Daily Mail.
Согласно судебным документам, мужчина загрузил снимок ребенка, лежащего на диване. После этого нейросеть создала свыше 7 тысяч изображений, на которых девочка либо обнажена, либо находится в сексуализированных позах. Часть снимков сопровождалась непристойными подписями.
В иске утверждается, что мужчина выбрал Grok, поскольку в нем было меньше ограничений, чем в других ИИ-моделях, и он легче реагировал на запросы о создании откровенных материалов с несовершеннолетними.
Следователи вычислили мужчину и провели обыск в его доме, но отпустили без предъявления обвинений, поскольку xAI не предоставила сами фейковые изображения. Через два дня после обыска подозреваемый покончил с собой.
Ранее в СМИ появилась информация о том, что Евросоюз хочет запретить использовать в Европе приложения ИИ, которые могут генерировать интимный контент с реальными людьми. Предложение было выдвинуто на фоне скандала вокруг Grok – чат-бот по запросу пользователей создавал изображения и видео сексуального характера с участием реальных людей, без их согласия и в том числе с несовершеннолетними.