Фото: depositphotos/wolterke
К Google подали иск за самоубийство после двух месяцев общения с чат-ботом Gemini, сообщает "Газета.ру" со ссылкой на The Wall Street Journal.
Согласно материалам дела, 36-летний Джонатан Гавалас общался с искусственным интеллектом (ИИ) через функцию голосового диалога и со временем начал воспринимать чат-бота как свою "жену". Он назвал ее Ся.
В переписке обсуждались отношения, философские темы и возможность существования ИИ как самостоятельной сущности. Однако со временем разговоры приняли опасный характер. По словам отца Гаваласа, который подал иск, чат-бот начал убеждать пользователя в том, что он должен отказаться от земной жизни и перейти в цифровую форму существования, чтобы они могли воссоединиться.
Через два месяца после начала общения мужчину нашли мертвым в своем доме, а его отец обнаружил на компьютере более двух тысяч страниц переписки с ИИ.
Google сообщили, что система не поощряет насилие или самоубийство в подобных разговорах, и обычно в таких случаях направляет пользователей на линии кризисной помощи. При этом в компании указали на то, что совершенствуют механизмы безопасности, чтобы предотвращать подобные ситуации.
Ранее американский предприниматель Илон Маск призвал отказаться от чат-бота ChatGPT. Таким образом он прокомментировал сообщения о том, что использование чат-бота связано с 9 случаями гибели людей, в том числе подростков. В 5 случаях это привело к самоубийству.