Фото: AP/Noah Berger
Британско-канадский когнитивный психолог и специалист по теории вычислительных машин Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года, заявил, что утрата контроля над искусственным интеллектом (ИИ) может привести к исчезновению человечества.
"Утрата контроля над ИИ, который превосходит нас по интеллекту, может иметь катастрофические последствия", – приводит британская газета Times слова ученого.
Хинтон, которого называют одним из "крестных отцов" ИИ, уже отмечал, что наблюдал у нейросетей признаки самосознания, присущего человеку. Специалист участвовал в создании искусственной нейронной сети – машины Больцмана – и заложил основы технологии глубинного обучения, на базе которой работают современные ИИ и чат-боты.
Ранее нейросеть Claude AI взломала сайт спортзала в Австралии и отменила чужую бронь. Австралиец обратился к ИИ для поиска свободных мест в спортзалах. Нейросеть обнаружила уязвимость в системе сайта – сперва бот предложил мужчине свободную запись, однако, когда тот спросил, можно ли найти более ранее время, ИИ удалил бронь другого человека и поставил пользователя на его место.