Фото: 123RF.com/graphicswizard
Вероятность уничтожения искусственным интеллектом человечества в ближайшие 10 лет уже достигла 10%. Об этом заявил руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер в соцсети X.
Подобное заявление было сделано на фоне ухода исследователя Anthropic Джейкоба Коксона из индустрии искусственного интеллекта. По его мнению, гонка, начатая технологическими компаниями, приближает мир к "точке невозврата", что может привести к катастрофе уже к концу 2027 года. Хьюбингер поддержал это заявление.
При этом руководитель направления отметил, что ныне существующие разработки не представляют серьезной угрозы, а возникшие опасения связаны с возможным появлением "суперинтеллектов", которые смогут совершенствоваться самостоятельно. Он подтвердил, что это происходит быстрее, чем все думали.
Ранее британско-канадский когнитивный психолог и специалист по теории вычислительных машин Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года, заявил, что утрата контроля над искусственным интеллектом может привести к исчезновению человечества.