Фото: kremlin.ru
Странам необходимо договориться об общих принципах регулирования искусственного интеллекта, чтобы сохранить возможность контролировать его развитие. Об этом заявил зампред Совбеза РФ Дмитрий Медведев на платформе МАХ.
По мнению Медведева, опасения из-за возможного выхода ИИ из-под контроля небезосновательны. При этом сценарий, при котором искусственный интеллект непосредственно приведет к гибели человечества, он назвал неопределенным.
Гораздо более реалистичным Медведев считает риск масштабного ущерба из-за сбоя системы на основе ИИ. Например, такая программа может управлять крупным производством или транспортным узлом и допустить критическую ошибку, которая приведет к столкновению самолетов или уничтожению АЭС.
"Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом", – написал зампред Совбеза.
По его мнению, выработать единые правила для ИИ на международном уровне не удастся из-за интересов корпораций. В таком случае, считает Медведев, человечеству останется рассчитывать на то, что будущий суперинтеллект окажется достаточно гуманным.
Ранее в Anthropic оценили вероятность того, что ИИ уничтожит человечество в ближайшее десятилетие, в 10%. С таким заявлением выступил Эван Хьюбингер, который в компании отвечает за стресс-тесты согласованности моделей. Информационным поводом стал уход из сферы исследователя Джейкоба Коксона: он уверен, что развязанная технологическими гигантами гонка ведёт мир к катастрофе уже к концу 2027 года, и Хьюбингер с ним согласился.