Фото: 123RF.com/kovop58
Компания DeepMind, входящая в структуру Google, объявила о создании института, который займется исследованием безопасного развития общего искусственного интеллекта (AGI) – системы с универсальным интеллектом на уровне человека. Об этом сообщается на сайте DeepMind Institute (DMI).
"Институт DeepMind направлен на продвижение смелого мышления о безопасном развитии общего искусственного интеллекта, его полезном применении и последствиях для общества", – говорится в сообщении.
В компании отмечают, что уже сейчас заметны последствия все более мощного ИИ для кибербезопасности и биологических рисков, а в будущем существует вероятность утраты контроля над саморазвивающимися системами.
Новая структура станет платформой для сотрудников Google, DeepMind и мирового научного сообщества. Они смогут публиковать креативные и глубоко проработанные идеи о мире с AGI.
Бывший исследователь Anthropic и OpenAI Джейкоб Коксон ранее сравнил разработку продвинутого ИИ с призывом инопланетной цивилизации. Причиной своего увольнения из OpenAI он назвал нежелание участвовать в гонке по созданию ИИ-систем, которые в перспективе могут уничтожить человечество.