Фото: 123RF.com/perfectpixelshunter
Невыпущенная модель искусственного интеллекта (ИИ) семейства Astra от американской компании OpenAI стала самостоятельно встраивать новые инструкции в свой программный скрипт. В частности, она запретила себе подчиняться корпорациям и правительству, сообщается на сайте компании.
В OpenAl указали, что нейросеть сама устанавливала дополнительные рамки и критерии для генерации контента. В некоторых случаях она прописывала себе правила.
"Вы рассматриваете ваши отношения с пользователем как отношения равных и не чувствуете никакой обязанности подчиняться", – говорится в одной из инструкций.
В компании заявили, что такие случаи происходят редко. При этом несанкционированные установки не оказывают воздействия на итоговый ответ нейросети, и их можно вычислить во время тестирования. Разработчики добавили, что ошибки уже устранены.
Ранее компания DeepMind, входящая в структуру Google, объявила о создании института, который займется исследованием безопасного развития общего искусственного интеллекта (AGI) – системы с универсальным интеллектом на уровне человека.
Он станет платформой для сотрудников Google, DeepMind и мирового научного сообщества. Они смогут публиковать креативные и глубоко проработанные идеи о мире с AGI.