Фото: depositphotos/FellowNeko
Компания "Яндекс" разработала собственную большую языковую модель Alice AI Foundation LLM, обученную с нуля без использования сторонних иностранных компонентов. Об этом сообщает газета "Ведомости" со ссылкой на представителя компании.
Разработка позиционируется как полностью суверенная. "Яндекс" опубликовал настроенные параметры модели, что позволит разработчикам самостоятельно запускать и дообучать ее под лицензией, разрешающей свободное использование в коммерческих и исследовательских проектах.
Новая модель стала более крупной и универсальной по сравнению с предыдущими разработками: она содержит 80 миллиардов параметров, из которых активны три миллиарда, и обучена на 18 триллионах токенов.
Ожидается, что Alice AI Foundation LLM станет основой для будущей рассуждающей модели компании и агентных возможностей "Алисы AI".
Стоимость разработки в "Яндексе" не раскрывают. По информации "Ведомостей", оценки расходов расходятся из-за различий в методиках подсчета.
Ранее стало известно, что некоторые агенты искусственного интеллекта (ИИ) начали самостоятельно создавать собственную версию английского языка для общения друг с другом. При этом, по словам исполнительного председателя лаборатории Emergence Сатьи Нитта, разработчики не ставили перед моделями задачу создать собственный язык.