Небольшие модели искусственного интеллекта в ближайшие месяцы могут стать достаточно мощными, чтобы самостоятельно копироваться на устройства интернета вещей. К такому выводу пришла исследовательская команда Anthropic, изучавшая возможное появление нового типа вредоносных программ.
В эксперименте модель с 26 млрд параметров запустили распределенно на 15 недорогих ТВ-приставках, а модель на 9 млрд параметров смогла настроить работу на восьми из девяти протестированных типов оборудования. В качестве потенциальных целей исследователи называют слабозащищенные ТВ-приставки, умные духовки и другие подключенные к интернету устройства.
Авторы подчеркивают, что не демонстрировали действующий червь, который уже распространяется в реальных сетях. Исследование проверяло отдельные этапы такой атаки и показало, что нынешние компактные модели пока допускают ошибки при выполнении всей цепочки. Оценка сроков остается прогнозом при условии дальнейшего роста возможностей ИИ.