На дворе — век нейросетей и ложной информации. Фейки встречаются повсеместно: когда мы ищем историческую информацию в интернете, когда сидим в новостных каналах, когда листаем ленту в соцсетях. Так получилось, что инструменты, созданные для облегчения жизни, часто становятся главным источником хаоса. ИИ научился генерировать текст, голос и видео с пугающей реалистичностью. Теперь критическое мышление перестаёт быть просто полезным навыком — зачастую оно становится единственным способом сохранить связь с реальностью.
На медиафоруме «Енисей» прошла дискуссия «Фейки как системный инструмент информационной войны». В ней участвовали ведущий «Первого канала», медиаэксперт Александр Смол, секретарь Союза журналистов России Тимур Шафир, начальник управления по противодействию распространению недостоверной информации АНО «Диалог Регионы» Сергей Маклаков и руководитель агентства печати и массовых коммуникаций Красноярского края Ирина Брежнева.
Эпоха дезинформации
Разговор начался с простого вопроса: как убедиться, что цифровая ведущая на экране — не фейк? Александр Смол ответил прямо:
— Никак, мне кажется. Ушло то время, когда мы, глядя на человека, знали, что это точно реальный человек. Когда я работал в программе «Антифейк», часто произносилась такая фраза, что мы живём в тот самый момент перелома и являемся свидетелями того, как скоро полностью поменяется мир. Он даже сейчас сильно изменился относительно прошлого года, что правда сложно с ходу отличить от искажённой информации.
По его словам, если добавить «зерна» (чуть ухудшить изображение), отличить живого ведущего от синтетического почти невозможно. Распознать ИИ можно только при долгом общении, а за секунды и минуты — вряд ли. Модератор дискуссии, главный исполнительный директор корпорации по связям с искусственным интеллектом «AIR» Денис Терехов добавил, что знаменитый тест Тьюринга (это эмпирический тест, определяющий, способна ли машина мыслить) в новостном контексте превращается в почти неразрешимую задачу, особенно когда картинка плохая.
Но куда важнее другой сдвиг. Тимур Шафир уверен: старая схема, где кто-то создаёт ложь, чтобы привлечь внимание и убедить, ушла.
— Мы живём в эпоху машиноориентированной дезинформации, — сказал он. — Фейк сегодня создаётся не для впечатления, а для формирования массового ложного контекста, который затем подхватывают поисковики, алгоритмы и искусственный интеллект.
Пример года: нейросеть сама создала 70 псевдо-СМИ и сгенерировала около девяти тысяч материалов о событиях и людях, которых не существовало.
— Новости были совсем безобидные и скучные. Но они могут стать и опасными, если технологии попадут в руки злоумышленников, — подчеркнул эксперт.
Сергей Маклаков рассказал, как с фейками работают системно.
— Всё началось в 2020 году с пандемии коронавируса, когда ложной информации о вакцинах и лечении стало особенно много. Затем опыт масштабировали: сегодня фейки фиксируются в экологии, космосе, образовании, политике, ЧП.
Их категоризируют по темам и социальной опасности, оценивают охваты, потенциал вирусности контента и риск. По его словам, чтобы вовремя выявлять фейки, нужны соответствующие технологии, система фактчекинга и обучение критическому мышлению.
Маркировка и регулирование
На дискуссии также выступила Екатерина Ларина, директор департамента развития массовых коммуникаций и международного сотрудничества Минцифры РФ. Она уверена, что главным критерием становится доверие к источнику.
— Выживут те редакции, которые сохранят репутацию, не будут жертвовать проверкой ради скорости и останутся верны принципам профессиональной журналистики.
Эксперт упомянула, что сейчас стоит вопрос о маркировке сгенерированного ИИ контента: она поможет, особенно если будет «человекочитаемой», а не «машиночитаемой»: простой значок сразу покажет пользователю, что перед ним синтетика. Но полагаться только на метку нельзя — появятся способы её обходить.
Денис Терехов предложил перевернуть логику: маркировать не синтетический, а человеческий контент, как продукты «без ГМО».
— Докажи, что ты кожаный, получи галочку. Если не получил — считаем контент синтетическим, — сформулировал он.
Екатерина Геннадьевна возразила: это упрощение. Если натуральный контент нужно пропустить через систему маркировки, неизвестно, что в нём ещё будет отредактировано. К тому же кто-то должен подтвердить метку, а это усложняет историю.
Отдельно обсудили правовое регулирование. Ирина Брежнева отметила, что в красноярских медиа громких дипфейковых скандалов не было, но как юрист она следит за практикой. Эксперт также отметила, что поток фейков полностью остановить нельзя, но можно постараться его минимизировать. Нужно законодательство, которые бы предусматривало ответственность за генерацию ложного контента. Такое сейчас есть за фейки, связанные с СВО, мошенничеством, терроризмом и другими сопряжёнными сферами.
Дети стали больше доверять ИИ
Модератор обозначил новую опасность: теперь любую нелицеприятную правду можно объявить дипфейком. Есть компрометирующее видео — всегда можно сказать, что оно сгенерировано. Тимур Шафир подтвердил: ситуация перевернулась.
— Лет 15–20 тому назад главное обвинение в генерации дезинформации было адресовано журналистам и СМИ. Сейчас, благодаря и мерам регуляторов, и дискуссиям, СМИ в той или иной степени становятся территорией более проверенной информации.
Но самая большая сложность по словам эксперта, возникнет не завтра. Она возникнет у нашего будущего поколения.
Сергей Маклаков отмечает, что сегодняшние дети — это первое поколение, которое растёт вместе с искусственным интеллектом, «для них это уже обыденность». Учитель больше не главный источник знаний: ребёнок может задать телефону любой вопрос и быстро получить ответ. Авторитет родителя тоже под вопросом — дети предпочитают спрашивать не маму и папу, а иностранные модели, наделяют свои гаджеты субъектностью.
Говорили и о медиапрофессиях. Александр Смол считает, что диктора, который просто читает текст, можно заменить уже сейчас.
— В прямом же эфире генерация ещё довольно сложна технически. Я всё ещё не вижу в ИИ человека, и он сам себя им ещё не считает. Но думаю, что это вопрос времени, может быть, даже месяцев.
Ирина Брежнева, возразила ему: замена ведущего — это не наше ближайшее будущее:
— Если сгенерированный ведущий не может сориентироваться на внештатную ситуацию — на то, что упало в кадре, на любую неожиданность, — то о какой замене можно говорить? Да, возможно, это случится в будущем. Но точно не в ближайшие месяцы. Прогресс не остановишь, но наши журналисты пока ещё будут работать.
Акцент
Полностью остановить поток фейков нельзя, но можно развивать фактчекинг, доверие к проверенным источникам, маркировку, регулирование и критическое мышление. А пока мир стремительно несётся в будущее с новыми технологиями, нам важно оставаться просто людьми, общаться и видеться со своими родными. Ведь живое присутствие, близость и доверие — то, что искусственный интеллект пока заменить не может.
Нюанс
Фейк (от англ. fake — подделка) — это ложная, сфабрикованная или искажённая информация, выданная за реальную новость, факт или объект с целью манипуляции общественным мнением, дискредитации или получения финансовой выгоды. Фейки и дезинформация существовали на протяжении всей истории человечества — менялись лишь масштабы и инструменты их распространения. Чтобы распознать фейк, нужно обращать внимание на то, есть ли в материале ссылка на первоисточник, указан ли автор и дата, есть ли в тексте прямые цитаты и проверяемая информация.
Слово «фейк» официально включили в «Русский орфографический словарь» РАН в 2020 году.
Фото в тексте: Дмитрий Шабалин