Центральный банк России утвердил новый кодекс этики для работы с искусственным интеллектом в финансовом секторе. Этот документ призван повысить безопасность и доверие к технологиям, а также создать условия для ответственного внедрения ИИ в банковскую и финансовую индустрию.
Что представляет собой новый кодекс?
- Основные принципы применения ИИ, ориентированные на безопасность и прозрачность.
- Мягкое регулирование: рекомендации и стандарты для компаний, без жестких правовых ограничений.
- Поддержка инициатив по обмену и использованию данных, включая обезличенные сведения, для развития ИИ.
Зачем нужен этот кодекс?
- Создать доверие клиентов и инвесторов к компаниям, использующим ИИ.
- Обеспечить безопасность и снизить риски, связанные с внедрением новых технологий.
- Повысить уровень регулирования и понимания специфики ИИ в финансах.
Мнения экспертов
- Александр Хонин, эксперт по ИТ-безопасности, отмечает, что это важный шаг для устранения правовых пробелов и повышения доверия.
- Станислав Ежов подчеркивает, что кодекс поможет отделить зрелые, ответственные решения от формальных продуктов, ускоряя развитие рынка.
Перспективы применения ИИ
- Улучшение качества услуг и создание персонализированных продуктов.
- Автоматизация аналитики и работы с большими данными.
- Разработка интеллектуальных финансовых ассистентов и генеративных моделей.
Этот документ — важный шаг к развитию безопасных и этичных технологий в российском финансовом секторе, который поможет укрепить доверие и стимулировать инновации.
Сегодня банки активно внедряют искусственный интеллект в свою работу, отмечает Александр Хонин. Цифровые ассистенты и ИИ-аватары, анализ и обработка больших данных, автоматизация рутинных задач, управление рисками и персонализация услуг — это лишь небольшой перечень сфер, где активно используются новейшие технологии ИИ. Также алгоритмы ИИ анализируют транзакции в режиме реального времени и выявляют подозрительные активности, связанные с мошенничеством. Ряд крупных банков активно внедряет ИИ-технологии в системы кибербезопасности.
— Искусственный интеллект способен дать отпор телефонным и кибермошенникам, которые активизировались в последние годы, и значительно повысить безопасность операций, — говорит директор направления Data Fusion Лиги Цифровой Экономики Александр Кобозев. — В целом внедрение прорывных технологий позволит улучшить качество обслуживания в банковской сфере и расширить спектр финансовых услуг.
При этом, как отмечает Александр Хонин, согласно положениям Кодекса от ЦБ, финансовая кредитная организация должна будет уведомить потребителя о взаимодействии с ИИ и дать возможность общаться с живым оператором. Потребитель получит возможность пересмотра решения, принятого искусственным интеллектом, сотрудниками организации. Сегодня клиенты банков часто жалуются на немотивированные отказы в получении тех или иных услуг, опротестовать которые не представляется возможным.
Также Кодекс в целом призван повысить уровень доверия граждан к новым технологиям с учетом факторов уязвимости клиентов (возраст, образование, ограниченные возможности и другие) и возможного влияния этих факторов на оказание услуг таким потребителям, подчеркивает эксперт.
Какие риски несет в себе внедрение ИИ в финансовом секторе
Между тем, как отмечается в докладе ЦБ РФ, широкое внедрение искусственного интеллекта связано с рядом рисков, в том числе с угрозами утечки персональных данных, киберугрозами, возможными «галлюцинациями» моделей, а также с рисками нарушения прав потребителей. Отдельно подчеркивается, что генеративный ИИ может использоваться мошенниками, например, для создания дипфейков и манипулирования информацией.
— Главные угрозы, связанные с внедрением ИИ в финансовом секторе, ― утечки данных и кибератаки, ошибки алгоритмов и их необъяснимые решения, а также возможность злоупотреблений генеративными технологиями, — говорит в беседе с «Известиями» Станислав Ежов. — Без должных мер это может подорвать доверие, увеличить финансовые потери и усилить дискриминационные эффекты.
Фото: Global Look Press/Nikolay Gyngazov