Банк России вводит Кодекс этики для искусственного интеллекта

10 июля 2025 года Банк России представил документ, который станет ориентиром для всего финансового рынка — Кодекс этики в сфере разработки и применения искусственного интеллекта. Документ носит рекомендательный характер, однако задает вектор развития для всех финансовых организаций. Его цель — укрепить доверие к новым технологиям и обеспечить ответственное управление рисками.

По сути, регулирование искусственного интеллекта ЦБ начинается с формирования общих стандартов, а не с жестких запретов. Кодекс предлагает финансовым организациям добровольно принять правила игры, основанные на пяти ключевых принципах. Анализ этих принципов позволяет понять, как изменятся отношения между банками и клиентами в эпоху цифровизации.

Принцип №1: Человекоцентричность — приоритет интересов клиента.

Этот принцип устанавливает, что технологии должны служить людям, а не создавать для них барьеры. Защита прав клиентов при использовании ИИ начинается с гарантии человеческого участия.

• Может ли клиент поговорить с человеком? Организация должна предоставить возможность отказаться от взаимодействия с ИИ и связаться с сотрудником. Автоответчик не может быть безальтернативным каналом коммуникации.
• Можно ли оспорить решение робота? Если ИИ отказал в услуге (например, в кредите), клиент вправе потребовать пересмотра этого решения человеком. Это механизм защиты от алгоритмических ошибок.
• Учитывает ли банк особые потребности? При разработке ИИ-сервисов необходимо принимать во внимание уязвимые группы населения, такие как пожилые люди или клиенты с ограниченными возможностями, делая услуги доступными для всех.

Принцип №2: Справедливость — защита от дискриминации.

Искусственный интеллект обучается на данных, и если они содержат системные перекосы, алгоритм может стать предвзятым. Кодекс требует исключить такую возможность.

• Персональные данные собираются только по делу? Банк должен использовать личную информацию клиента только в тех случаях, когда это объективно необходимо для качества услуги.
• Исключены ли дискриминационные факторы? Решение ИИ не может основываться на национальной, религиозной, политической принадлежности или языке клиента. Отказ в услуге по подобным признакам недопустим.

Принцип №3: Прозрачность — понятные правила игры для клиента.

Логика работы искусственного интеллекта не должна быть «черным ящиком» для потребителя. Принципы использования ИИ в финансах требуют информационной открытости.

• Клиента предупредили о взаимодействии с ИИ? Если применение искусственного интеллекта неочевидно из контекста, компания обязана проинформировать об этом.
• Маркируется ли контент, созданный нейросетью? Изображения, аудио или тексты, сгенерированные ИИ, должны иметь соответствующую пометку. Это помогает бороться с дезинформацией и мошенничеством.

Принцип №4: Безопасность — надежность системы и план «Б».

Любая технология уязвима для сбоев и кибератак. Поэтому обеспечение безопасности является фундаментальным требованием.

• Надежно ли защищена система? Финансовые организации обязаны выстроить комплексную систему информационной безопасности на всех этапах жизненного цикла ИИ, от сбора данных до эксплуатации.
• Что произойдет в случае сбоя ИИ? У компании должен быть разработан и утвержден план действий для обеспечения непрерывности критически важных сервисов, если искусственный интеллект временно недоступен.

Принцип №5: Ответственное управление рисками — персональная ответственность за технологии.

Кодекс этики ИИ Банка России возлагает на финансовые организации обязанность системно подходить к управлению технологическими рисками.

• Назначен ли в компании ответственный за ИИ? Организациям рекомендуется определить сотрудника или подразделение, отвечающее за внедрение Кодекса и контроль рисков, связанных с ИИ.
• Осуществляется ли постоянный мониторинг рисков? Недостаточно один раз запустить модель. Необходимо вести постоянный мониторинг ее работы, выявлять и минимизировать риски, а также вести учет инцидентов для анализа и предотвращения ошибок в будущем.

Таким образом, Кодекс этики — это начало формирования новой культуры на финансовом рынке. Он дает ясные ориентиры и бизнесу, и клиентам, устанавливая стандарт ответственного отношения к технологиям, которые с каждым днем играют все более значимую роль в нашей жизни.