ЦБ предложил установить отдельные правила для банковских ИИ-моделей
Банк России предложил разработать отдельные правила для искусственного интеллекта, который применяется в банковской сфере. Регулятор считает, что массовое использование глобальных ИИ-платформ может угрожать финансовой стабильности из-за непрозрачности их работы и невозможности проверить данные, на которых обучались модели.
Заместитель директора юридического департамента ЦБ Екатерина Дёмкина отметила, что новым объектом регулирования может стать сама архитектура принятия решений, включая структуру и источники данных. По ее словам, ИИ способен обучаться на недостоверной информации, а проверить качество данных глобальных платформ зачастую невозможно.
Эксперты называют одной из основных проблем использование одинаковых моделей большим количеством банков. Ошибка в такой системе может одновременно повлиять на решения нескольких кредитных организаций и усилить негативный эффект для всего финансового рынка.
Еще один риск связан с синхронными действиями алгоритмов. Если банки используют схожие модели для операций с ценными бумагами, системы могут одновременно начать покупать или продавать одни и те же активы. Это способно вызвать резкие колебания цен и создать иллюзию повышенного спроса или предложения.
Кроме того, зависимость от внешних поставщиков ИИ повышает инфраструктурные риски. Изменение условий лицензирования, прекращение поддержки или уход разработчика с рынка могут нарушить работу банковских сервисов. Дополнительную угрозу представляют кибератаки и намеренное искажение входных данных.
В качестве альтернативы зарубежным платформам эксперты называют отечественные решения, которые можно размещать внутри банковского контура. Такие модели проще адаптировать под российское законодательство, бухгалтерский учет, кредитные договоры и особенности поведения клиентов.
Предполагается, что регулирование может включать требования к качеству обучающих данных, контролю изменений моделей, проверке результатов, защите от ошибок и так называемых галлюцинаций. Также могут появиться правила по ответственности за принятые ИИ решения, прозрачности работы систем и возможности оперативно заменить поставщика.
