В последние годы финансовые институты США и всего мира активно внедряют технологию искусственного интеллекта (ИИ) в операционную деятельность. Поэтому внедрение ИИ в сфере финансовых услуг является объектом пристального внимания финансовых регуляторов США, в том числе ФРС. Одна из платформ для взаимодействия с участниками финансового рынка - конференция, инициированная Fintech working group ФРС США, на которой происходит обсуждение проблем внедрения ИИ.
Сообщается, что ИИ состоит из трех базовых компонентов - алгоритма, вычислительной мощности и больших данных (big data) - которые становятся все более доступны для разработчиков финтеха. Компании используют принцип открытого программного обеспечения - разработчики могут использовать уже готовые модели для модификаций под каждую ситуацию. Провайдеры публичных облаков предоставляют стартапам вычислительные мощности, а данные для обработки и обучения ИИ хранят и реализуют агрегаторы данных. Самая распространенная модель ИИ - машинное обучение, при котором алгоритм на основе обработки большого массива данных выявляет их закономерности и принимает самостоятельные решения.
Преимущества применения ИИ-инструментов в финансовом секторе:
- Выявление схем и закономерностей, не видимых при использовании традиционных способов;
- Снижение затрат при сохранении уровня показателей эффективности;
- Высокая точность при обработке информации и снижение рисков человеческого фактора;
- Увеличение прогнозирующей способности (эффективность инвестиционной деятельности и кредитования);
- Более эффективный и экономичный анализ неструктурированных данных;
- Расширение доступа к кредитам;
- Уменьшение сроков подготовки и предоставления информации клиентам;
- Улучшение качества услуг и удобства клиентов.
Области применения ИИ в финансовом секторе:
- Оценка кредитоспособности клиентов;
- Использование чатботов для коммуникации с клиентами;
- Работа бэк-офиса, в т.ч. оптимизация капитала, управление модельными рисками, стресс-тестирование, анализ рыночного воздействия;
- Торговые и инвестиционные стратегии;
- Комплаенс и снижение рисков;
- Выявление мошенничества;
- Управление инвестициями;
- Кибербезопасность.
Согласно позиции ФРС США, регулирование и надзор не должны стоять на пути у внедрения новых технологий и упрощения бизнес-процессов. Тем не менее ИИ не должны нарушать права конечного потребителя. Поэтому перед регулятором стоит задача - соблюдение баланса интересов банков, финтех-компаний, разработчиков, агрегаторов данных и конечного потребителя.
Применительно к сфере банковских услуг, правил, регулирующих внедрение и использование ИИ в США, не так много:
- Guidance on Model Risk Management - документ, в котором устанавливаются правила управления модальными рисками в финансовых организациях. Управление модельным риском может осуществляться с помощью различного рода финансовых, математических теорий, техник обработки входных данных. Внедрение ИИ должно следовать базовым принципам модального риск-менеджмента. Компаниям необходимо проводить независимую оценку на соответствие алгоритма целевому назначению.
- FFIEC Outsourcing Technology Booklet и Guidance on Managing Outsourcing Risk - гайды по порядку аутсорсинга финансовыми организациями поставщиков технологических продуктов. Все ИИ-инструменты, включая чатботов, AML/KYC - продукты, инструменты по оценке кредитоспособности - это продукты, которые банк покупает у поставщиков. В отношении поставщиков применяются правила по проведению процедуры due diligence, отбора и заключения контрактов, а также контроль и мониторинг полученной продукции. Более того, банкам нужно иметь представление о том, какие последствия может повлечь за собой расторжение контракта с поставщиком.
В отношении внедрения ИИ, регулятор применяет подход, ориентированный на выявление рисков (risk-focused approach), при котором степень контроля соразмерна с потенциальным риском, связанным с применяемым инструментом, моделью или процессом. Такой подход объясняется ограниченностью ресурсов регулятора. Компаниям нужно применять большую осмотрительность при использовании таких инструментов, которые способны принимать решения самостоятельно и оказывают воздействие на клиентов, комплаенс и финансовую безопасность компании.
Процессы ИИ должны быть прозрачными: должно контролироваться не только как он создается, но и как он работает на практике. С учетом того, что алгоритм ИИ основан на анализе исходных данных, нужно подходить внимательно к их качеству и пригодности. Поэтому при выборке данных необходимо проводить риск-менеджмент. Также важно, чтобы исходные данные были защищены, и в алгоритме не было “слепых зон” для мошенников и фишеров.
Еще одна проблема ИИ с точки зрения регулятора - необъяснимость алгоритма (explainability). ИИ проводят анализ, приходят к выводам и предлагают решения на основе алгоритма, который не сможет объяснить даже сам поставщик (vendor). При таких обстоятельствах возникает вопрос, как фирма может оценить эффективность той или иной модели ИИ, особенно если модель применяется при взаимодействии с клиентами, в т.ч. при оценке кредитоспособности. Если алгоритм не может объяснить, на каком основании было отказано тому или иному клиенту, возникают проблемы, связанные с дискриминацией и справедливостью при вынесении решения моделью. При этом ни клиенты, ни банк, ни поставщик, ни даже создатель модели не будут иметь полной картины о порядке работы алгоритма, в частности, о факторах, влияющих на определение кредитоспособности клиента.
ФРС отмечает, что внедрение ИИ поможет увеличить доступность финансовых услуг. В частности, улучшить кредитный рейтинг клиентов, используя альтернативные источники данных для сбора информации.
При внедрении ИИ важен комплаенс с законодательством о защите прав потребителей, в частности, норм о справедливом кредитовании. Предполагается, что в силу автоматизированного характера алгоритма ИИ может быть предвзятым при вынесении решений. Его алгоритм отражает точку зрения разработчика и зависит от той информации, на основе которой он обучается. В результате ИИ может усвоить предубеждения и предрассудки, существующие в обществе, что повлияет на справедливость при оценке кредитоспособности.
Согласно Equal Credit Opportunity Act (ECOA) и Fair Credit Reporting Act (FCRA), кредитор обязан уведомить клиента обо всех неблагоприятных факторах, влияющих на непредоставление кредита. По этим требованиям кредитор обязан обосновать свое решение и при необходимости предоставить клиенту информацию о том, как улучшить кредитоспособность. При вышеуказанных обстоятельствах, неясно как выполнить императивные требования закона.
ФРС рекомендует фирмам превентивно устранять возможные риски, связанные с внедрением ИИ, и строго контролировать эту модель. Желательно, чтобы ИИ использовалась с другой моделью одновременно, чтобы таким образом фирма была застрахована от неблагоприятных последствий. В целом, ФРС относится к ИИ позитивно и поощряет внедрение новых технологий в сферу финансовых услуг. Но в то же время регулятор призывает разработчиков и поставщиков финансовых услуг строго соблюдать права потребителей и существующее финансовое законодательство США. В свою очередь ФРС ставит себе задачу обеспечить создание благоприятной правовой среды для внедрения новых технологий и увеличения уровня доступности финансовых услуг в США.
