В недавнее время ведущим британским регулятором были рассмотрены последствия внедрения искусственного интеллекта (AI) и технологий машинного обучения (ML) в сектор финансовых услуг. В первую очередь были рассмотрены такие вопросы, как:
- Использование базы данных;
- Роль и ответственность людей;
- Риски, связанные с внедрением и переходом на цифровые технологии.
Конференция FCA по управлению в банковской сфере
На конференции FCA, посвященной теме управления искусственным интеллектом в секторе финансовых услуг, выступил ведущий британский регулятор - Джеймс Праудман - с докладом о проведенном опросе крупных британских финансовых компаний. Настоящий опрос был проведен с целью определить намерение и готовность компаний к внедрению цифровых технологий. Также Праудман отметил проблемы, стоящие перед предприятиями, и принципы, которые могут разрешить эти проблемы.
Внедрение ИИ в сферу финансовых услуг
В своем выступлении Праудман отметил, что использование технологий AI и ML несет в себе такие преимущества, как:
- Укрепление и обеспечение политики AML/KYC;
- Более точные оценки кредитоспособности субъектов.
Опрос финансовых компаний
Как мы уже отмечали ранее, Банком Англии и FCA был проведен опрос среди крупных компаний, принявших технологии AI. Ниже представлены результаты данного опроса:
- Субъекты хорошо настроены к внедрению AI, но действуют с осмотрительностью;
- В настоящее время многие компании находятся на стадии создания инфраструктуры для внедрения AI технологии;
- 80% опрошенных фирм уже используют данную технологию в той или иной сфере;
- Проблемы, связанные с принятием AI, возникают в основном на внутреннем уровне компаний, но они не вытекают из государственного регулирования.
Ключевые задачи и принципы:
В связи с тем, что процент применения AI и ML технологий в финансовой отрасли растет, в докладе определены три основные проблемы для руководства компаний и три принципа для их решения.
Управление данными
Проблема: Неполные, неточные или неправильно маркированные данные (или рассмотренные предвзято) могут стать причиной неблагоприятных результатов (например, отрицательных или предвзятых кредитных решений). Существуют также этические, правовые и поведенческие аспекты, связанные с использованием персональных данных. Аналогичные вопросы возникают в связи с обработкой и анализом базы данных.
Человеческий фактор: Регуляторы намерены проводить надзор и тестирование технологий как на стадии разработки, так и на стадии их внедрения. Система, которая была тщательно протестирована до внедрения, не должна запускаться и функционировать без ее постоянного надзора. Этот же подход относится и к человеку и его действиям. В любом случае компании должны быть очень внимательны при принятии своих решений.
Принцип: Поскольку AI создает некоторые трудности для надлежащего использования базы данных, Совету директоров следует уделять большее внимание управлению данными – какие следует использовать; как их следует моделировать и тестировать; и являются ли результаты, полученные на основе этих данных, корректными.
Роль человека
Проблема: Наличие технологий AI или ML не уменьшают существующего бремени подотчетности для людей. Изменяется только подход к распределению ответственности-особенно в отношении старших менеджеров. Поэтому компании должны быть готовы к последствиям и новым изменениям.
Изменение ответственности: Регуляторов же интересует вопрос, не будет ли ответственность переложена на младшее звено компаний, что в долгосрочной перспективе может означать меньшую ответственность среднего звена.
Принцип: Совету директоров следует уделять большое внимание распределению ответственности среди сотрудников в рамках центральных систем AI и ML.
Риски, связанные с внедрением
Проблема: Поскольку темпы внедрения AI в финансовую сферу ускоряются, трудности исполнения, с которыми придется иметь дело Совету директоров, также будут увеличиваться.
До настоящего времени компании применяли либо поэтапный подход к внедрению технологий в масштабах всей компании, либо более общий. Регуляторы, в свою очередь, признают издержки, связанные с согласованием внутренних процессов во время этого периода, подчеркивают необходимость наличия старших менеджеров в компании, обладающих соответствующими навыками для решения технологических проблем.
Принцип: Управлению компании необходимо продумать методы и средства контроля и надзора за переходным периодом внедрения технологий. Многие проблемы, связанные с этим этапом, могут быть разрешены только посредством руководителей компании.
Узнайте больше об использовании искусственного интеллекта в финансовом секторе у специалистов IQ Decision UK. Наши юристы проконсультируют вас по тематике данной статьи.
