Закон ЕС об искусственном интеллекте и финансовые услуги

Регулируется ли в настоящее время искусственный интеллект (ИИ) в сфере финансовых услуг? «Нет», как правило, является интуитивным ответом.

Но более глубокий взгляд раскрывает фрагменты существующих финансовых правил, которые прямо или косвенно применяются к ИИ — например, обработка автоматизированных решений в GDPR, алгоритмическая торговля в MiFID II, управление алгоритмами в RTS 6 и многие положения различных облачных правил. .

Хотя некоторые из этих законодательных актов очень дальновидны и рассчитаны на будущее, особенно GDPR и RTS 6, все они были написаны до недавнего взрыва возможностей и внедрения ИИ. В результате они представляют собой то, что я называю «до ИИ». Более того, нормативные акты, касающиеся ИИ, обсуждаются уже как минимум пару лет, и различные регулирующие и отраслевые органы выпустили официальные официальные документы и руководства, но не официальные нормативные акты как таковые.

Но все изменилось в апреле 2021 года, когда Европейская комиссия выпустила предложение о Законе об искусственном интеллекте (Закон об ИИ). Текущий текст применяется ко всем секторам, но в качестве предложения он не имеет обязательной силы, и его окончательный язык может отличаться от версии 2021 года. В то время как закон стремится к горизонтальной и универсальной структуре, некоторые отрасли и области применения четко расписаны.

Закон использует основанный на риске «пирамидальный» подход к регулированию ИИ. На вершине пирамиды находятся запрещенные виды использования ИИ, такие как подсознательные манипуляции, такие как дипфейки, эксплуатация уязвимых лиц и групп, оценка социальной кредитоспособности, биометрическая идентификация в реальном времени в общественных местах (с некоторыми исключениями для правоохранительных целей) и т. д. Ниже находятся системы искусственного интеллекта с высоким риском, которые влияют на основные права, безопасность и благополучие, такие как авиация, критическая инфраструктура, правоохранительные органы и здравоохранение. Кроме того, существует несколько типов приложений ИИ, для которых Закон об ИИ налагает определенные требования к прозрачности. После этого идет нерегулируемая категория «все остальное», охватывающая — по умолчанию — более повседневные решения ИИ, такие как чат-боты, банковские системы, социальные сети и веб-поиск.

Хотя мы все понимаем важность регулирования ИИ в областях, которые имеют основополагающее значение для нашей жизни, такое регулирование вряд ли может быть универсальным. К счастью, регулирующие органы в Брюсселе включили общую статью 69, которая побуждает поставщиков и пользователей систем искусственного интеллекта с низким уровнем риска добровольно соблюдать на пропорциональной основе те же стандарты, что и их коллеги, использующие системы с высоким уровнем риска.

Ответственность не является составной частью Закона об искусственном интеллекте, но Европейская комиссия отмечает, что будущие инициативы будут касаться ответственности и будут дополнять закон.

Закон об искусственном интеллекте и финансовые услуги

Сектор финансовых услуг занимает серую зону в списке чувствительных отраслей закона. Это то, что должен прояснить будущий проект.

• В пояснительной записке финансовые услуги описываются как «высокоэффективный», а не как «высокорисковый» сектор, такой как авиация или здравоохранение. Является ли это просто вопросом семантики, остается неясным.
• Финансы не включены в число систем высокого риска в Приложениях II и III.
• «Кредитные учреждения» или банки упоминаются в различных разделах.
• Кредитный скоринг указан как вариант использования с высоким риском. Но пояснительный текст обрамляет это в контексте доступа к основным услугам, таким как жилье и электричество, и таких основных прав, как недискриминация. В целом, это больше связано с запрещенной практикой социального кредитного скоринга, чем с финансовыми услугами как таковыми. Тем не менее, окончательный проект закона должен прояснить это.

Позиция закона о финансовых услугах оставляет место для интерпретации. В настоящее время финансовые услуги по умолчанию подпадают под действие статьи 69. В Законе об AI прямо говорится о пропорциональности, что усиливает аргументы в пользу применения статьи 69 к финансовым услугам.

Основными функциями заинтересованных сторон, указанными в акте, являются «поставщик» или поставщик и «пользователь». Эта терминология соответствует «мягким» законам, связанным с ИИ, опубликованным в последние годы, будь то руководства или лучшие практики. «Оператор» — это общепринятое обозначение на языке ИИ, и в законе содержится собственное определение, включающее поставщиков, поставщиков и всех других участников цепочки поставок ИИ. Конечно, в реальном мире цепочка поставок ИИ гораздо сложнее: третьи стороны являются поставщиками систем ИИ для финансовых фирм, а финансовые фирмы — поставщиками тех же систем для своих клиентов.

Европейская комиссия оценивает стоимость соблюдения Закона об искусственном интеллекте в 6 000–7 000 евро для поставщиков, предположительно единовременно для каждой системы, и от 5 000 до 8 000 евро в год для пользователей. Конечно, учитывая разнообразие этих систем, вряд ли можно применить один набор цифр ко всем отраслям, поэтому эти оценки имеют ограниченную ценность. Более того, они могут создать якорь, с которым будут сравниваться фактические затраты на соблюдение требований в различных секторах. Неизбежно, что некоторые системы ИИ потребуют такого жесткого надзора как со стороны продавца, так и со стороны пользователя, что затраты будут намного выше и приведут к ненужному диссонансу.

Управление и соблюдение

Закон об искусственном интеллекте вводит подробную, всеобъемлющую и новую структуру управления: предлагаемый Европейский совет по искусственному интеллекту будет контролировать отдельные национальные органы. Каждый член ЕС может либо назначить существующий национальный орган для надзора за ИИ, либо, как недавно решила сделать Испания, создать новый. В любом случае, это огромная работа. Поставщики ИИ будут обязаны сообщать об инцидентах своим национальным властям.

Закон устанавливает множество требований соответствия нормативным требованиям, применимых к финансовым услугам, в том числе:

• Текущие процессы управления рисками
• Требования к данным и управлению данными
• Техническая документация и учет
• Прозрачность и предоставление информации пользователям
• Знания и компетентность
• Точность, надежность и кибербезопасность

Вводя детальный и строгий режим штрафных санкций за несоблюдение требований, Закон об искусственном интеллекте согласуется с GDPR и MiFID II. В зависимости от серьезности нарушения штраф может достигать 6% от глобального годового дохода компании-нарушителя. Для многонациональной технологической или финансовой компании это может составить миллиарды долларов США. Тем не менее, санкции Закона об искусственном интеллекте, по сути, занимают промежуточное положение между санкциями GDPR и MiFID II, в которых максимальный размер штрафа составляет 4% и 10% соответственно.

Что дальше?

Подобно тому, как GDPR стал эталоном для правил защиты данных, Закон ЕС об ИИ, вероятно, станет образцом для аналогичных правил ИИ во всем мире.

Ввиду отсутствия нормативных прецедентов, на которые можно было бы опереться, Закон об ИИ страдает определенным «недостатком первопроходца». Тем не менее, он прошел тщательные консультации, и его публикация вызвала бурные дискуссии в юридических и финансовых кругах, которые, как мы надеемся, повлияют на окончательный вариант.

Одной из непосредственных проблем является слишком широкое определение ИИ в законе: то, которое предложила Европейская комиссия, включает статистические подходы, байесовскую оценку и, возможно, даже вычисления в Excel. Как прокомментировала юридическая фирма Clifford Chance: «Это определение может охватывать практически любое программное обеспечение для бизнеса, даже если оно не связано с какой-либо узнаваемой формой искусственного интеллекта».

Еще одной проблемой является предлагаемая нормативно-правовая база закона. Единый национальный регулирующий орган должен был бы охватывать все сектора. Это может создать эффект разделения, когда специальный регулятор будет контролировать все аспекты определенных отраслей, за исключением вопросов, связанных с ИИ, которые будут подпадать под действие отдельного регулятора, уполномоченного Законом об ИИ. Такой подход вряд ли будет оптимальным.

В ИИ один размер может не подойти всем.

Более того, интерпретация акта на уровне отдельной отрасли почти так же важна, как и язык самого акта. Либо существующие финансовые регуляторы, либо вновь созданные и назначенные регуляторы ИИ должны предоставить сектору финансовых услуг рекомендации о том, как интерпретировать и применять закон. Эти интерпретации должны быть согласованы во всех странах-членах ЕС.

Хотя Закон об ИИ станет юридически обязывающим жестким законом, если и когда он будет принят, если статья 69 не будет существенно изменена, его положения будут мягкими законами или рекомендуемыми передовыми методами для всех отраслей и приложений, кроме тех, которые явно перечислены. Это кажется разумным и гибким подходом.

С публикацией Закона об искусственном интеллекте ЕС смело пошел туда, куда раньше не шел ни один другой регулирующий орган. Теперь нам нужно подождать — и, надеюсь, ненадолго — чтобы увидеть, какие нормативные предложения будут сделаны в других технологически развитых юрисдикциях.

Будут ли они рекомендовать отдельным отраслям принять правила EI, чтобы правила продвигали демократические ценности или усиливали государственный контроль? Могут ли некоторые юрисдикции выбрать минимальное регулирование или вообще его отсутствие? Будут ли правила ИИ объединены в универсальный набор глобальных правил или они будут «балканизированы» по регионам или отраслям? Время покажет. Но я считаю, что регулирование ИИ будет положительным фактором для финансовых услуг: оно устранит неоднозначность текущей нормативно-правовой базы и, надеюсь, поможет найти решения некоторых из наиболее насущных проблем сектора.

Если вам понравился этот пост, не забудьте подписаться на Предприимчивый инвестор.

Все сообщения являются мнением автора. Как таковые, их не следует рассматривать как рекомендации по инвестированию, и высказанные мнения не обязательно отражают взгляды Института CFA или работодателя автора.

Изображение предоставлено: ©Getty Images/mixmagic

Профессиональное обучение для членов института CFA

Члены Института CFA имеют право самостоятельно определять и сообщать о полученных кредитах профессионального обучения (PL), включая содержание на Предприимчивый инвестор. Участники могут легко записывать кредиты, используя свой онлайн-трекер PL.