Навигация в правовом ландшафте ЕС: «управление ИИ»

Искусственный интеллект необычайно быстро меняет целые отрасли, открывая принципиально новые возможности и одновременно создавая сложные риски. Системы ИИ в бизнесе должны соответствовать не только глобальным нормам регулирования и этическим принципам, но и стратегическим и коммерческим целям компании. В Евросоюзе советы директоров и топ-менеджмент все чаще внедряют структуры «управления ИИ» (AI Governance), которые обеспечивают безопасное, прозрачное и коммерчески выгодное его использование в различных юрисдикциях, гарантируя, что эти системы поддерживают и повышают темпы вывода продуктов на рынок, миссию и ценности компании. Для юристов такой стремительно меняющийся ландшафт несет как вызовы, так и возможности. Именно юридические департаменты компаний помогают бизнесу выстраивать «управление ИИ», минимизируя риски, не мешая внедрению инноваций и укрепляя доверие.

Важно различать «ответственный ИИ» (Responsible AI), задающий этическое видение («почему»), и «управление ИИ» (AI Governance) — общекорпоративную операционную модель, предоставляющую инструменты («как») для реализации этого видения на протяжении всего жизненного цикла системы: от идеи до мониторинга после вывода на рынок. Это непрерывный, итеративный процесс, а не разовое мероприятие.

Регуляторный фундамент

Регламент Европейского союза об и с к у сственном интеллекте (European Union Artificial Intelligence Act, EU AI Act) (далее — Регламент) определяет систему ИИ как машинную систему, способную к логическому выводу для достижения определенных целей, обладающую различным уровнем автономности и способную влиять на физическую или виртуальную среду. Регламент базируется на принципах защиты прав человека, безопасности и прозрачности. С юридической точки зрения это определение помещает ИИ в рамки законодательства о безопасности продукции, то есть ИИ рассматривается как продукт, который должен соответствовать определенным «существенным требованиям» безопасности перед размещением на рынке ЕС. В отличие от стран, законодательство которых ориентировано на суверенитет данных (Россия), быстрый экономический рост (США), государственный контроль (Китай) или глобальную адаптацию (Индия), ЕС ставит во главу угла благополучие граждан и защиту фундаментальных прав, даже если это налагает на бизнес дополнительные обязательства.

Регламент основан на рискоориентированном подходе, разделяющем, разделяющий системы на четыре уровня:

• уровень 1 — неприемлемый риск (Unacceptable risk) — запрещенные практики, такие как социальный скоринг или манипулятивные системы;

• уровень 2 — высокий риск (High-risk) — системы, подлежащие строгому регулированию (например, в сфере найма или критической инфраструктуры);

• уровень 3 — ограниченный риск (Limited risk) — системы, требующие соблюдения обязательств по прозрачности (Transparency), например чат-боты;

• уровень 4 — минимальный риск (Minimal risk) — системы без обязательных требований (например, спам-фильтры).

Регламент имеет экстерриториальное действие для предотвращения обхода его правил путем размещения систем за пределами ЕС. Основным критерием применимости является тот факт, что результат работы системы ИИ используется на территории ЕС — он применяется к провайдерам и деплоерам, находящимся за пределами ЕС, если вывод их систем ИИ используется на территории Союза.

Предположим, банк в Болгарии применяет аналитическую систему ИИ, разработанную в Азии, для оценки кредитоспособности физических лиц. Поскольку результаты этой системы (кредитный балл) используются для принятия решений в отношении резидентов ЕС, азиатский разработчик становится субъектом регулирования Регламента как провайдер.

Если международная корпорация со штаб-квартирой вне ЕС использует систему ИИ для мониторинга продуктивности своих сотрудников в офисе, расположенном во Франции, такая деятельность подпадает под действие Регламента. В данном случае организация выступает как деплоер, и на нее налагаются обязательства, поскольку работа системы затрагивает лиц, находящихся на территории ЕС.

Высокорисковые системы ИИ

Системы высокого риска (High-risk AI systems), определенные в Приложении III Регламента, включают ИИ для управления персоналом, кредитного скоринга и биометрии. Для таких систем обязательны:

• система управления рисками (Risk Management System, RMS) — непрерывный итеративный процесс выявления и смягчения угроз на протяжении всего жизненного цикла системы;

• система менеджмента качества (Quality Management System, QMS) — документированная политика и процедуры для обеспечения соответствия;

• осуществляемый человеком надзор (Human oversight) — внедрение механизмов контроля — человек в цикле (Humanin-the-Loop, HITL), человек над циклом (Human-on-the-Loop, HOTL) или человек командующий (Human-in-Command, HIC) — для противодействия предвзятости автоматизации (Automation bias), то есть чрезмерному доверию к выводам машины.

Модели ИИ общего назначения и системные риски

Регламент вводит дифференцированное двухуровневое регулирование для моделей ИИ общего назначения (General-Purpose AI, GPAI).

1. Базовый уровень обязательств. Все провайдеры — организации, разрабатывающие или размещающие модели на рынке под своим именем, обязаны соблюдать строгие требования прозрачности. Это включает разработку и внедрение внутренней политики соблюдения авторского права, а также составление и публикацию подробного резюме контента и данных, которые использовались для обучения модели.
2. Усиленный контроль для системных рисков. Модели, обладающие «высоким влиянием» и способные создавать системные риски для ЕС, подпадают под дополнительные строгие обязательства. На данный момент ключевым количественным критерием классификации таких моделей является общая вычислительная мощность, затраченная на их обучение. Если данный показатель превышает 10²⁵ операций с плавающей запятой (Floating Point Operations, FLOPs), модель автоматически признается несущей системный риск.

Провайдеры моделей с системным риском обязаны:

• проводить оценку моделей и Ad versarialтестирование (состязательные проверки);

• отслеживать и сообщать о серьезных инцидентах в Европейский офис по ИИ;

• обеспечивать надлежащую кибербезопасность всей инфраструктуры модели.

Юристам важно понимать, что эти требования применяются к «верхнему уровню» цепочки создания стоимости, однако их несоблюдение провайдером может создать операционные и регуляторные риски для организаций, интегрирующих эти модели в свои конечные продукты.

Регламент об ИИ и Общий регламент по защите данных

Важно отметить, что Регламент не заменяет, а дополняет Общий регламент по защите данных (General Data Protection Regulation, GDPR), формируя режим накопительного применения, в то время как классическая оценка воздействия на защиту данных (Data Protection Impact Assessment, DPIA), обязательная по GDPR, фокусируется преимущественно на рисках для приватности, теперь она дополняется новой оценкой влияния на фундаментальные права (Fundamental Rights Impact Assessment, FRIA).

Согласно ст. 27 Регламента, проведение FRIA является обязательным для определенных категорий организаций, развертывающих системы ИИ, включая государственные органы, банки (при оценке кредитоспособности) и страховые компании. Этот анализ направлен на защиту широкого спектра прав человека, таких как равенство и недискриминация, которые могут не охватываться стандартной процедурой DPIA.

В сфере автоматизированного принятия индивидуальных решений (Automated individual decision-making, ADM) возникает стратегический стык между ст. 22 GDPR и требованиями прозрачности Регламента. В отличие от GDPR, который регулирует только полностью автоматизированные системы, Регламент охватывает и решения, принимаемые при поддержке машины, обеспечивая право человека на объяснение логики принятого решения. Такое объяснение должно раскрывать роль системы ИИ в процессе, основные элементы логики и факторов, повлиявших на результат, а также доступные механизмы надзора со стороны человека.

Теневой ИИ и ИИ-агенты

Острой проблемой является теневой ИИ (Shadow AI) — использование неутвержденных инструментов. Движимые желанием ускорить работу, организации и сотрудники прибегают к помощи публичных чат-ботов, что создает критические уязвимости. Рассмотрим некоторые риски теневого ИИ.

Утечка интеллектуальной собственности и нарушение конфиденциальности. При вводе промптов в публичные системы сотрудники могут непреднамеренно передать проприетарный код, торговые секреты или личные данные клиентов во внешние модели, где эта информация может быть использована для дальнейшего обучения.

Ловушка ст. 25 Регламента. Например, если сотрудник использует неутвержденный инструмент для задачи высокого риска, что не было изначально предусмотрено разработчиком, например для оценки резюме, организация может быть юридически переквалифицирована из пользователя в «провайдера». Став «предполагаемым провайдером», компания автоматически берет на себя весь объем ответственности разработчика, включая систему менеджмента качества — обязательное внедрение документированной политики и процедур согласно ст. 17; систему управления рисками — непрерывный процесс выявления и смягчения рисков на протяжении всего жизненного цикла системы (ст. 9); ведение технической документации и оценку соответствия (Conformity assessment) — представление доказательств безопасности системы. Организация оказывается в «информационном тупике», так как обязана представить глубокую техническую документацию на систему, которую она не разрабатывала. Крупные вендоры, такие как OpenAI или Anthropic, не передают эти данные клиентам, что делает выполнение требований закона технически невозможным для «предполагаемого провайдера» и влечет за собой финансовые санкции в размере до 35 млн евро или 7% от оборота.

Операционная хрупкость. Использование моделей через «бэкдоры» или прокси-серверы из-за санкционных ограничений лишает организацию поддержки со стороны разработчика и гарантий безопасности, делая бизнес-процессы зависимыми от нестабильных технических решений.

Другим вызовом стали ИИ-агенты (Agentic AI), которые представляют собой системы, способные автономно достигать сложных целей с минимальным участием человека. В отличие от простых чат-ботов ИИ-агенты могут принимать самостоятельные решения, выполнять действия в цифровой среде и итеративно обучаться на основе полученных результатов. Однако их автономность порождает риск избыточной автономности (excessive agency), когда инструмент совершает непреднамеренные или вредоносные действия из-за отсутствия технических ограничений.

Примеры рисков избыточной автономности:

• утечка конфиденциальных данных — в инциденте с Microsoft Copilot Studio ИИ-агент, предназначенный для поддержки HR-департамента в работе с контрактами, из-за ошибки конфигурации предоставил всем сотрудникам компании доступ к личным договорам их коллег;

• ошибки в критической инфраструктуре — применение ИИ для генерации кода без надлежащего контроля (vibe coding) приводило к серьезным сбоям (например, ошибки в коде, развернутом ИИ-системами, вызывали многочасовой простой сервисов Amazon.com и AWS Cairo);

• непредсказуемое поведение — управление автономными агентами осложняется проблемой «черного ящика», когда логику принятия решения в сложных моделях трудно отследить или объяснить, что ведет к утрате контроля над системой.

Защитные механизмы

Для минимизации этих рисков организации должны внедрять многоуровневые защитные механизмы.

1.  Принцип минимальных привилегий (Principle of Least Privilege). ИИ-агенту следует предоставлять доступ только к тем инструментам и разрешениям, которые критически необходимы для выполнения конкретной задачи. Ограничение прав доступа минимизирует потенциальный ущерб в случае избыточной автономности или компрометации агента.

2.  Изолированные среды (Sandboxing). Развертывание агентов в контролируемой «песочнице» предотвращает потенциальный ущерб основной ИТ-инфраструктуре организации. Эффективным методом является использование наборов фиктивных данных (dummy data) для безопасного тестирования инструментов перед их допуском к реальным активам организации.

3.  Механизмы экстренной остановки (Kill-switches). Наличие автоматизированных систем, способных мгновенно прекратить работу агента при обнаружении аномального поведения или отклонения от заданного плана.

4.  Человеческий контроль (Humanin-command). Для действий с высоким уровнем влияния (например, окончательное утверждение финансовых транзакций или кадровых решений) обязательно проектируется этап одобрения человеком.

Грамотность в сфере ИИ

Согласно ст. 4 Регламента, организации обязаны обеспечивать достаточный уровень грамотности своего персонала. Это необходимо для того, чтобы сотрудники понимали технические ограничения инструментов и могли осознанно управлять рисками. Направленными на это действиями могут быть:

• борьба с предвзятостью автоматизации (automation bias) — обучение персонала распознаванию склонности людей чрезмерно доверять выводам ИИ, даже если они противоречат здравому смыслу или фактам; сотрудники должны уметь критически оценивать выходные данные и понимать, когда систему следует игнорировать;

• проверка выходных данных — инструктаж сотрудников по поводу необходимости верификации ответов ИИ, которые могут содержать «галлюцинации» или ошибки;

• использование каталогов одобренных инструментов — создание централизованных реестров и обучение персонала работе только с теми системами, которые прошли внутреннюю проверку безопасности.

Инструменты реализации: стандарты и кодексы

Для операционализации высокоуровневых требований Регламента (таких как прозрачность или кибербезопасность) бизнес не может ограничиваться только юридическим анализом. Необходим переход к техническим спецификациям, которые превращают абстрактные нормы в проверяемые процессы. В европейской практике выделяют три основных эшелона таких инструментов:

Гармонизированные европейские стандарты (hEN). Разрабатываемые организациями CEN/CENELEC (в частности, техническим комитетом JTC 21), эти стандарты являются критически важными для провайдеров высокорисковых систем. Главное преимущество их использования — «презумпция соответствия» Регламенту. Система ИИ, спроектированная и внедренная согласно цитируемому в Официальном журнале ЕС стандарту, автоматически считается соответствующей основным требованиям Регламента, что существенно упрощает прохождение проверок и аудит. На данный момент разработка таких стандартов (например, prEN 18286 для QMS) находится в процессе и завершится к 2026–2027 гг.

Международный стандарт ISO/IEC 42001 (AIMS). Первый в мире стандарт системы менеджмента ИИ служит глобальным фундаментом для выстраивания AI Governance. Он предлагает структурированный подход к управлению активами и рисками, обеспечивая операционную прозрачность. Однако источники подчеркивают, что одного ISO 42001 недостаточно для полной уверенности в соблюдении Регламента. Международным стандартам часто не хватает степени детализации, специ ф и чной для европейских норм (например, в части классификации рисков или защиты фундаментальных прав), поэтому они требуют адаптации и надстроек под конкретные требования Регламента.

Кодексы практик (Codes of Practice). Поскольку процесс стандартизации длительный, основанный на консенсусе множества стейкхолдеров, для быстрорастущего сегмента ИИ общего назначения предусмотрены временные инструменты. Кодексы практик, опубликованные в июле 2025 г., позволяют разработчикам мощных моделей (таких как GPT или Claude) демонстрировать соблюдение норм прозрачности и авторского права еще до появления официальных гармонизированных стандартов. Являясь добровольным, соблюдение Кодекса тем не менее служит для Еврокомиссии понятным сигналом о добросовестности провайдера, что может стать смягчающим фактором при рассмотрении нарушений и назначении штрафов.

Управление как катализатор инноваций

Внедрение прозрачной системы «управления ИИ» превращает доверие в стратегическое конкурентное преимущество. Грамотно выстроенная структура надзора не только защищает организацию от юридических угроз, но и становится драйвером коммерческой эффективности. Надежное управление — единственный способ избежать колоссальных штрафов, предусмотренных Регламентом, которые могут достигать:

• до 35 млн евро или 7% от мирового годового оборота за наиболее тяжкие нарушения, связанные с использованием запрещенной практики;

• до 15 млн евро или 3% от мирового годового оборота за несоблюдение требований, предъявляемых к высокорисковым системам ИИ;

• до 7,5 млн евро или 1% от оборота за предоставление регулирующим органам некорректной или вводящей в заблуждение информации.

Наличие четких этических стандартов и процедур обеспечения соответствия позволяет организациям принимать решения быстрее и увереннее. Эффективное управление устраняет неопределенность, оптимизирует внутренние процессы развертывания решений и значительно сокращает время выхода на рынок. В этом контексте юридические команды становятся стратегическими архитекторами управления. Обладая глубоким пониманием регуляторного ландшафта, юристы помогают бизнесу уверенно навигировать в поле сложных рисков, таких как предвзятость алгоритмов или утечка конфиденциальных данных, выстраивать доверительные отношения с клиентами и инвесторами через прозрачность используемых систем, полностью раскрывать инновационный потенциал технологий, обеспечивая их долгосрочную устойчивость и законность.

Внедрение системы «управления ИИ» — не бюрократический барьер, а критически важный стратегический императив для любой организации, стремящейся к лидерству и безопасной трансформации в эпоху ИИ.

Как «управление ИИ» меняет глобальный бизнес и отношения с консультантами

Для глобальных корпораций «управление ИИ» перестает быть единым монолитным набором правил и превращается в адаптивную операционную модель, которая должна учитывать глубокие различия в правовых и культурных подходах ключевых регионов (ЕС, США, Китай, Индия).

Сложность единого технологического стека

Обеспечение доступа сотрудников к одним и тем же инструментам в разных частях мира сталкивается с техническими и юридическими барьерами.

Географическая и контекстуальная специфика данных. Система ИИ, обученная на данных одного региона, может быть непригодна для другого из-за поведенческих или функциональных различий. Например, алгоритмы автономного вождения должны учитывать, что в Ирландии или на Мальте движение левостороннее в отличие от остальной части ЕС. Если не учитывать эти особенности, точность системы в другом регионе окажется недопустимо низкой.

Сложность цепочек поставок. Современные ИИ-продукты часто представляют собой гибрид моделей, разработанных в разных странах. Несоблюдение «верхним» провайдером (например, из США) требований прозрачности ЕС создает критические риски для интеграторов в Европе, которые не могут составить необходимую документацию для своих систем;

Экстерриториальное действие. Регламент ЕС применяется к провайдерам и развертывающим лицам из третьих стран, если результат работы их ИИ используется в Союзе. Так, разработчик в Индии, создающий продукт для европейского заказчика, обязан соблюдать стандарты ЕС, что ограничивает выбор доступных инструментов и методов разработки. Различия в целях регулирования заставляют компании выстраивать параллельные или сегментированные структуры управления. Так, в центре внимания Европейского союза находятся благополучие граждан и защита фундаментальных прав. Регламент ЕС об ИИ рассматривает технологию через призму безопасности продукции, налагая жесткие обязательства по управлению данными, прозрачности и человеческому надзору, особенно для систем высокого риска. США традиционно ориентированы на быстрый экономический рост и инновации с меньшим количеством федеральных ограничений для высокотехнологичного сектора. Однако на уровне штатов наблюдается сильная фрагментация правил, что усложняет комплаенс для компаний, работающих на всем американском рынке. Подход Китая характеризуется государственным контролем. В качестве примера можно привести проект социального кредита, который в ЕС признан неприемлемым риском и полностью запрещен. Индия и другие развивающиеся рынки фокусируются на глобальной адаптации и использовании ИИ как драйвера экономического развития.

Влияние на бизнес-стратегию. Цели «управ ления ИИ» меняются в зависимости от географии. То, что банк хочет достичь с помощью ИИ в Сан-Франциско, будет существенно отличаться от задач и рисков аналогичного проекта на Филиппинах или в Европе.

ИИ как инструмент контроля внешних консультантов

Взаимоотношения между инхаус-юристами и внешними юридическими фирмами претерпевают фундаментальную трансформацию благодаря внедрению «управления ИИ». Согласно исследованию Гарвардской школы права, проведенному Робертом Кутюром, использование технологий ИИ обусловило инверсию классического «правила 80/20». Ранее внешние консультанты тратили 80% оплачиваемого времени на исследования и сбор прецедентов, и лишь 20% на выработку непосредственных рекомендаций клиенту. ИИ позволяет перевернуть это соотношение, передав рутинный сбор информации машине и высвободив время юриста для высокоуровневой аналитики. Однако этот технологический скачок не привел к автоматическому снижению юридических расходов. Напротив, возник экономический парадокс: согласно отчету компании Axiom, 79% юридических фирм уже внедрили инструменты ИИ, но лишь 6% из них снижают стоимость своих услуг для клиентов. При этом 34% фирм устанавливают премиальные тарифы за работу, усиленную ИИ, аргументируя это повышением качества услуг. В прошлом году тарифы в юридической отрасли выросли в среднем на 9%, что более чем в два раза превышает уровень инфляции.

В условиях растущих цен «управление ИИ» становится для заказчиков юридических услуг инструментом контроля за эффективностью. Глобальные компании начинают внедрять многоуровневые операционные модели (включающие глобальный, локальный и технический уровни), используя КПЭ (KPI) и специализированные ИИ-системы для контроля за внешними консультантами. Внедрение таких систем позволяет решить несколько задач. Использование ИИ-метрик помогает отслеживать реальное время, затраченное на задачу, и исключать оплату за повторяющиеся типовые консультации. Акцент смещается с процесса на результат. Инвестиции юридических фирм в технологии, таланты и возможности должны проявляться непосредственно в качестве работы, а не оставаться лишь частью маркетинговых презентаций. Вводится практика регулярной ежеквартальной оценки эффективности. Компания-заказчик получает возможность оперативно менять перечень консультантов, если аналитическая модель показывает несоответствие уровня работы заявленным стандартам или неэффективное использование ИИ-инструментов.

Таким образом, для современных юридических служб ценность представляют не дешевая, а максимально слаженная и технологически подкованная команда. Юридические фирмы теперь вынуждены отстаивать свои инвестиции в ИИ, доказывая клиенту, что возвращенные благодаря автоматизации 80% времени направляются на качественное консультирование, стратегическое суждение и задачи, которые действительно двигают бизнес вперед.