Telegram
«Если вы не платите за продукт, значит, продукт — это вы».
Из фильма The Social Dilemma
На протяжении десятилетий отношения с потребителями и пользователями выстраивались вокруг, казалось бы, очевидной логики: клиент оценивает доступные предложения и принимает решение, а организации разрабатывают продукты и предоставляют услуги. Сегодня эта модель постепенно меняется, не всегда заметно для пользователя, но весьма существенно с точки зрения права, регулирования и рыночной конкуренции. ИИ больше не ограничивается внутренней оптимизацией бизнес-процессов. Он влияет на то, какую информацию видит пользователь, как она структурируется, какие варианты оказываются в фокусе внимания и какие решения в итоге принимаются. В цифровом банкинге, инвестиционных сервисах и криптоэкосистемах ИИ все чаще становится невидимым посредником между клиентом и рынком.
Такой сдвиг легко недооценить, поскольку формально выбор за клиентом сохраняется. Однако фактически среда, в которой данный выбор осуществляется, все чаще проектируется алгоритмами. Поэтому вопрос уже не в том, влияет ли ИИ на решения — очевидно, что влияет. Более важен вопрос: клиенты по-прежнему выбирают сами или все чаще следуют выбору, который за них уже сделан?
Традиционная правовая модель принятия решений о вступлении в обязательственные отношения основана на представлении о рациональном выборе пользователя или потребителя. Предполагается, что клиент сравнивает доступные продукты, оценивает риски и доходность, сопоставляет условия и принимает решение, соответствующее его интересам и предпочтениям. Даже при наличии информационной асимметрии между коммерсантом и потребителем базовое допущение оставалось прежним: окончательное решение принадлежит человеку. В данной парадигме организации, маркетплейсы и даже финансовые компании конкурируют за клиента за счет качества продукта, стоимости, удобства доступа и уровня сервиса, а не за счет контроля над самой средой принятия решения.
В период диджитализации и тотального перехода в онлайн цифровые интерфейсы сделали покупательский опыт более доступным, ускорили сравнение условий и снизили транзакционные издержки. Однако они не поменяли принципиально саму логику выбора: клиент по-прежнему искал, сравнивал, оценивал и принимал решение. В такой модели технология выступает инструментом расширения возможностей пользователя, но не самостоятельным посредником, формирующим пространство выбора.
Повсеместное внедрение ИИ меняет не только скорость или удобство принятия решений, но и саму архитектуру выбора. Разберем это более детально.
Первый сдвиг происходит на уровне видимости. ИИ-системы уже не просто отображают информацию — они ее отбирают, ранжируют и персонализируют. Пользовательские панели, рекомендательные механизмы, алгоритмические фильтры и скоринговые модели определяют, какие варианты будут показаны клиенту, в каком порядке и с каким акцентом. В результате набор доступных вариантов перестает быть нейтральным: он конструируется системой.
Второй сдвиг менее очевиден, но более глубок. ИИ создает слой сопровождения между пользователем и решением. Оптимизированные инвестиционные портфели, персонализированные предложения, автоматические рекомендации по управлению или предупреждение о рисках снижают когнитивную нагрузку и повышают удобство сервиса, ведь всем хорошо известны фраза на экране смартфона: «Специальное предложение — только для вас» или ситуация, когда лента социальной сети подбирает для вас товар, о котором некоторое время назад вы сказали вслух. Однако это является принципиальным моментом в сдвиге парадигмы о свободном выборе, на котором и базируется потребительское право, поскольку подобные действия меняют роль клиента. Вместо самостоятельного сопоставления альтернатив пользователь все чаще оказывается перед уже сформулированным предложением. Его задача сводится не к полноценному выбору между множеством вариантов, а к решению принять или отклонить рекомендацию системы. На этом этапе меняется сама природа выбора. Вопрос «что мне выбрать?» все чаще уступает место вопросу «что мой ИИ выбрал за меня?».
Показательным примером является дело FTC v. Amazon, связанное с оформлением подписки Prime. В нем речь шла о том, как интерфейс и цифровая архитектура могут направлять потребителя к решению, которое он не всегда осознанно принимает. По позиции FTC, Amazon использовал вводящие в заблуждение механики оформления подписки и усложнял ее отмену, фактически создавая навязываемое пользователям поведение. В 2025 г. компания согласилась на урегулирование в размере 2,5 млрд долларов, из которых 1 млрд долларов составил гражданский штраф, а 1,5 млрд долларов направлено на компенсацию потребителям. Этот кейс показывает, что в США управление выбором через интерфейс, дизайн и алгоритмическую логику может повлечь за собой не только репутационные и поведенческие последствия, но и многомиллиардную финансовую ответственность.
Цифровизация и внедрение ИИ свидетельствуют о переходе от модели рынка, основанной на самостоятельном выборе, к системе, все в большей степени определяемой алгоритмическим посредничеством. Такой переход создает новые регуляторные риски. Вопросы предвзятости, прозрачности, объяснимости и ответственности становятся особо значимыми в сфере ритейла, кредитного скоринга, инвестиционного консультирования, страхования и финансовой инклюзии. Если результат формируется непрозрачной моделью, пользователю сложнее понять, почему ему предложен именно этот продукт или отказано в услуге, или почему система оценила его риск именно таким образом.
В связи с активной фазой смены парадигмы в потребительских правоотношениях в настоящее время меняется и подход регуляторов.
В России в настоящее время отсутствует единый закон об ИИ (имеется только проект федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации»), поэтому регулирование выстраивается через Закон о персональных данных, экспериментальные правовые режимы и регулирование Банка России. Ключевая норма — ст. 16 Федерального закона № 152: решения, основанные исключительно на автоматизированной обработке персональных данных и затрагивающие права субъекта, требуют специального правового основания, объяснения порядка принятия решения и возможности возражения.
В Европейском союзе применяется рискориентированный подход, согласно которому, чем выше риск ИИ-системы для прав человека и доступа к ключевым услугам, тем строже требования. Основным нормативно-правовым актом является EU AI Act, где, например, кредитный скоринг и оценка кредитоспособности физических лиц относятся к высокорисковым ИИ-системам. Штрафы существенные: за запрещенные практики — до 35 млн евро или 7% мирового годового оборота, за нарушение требований к высокорисковым системам — до 15 млн евро или 3% оборота.
В США ведется секторальное регулирование через уже существующие режимы: защиту потребителей, превенцию дискриминации, трудовое право, здравоохранение, финансовое регулирование, антимонопольное право и контроль за недобросовестными практиками. ИИ оценивается не как самостоятельный объект регулирования, а через последствия его применения: вводит ли он потребителя в заблуждение, дискриминирует ли, нарушает ли его приватность, искажает ли конкуренцию или лишает человека понятного объяснения решения?
Показательно дело FTC v. Rite Aid: компания использовала систему распознавания лиц для выявления в магазинах лиц, якобы связанных с кражами и иными нарушениями. Однако система ошибалась, а сотрудники фактически воспринимали ее сигналы как готовое решение. В результате покупателей могли остановить, попросить покинуть магазин или подвергнуть дополнительной проверке на основании автоматизированного вывода. Согласно позиции FTC, Rite Aid не обеспечила достаточного тестирования системы, контроля ее точности и механизмов предотвращения вреда для потребителей. По итогам дела ключевым последствием стал не денежный штраф, а пятилетний запрет на использование системы распознавания лиц в целях безопасности и наблюдения, а также обязанность внедрить защитные механизмы для будущих биометрических систем, усилить контроль за поставщиками технологий и программу информационной безопасности. Этот кейс показывает, что риск непрозрачного ИИ состоит не только в ошибке алгоритма, но и в том, что человек начинает следовать алгоритмическому выводу как уже принятому решению, что неотъемлемо сказывается на правах потребителей и пользователей.
* * *
Происходящая трансформация означает не исчезновение выбора, а его переопределение. Клиенты по-прежнему принимают решения, однако эти решения все чаще формируются в среде, где информация отфильтрована, варианты ранжированы, а наиболее вероятное действие уже предложено системой. В такой реальности конкуренция больше не ограничивается качеством продуктов или стоимостью услуг. Она распространяется на дизайн цифровых и ИИ-сред: интерфейсов, алгоритмов, моделей данных и механизмов персонализации, которые влияют на поведение пользователя.
Ключевой вопрос будущего заключается не в том, будет ли ИИ участвовать в принятии решений, поскольку ИИ уже является частью нашего настоящего. Вопрос в другом: кто контролирует системы, формирующие эти решения, и в какой мере клиенты осознают такое влияние? Поэтому задача права состоит в создании понятной и эффективной системы регулирования ИИ-посредников, которая позволит сохранить автономию воли потребителей и пользователей онлайн- ресурсов
№ 4 (150) 2026
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ОХОТА ЗА РАЗУМОМ
