Первый закон о робототехнике: интервью с В. Наумовым

In Интервью, Новости by Маргарита Гаскарова0 Comments

Поделитесь:

В феврале мировыми, а вслед за ними и российскими СМИ много внимания уделялось новостям о будущем робототехники. Европарламент предложил ввести специальный статус для роботов, чтобы знать, кто должен нести ответственность в случае причинения вреда таковыми. Кроме того, законодатели призвали Еврокомиссию разработать законопроекты для полноценного использования экономического потенциала робототехники и искусственного интеллекта, а также обеспечения единого уровня безопасности применения роботов. А основатель «Майкрософт» Билл Гейтс предложил замедлить процесс автоматизации и замещения человеческого труда роботами с помощью налоговой политики: по его мнению, роботизированный труд нужно обложить подоходным налогом и социальными выплатами.

Примерно в это же время на портале Zakon.ru появился блог бывшего Председателя ВАС РФ Антона Иванова под заголовком «Мечтают ли андроиды об электроовцах?», в котором он подверг критике законопроект о внесении изменений в Гражданский кодекс РФ в части совершенствования правового регулирования в области робототехники (За обновлениями текста законопроекта можно следить на официальной странице «Первого закона о робототехнике» в «ВКонтакте»: https://vk.com/page-135261864_52392566). Концепцию законопроекта разработала команда юристов Dentons под руководством Виктора Наумова по заказу Дмитрия Гришина, основателя Grishin Robotics и со-основателя и Председателя совета директоров Mail.ru Group.  

Накануне Moscow Legal Tеch мы решили поговорить с Виктором Наумовым, у которого за плечами три высших образования, ленинградская Физматшкола № 30, работа лаборантом, а затем научным сотрудником в лаборатории робототехники Института информатики и автоматизации Российской академии наук в Санкт-Петербурге, руководство практикой IT в Dentons и ко всему прочему любовь к фантастике.

Начнем интервью с провокационного вопроса: не рановато ли сейчас заботиться о правовом статусе роботов?
Конечно, исходя из уровня развития технологий и массовости роботов на текущий момент, правовой статус роботов – это фантастика. Но никто и не говорит, что у нас по улицам бродят роботы, ездят самоуправляемые машины, мусор подметают киборги, а не дворники, и тому подобное. Но с точки зрения научно-технического прогресса и наблюдаемого ускорения развития человечества в технологической сфере – все это ожидает нас в не очень отдаленном будущем.
В настоящее время невозможно понять, что же произойдет, когда эти сложные системы станут слишком «умными» и за счет самообучения в процессе самостоятельного взаимодействия с внешней средой начнут действовать вне рамок заложенных детерминированных алгоритмов, на основе приобретаемого опыта развивать и пополнять состав изначально заложенных алгоритмов и правил.
Возьмем, к примеру, self-driving cars (беспилотные автомобили). Езда за рулем с водителем обусловлена правилами дорожного движения (в целом, почти непротиворечивыми), механикой и состоянием автомобиля, геометрией и качеством покрытия дорог и, что очень важно, сложно прогнозируемой дорожной обстановкой и, главное, опытом водителя. Если убрать водителя, последняя составляющая может быть восполнена только сложной компьютерной системой с сенсорами, которая должна научиться реагировать на множество различных ситуаций, которые изначально не просчитать, и, соответственно, не спрогнозировать. Представим себе: мы нажали кнопку, «умная» машина завелась, но поехала так и туда, куда мы даже предположить не могли, но, в итоге, доехала куда нужно. Спрогнозировать владельцу (не сидящему в машине) это невозможно, исчезает причинно-следственная связь в нашем традиционном ее понимании и возникает понятная проблема, что произойдет, если управляемая программой машина попадет в аварию, где будет, например, иметь место ущерб имуществу? Очевидно, что появление беспилотных автомобилей будет означать расширение состава объектов, которые могут представлять собой источник повышенной опасности. Однако, качество этого явления может быть другим — если для «классических» источников повышенной опасности декларируется невозможность именно полного и постоянного контроля человеком, то создание роботов преследует цель вообще отказаться от этого контроля и при развитии искусственного интеллекта сделать их поведение качественно иным.
Налицо объективная проблема: право, которое оперирует субъектным составом и объектами, к такой ситуации не готово и, на наш взгляд, имеющихся норм уже не хватает. Это породило у нас с коллегами нашей фирмы (хочу особо выделить Владислава Архипова) научный интерес, который явился стимулом к данной работе. Но была и ключевая прагматическая задача – начать дискуссию, инициированная Дмитрием Гришиным из Grishin Robotics. Поскольку Дмитрий уже давно занимается ИТ и робототехникой, у него возник стратегический интерес – понять, как его бизнес будут регулироваться в перспективе.

Почему вы стали разрабатывать изменения в Гражданский кодекс, а не закон о робототехнике?

Мы пошли по пути наименьшего сопротивления, предлагая внести поправки в Гражданский кодекс РФ. Если в целом говорить о системе, то нужен закон о робототехнике с определениями, раскрытием принципов регулирования, вопросами безопасности и в дополнение к нему потребуется внести и соответствующие изменения в Гражданский и другие кодексы. Мы же пока разработали только изменения с учетом имеющегося у нас сейчас небольшого запаса знаний (в частности, законов Айзека Азимова). Это не означает, что такой закон должен быть принят в течение ближайших нескольких лет, но если мы не начнем все это обсуждать, возникнут проблемы.

Важно, чтобы дискуссия была междисциплинарной, с участием философов, инженеров, социологов и иных профессионалов, и гармоничной, когда идеи для регулирования должны предлагаться теми, кто понимает их содержание и последствия принятия. Она должна быть основательной, поскольку поспешно вносимые в законодательство изменения обычно не отличаются высокой результативностью. Когда в законах и подзаконных актах появляются «заплатки», это решает какие-то локальные задачи, но противоречит другим нормам, страдает терминология, возникают правила, которые противоречат природе, в том числе, технологической, процессов и вещей. Так, наглядным примером негативных последствий инерционности права и непродуманного развития законодательства стало регулирование Интернета. Систему изначально не продумали, новые реалии и проблемы не изучили и не обсудили и отчитаться можно только чередой поправок.

Чтобы не допустить этого, мы уже сейчас начали дискуссию. Я не сомневаюсь в том, что через некоторое время от данного законопроекта останутся лишь идеи, точнее вопросы, которые в нем заявлены, но они-то как раз и нужны для проведения той работы, которая нас увлекла.

Полностью интервью читайте в мартовском Legal Insight.

Основные идеи законопроекта Виктор Наумов представит на Moscow Legal Tech.

Leave a Comment