Translate this page:
Please select your language to translate the article


You can just close the window to don't translate
Library
Your profile

Back to contents

Legal Studies
Reference:

The Main Approaches to Legal Regulation of Relations that Involve the Use of Robots

Danilov Igor'

PhD in Law

head of the Department of the Theory and History of State and Law at Siberian Institute of Management, branch of the Russian Presidential Academy of National Economy and Public Administration

630102, Russia, Novosibirskaya oblast', g. Novosibirsk, ul. Nizhegorodskaya, 6

0615222@mail.ru

DOI:

10.25136/2409-7136.2019.6.29150

Received:

05-03-2019


Published:

16-07-2019


Abstract: The article is devoted to the main challenges and issues that can be found in the laws on robotics as part of the Russian legal doctrine. Danilov analyzes the main approaches to legal regulation of social relations that involve the use of robots as these approaches are described in Russian and foreign academic literature. Theoretical views of Russian and foreign scientists on perspective concepts in legal regulation of robotics are classified and represented in the form of theoretical models. The researcher proves the rationality of these models and describe their advantages and disadvantages. Danilov presents the concept of limited legal capacity and competence of robots. Danilov defines the borders of legal capacity, competence and tort capacity. The methodological basis of the research includes dialectical and comparative law methods. In particular, application of the dialectical method has allowed to analyze the definition of the term 'robot' from the point of view of its origin and development. Comparative law method has ensured accurate comparison of approaches to legal regulation of relations that involve the use of robots as these approaches are described by Russian and foreign science. As aresult of the research, the author concludes that all approaches to defining the legal nature of robots as artificial intelligence bearers can be divided into three groups. The first group is based on the idea that these relations are a special object of law with special characteristics that require the development of special laws that would regulate such relations. The second approach is based on the need to declare partial legal capacity of robots limited with their tort capacity. The third concept is based on the need to extend the legal competence of artificial intelligence bearers by including the legal capacity therein. 


Keywords:

robots, robotics, artificial intelligence, electronic person, legal personality, legal capacity, capacity, tort capacity, subject of law, object of law


Развитие современных технологий, основанное на автоматизации процессов в различных сферах общественной жизни, появление инновационных технических средств и решений приводят к возникновению актуальной потребности по разработке новых концепций правового регулирования общественных отношений, связанных с использованием передовых достижений науки и техники. Одной из наиболее динамично развивающихся отраслей производства в настоящее время является робототехника. Использование роботов в промышленности и в быту возрастает год от года, а сам потенциал разрабатываемых технологических решений увеличивается стремительными темпами. Появление таких феноменов общественной жизни, как беспилотные автомобили и летательные аппараты (дроны), самообучающиеся компьютерные программы и алгоритмы, нейросети, сложные автоматизированные системы управления предопределяет необходимость формирования нормативно-правовой базы, регламентирующей их участие в складывающихся правоотношениях, а также последствия совершения ими юридически значимых действий. Необходимость скорейшей разработки государственной стратегии в области искусственного интеллекта являлась одной из ключевых идей экспертной дискуссии «Искусственный интеллект и государство», прошедшей в рамках Гайдаровского форума 2019.

П.П. Баранов справедливо отмечает, что США, Китай, Япония, ЕС, Южная Корея очень серьезно подходят к робототехнике и официально признают за ней будущее. При этом на фоне соперничества на этом поприще на первый план выходят вопросы правового регулирования робототехники, которые могут привести к осязаемым технологическим и экономическим результатам. Так, например, принятый в Южной Корее в 2008 г. закон «О развитии и распространении умных роботов» позволил повысить их производство в 2016 г. на 80 % и принести государству более 4 млрд. долларов дохода [1].

Помимо Южной Кореи активно занимаются формирование соответствующей нормативно-правовой базы и страны Евросоюза. 16 февраля 2017 г. Европарламентом была принята Резолюция «Нормы гражданского права о робототехнике», в которой закрепляются основы правового регулирования отношений с использованием роботов и иных подобных автономных систем [2].

В российском законодательстве специальных норм, регламентирующих правовой статус роботов и порядок регулирования отношений с их участием в настоящий момент не разработано. Немногочисленные упоминания о данных объектах можно найти в ГОСТ 34.003-90, где вводятся понятия «автоматизированная система» и «информационная технология» [3], Приказе Минтруда России от 29.10.2015 №799н «Об утверждении профессионального стандарта «Оператор демонтажных роботов для работ в высоких радиационных полях» [4], где используется термин «робот», ГОСТ Р ИСО 8373–2014 «Роботы и робототехнические устройства. Термины и определения» [5], содержащем основные дефиниции, а также в ст.ст. 8, 32, 36, 37 и др. Воздушного кодекса РФ, где содержатся нормы о сертификации, регистрации, государственном учете и особенностях эксплуатации таких объектов как «беспилотное воздушное судно» и «беспилотная воздушная система» [6]. Отдельные упоминания об искусственном интеллекте встречаются также в правовых документах программного значения. Так, в программе «Цифровая экономика Российской Федерации», утвержденной распоряжением Правительства РФ от 28.07.2017 г., технология искусственного интеллекта обозначена как одна из приоритетных сквозных технологий для решения вопросов обработки больших данных, распознавания объектов и интеллектуального поиска [7].

Вместе с тем, многочисленные авторы подчеркивают необходимость скорейшей разработки и введения в действие соответствующих норм, которые могли бы обеспечить специальное регулирование отношений с участием роботов. Так, справедливо подчеркивается, что промедление в данном вопросе может привести к ситуации, когда требуемые юридические решения и стандарты уже будут разработаны другими государствами, апробированы на международном опыте и в дальнейшем будут «навязываться» отечественному законодателю в качестве эталонных.

В декабре 2016 г. юридическая фирма Dentons по заказу Grishin Robotics разработала концепцию первого в России законопроекта о робототехнике (авторы законопроекта В. В. Архипов, В. Б. Наумов) [8]. Представленный законопроект представлял собой пакет поправок в Гражданский кодекс РФ, дополняющий Подраздел 2 «Лица» новой Главой 5.1 «Роботы-агенты». Концепция предусматривала появление в российском гражданском праве нового субъекта – робота-агента, который, по замыслу авторов, представлял собой робота, по решению собственника и в силу конструктивных особенностей предназначенного для участия в гражданском обороте. В соответствии со ст. 127.1 Законопроекта, «робот-агент имеет обособленное имущество и отвечает им по своим обязательствам, может от своего имени приобретать и осуществлять гражданские права и нести гражданские обязанности. В случаях, установленных законом, робот-агент может выступать в качестве участника гражданского процесса» [8]. Законопроект был неоднозначно воспринят научно-экспертным сообществом России, не получил движения в Государственной думе РФ, однако явился однозначным индикатором того, что работа в области формирования концепций правового регулирования отношений с участием роботов в настоящее время обретает исключительную актуальность.

Подтверждением данного факта является и то, что Председатель Государственной Думы Федерального Собрания РФ Вячеслав Володин в феврале 2017 г. в ходе рабочей поездки в Татарстан заявил, что депутатам необходимо подготовить законопроект о регулировании взаимоотношений робота и человека. При этом Председатель Госдумы считает, что Россия может стать пионером в правовом регулировании развития робототехники и искусственного интеллекта и разработать такой закон к 2022 году [1].

Анализ сформулированных в науке подходов к определению правового статуса роботов позволяет сделать вывод о том, что они принципиально отличаются восприятием их в качестве объекта, или же субъекта права.

Американские исследователи Neil M. Richards и William D. Smart в статье, посвященной изучению роботов в контексте нормативно-правового регулирования, указывают, что идея возможного равенства робота и человека с точки зрения его статуса должна быть однозначно отвергнута [9]. Не смотря на очевидное сближение уровня развития алгоритмов роботизированных систем с уровнем человеческого мышления при принятии отдельных решений, робот всегда остается инструментом, устройством, что предопределяет его статус как объекта права.

Данная позиция перекликается с принципами разработки и применения искусственных агентов (роботов), сформулированными Международной общественной организацией «Институт инженеров электротехники и электроники». Разработанные правила предполагают необходимость ужесточения контроля за организациями, использующими роботов в своей деятельности. Механизмы идентификации искусственных агентов должны обеспечить возможность однозначного решения вопроса о лице, несущем ответственность за вред, причиненный роботом. Поскольку сам робот является исключительно объектом в правовой сфере [10].

В отечественной науке схожим образом правовую природу робота воспринимает П.П. Баранов, который предлагает авторское определение: «Робот – это программируемое автономное автоматическое устройство, способное выполнять различные манипуляции и взаимодействовать с окружающей средой без помощи человека и заменять его труд» [1]. Вместе с тем, автор допускает, что в ближайшем будущем роботы могут достичь абсолютной степени своей автономности и тогда появится возможность говорить о них как о специальных субъектах права, участниках гражданско-правового оборота, которые имеют правовые обязанности и несут ответственность за свое поведение.

Представленный подход является наиболее консервативным в науке, отражает классический взгляд на категорию правосубъектности и исходит из того, что на роботов, вне зависимости от уровня их технологической сложности и развитости алгоритмов должен распространяться правовой режим вещи. Вместе с тем, представляется, что характерные особенности этой вещи должны предопределять существование специальных норм, регулирующих отношения с ее использованием.

Альтернативная концепция правового регулирования отношений с участием роботов состоит в необходимости юридического признания их частичной или полной правосубъектности. Представляется, что сама юридическая конструкция правосубъектности в последние годы претерпела значительные изменения. Ее эволюция связана с переосмыслением понятия «субъект права» с точки зрения признаков, достаточных для признания того или иного лица субъектом. Традиционно круг субъектов права ограничивался физическими и юридическими лицами (к специальным видам которых иногда относят государство, субъекты Федерации, муниципальные образования). Однако, с течением времени и развитием правовых доктрин, этот устоявшийся круг всё чаще подвергается сомнению. Расширительно толкуя теорию фикции юридического лица, определяя юридическое лицо как «явление, созданное правопорядком» [11], современные исследователи проблем теории права формулируют обоснованное предположение о том, что генезис правопорядка неизбежно влечет и эволюцию категории правосубъектности.

В международной юридической практике последнего времени так же намечаются тенденции смещения понимания правосубъектности в сторону расширения круга потенциальных субъектов. Так, в марте 2017 г. Суд индийского штата Уттаркханд признал реки Ямуна и Ганг живыми существами, наделив их юридическими правами [12]. Ранее, 15 марта 2017 г., Река Уонгануи в Новой Зеландии, третья по величине в стране, стала первым водоемом в мире, получившим те же юридические права, что и человек [13]. Подобные прецеденты свидетельствуют о том, что современная юридическая наука исходит из очевидной возможности расширения круга субъектов права за счет включения в него новых участников правоотношений.

Развивая эту концепцию, ряд исследователей полагает, что роботы и роботизированные системы должны рассматриваться именно в качестве субъектов права. В.В. Архипов и В.Б. Наумов предлагают выделять две предметные категории — «просто робот» (как «устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека»), то есть элемент объекта регулирования, и «робот-агент», который, по замыслу авторов, наделяется специальной правосубъектностью. Между этими понятиями предлагается установить взаимосвязь — «роботом-агентом признается робот, который по решению собственника и в силу конструктивных особенностей предназначен для участия в гражданском обороте» [8].

О юридической природе роботов как квазиагентов или посредников рассуждают и зарубежные исследователи, констарируя, что роботы постепенно наделяются все большим объемом функций, которые ранее исполнялись людьми [14]. Юридический смысл представленных концепций специальной правосубъектности сводится к модернизации отношений агентирования. В дополнение к существующим положениям Главы 52 ГК РФ вводится еще и способ исполнения агентских функций роботами. Особенностью при этом является ограничение имущественной ответственности собственников и владельцев подобных роботов, участвующих в гражданском обороте. Предполагается, что владелец или собственник наделяет робота-агента определенной имущественной массой, которая и представляет собой предел ответственности по обязательствам перед третьими лицами. Указанное положение явилось предметом критики, поскольку подобной степени ограниченности имущественной ответственности в настоящий момент нет даже у юридических лиц.

Вопрос о допустимости распространения на робота правового статуса агента напрямую зависит от возможности признания его субъектом права, пусть и в ограниченном смысле. Как отмечает ряд исследователей, для приобретения искусственным интеллектом статуса субъекта права необходимо наличие у него такого качества, как воля. Искусственный интеллект волевой способностью не обладает. Поэтому наделение правосубъектностью робота как носителя искусственного интеллекта в любом случае будет являться фикцией [7].

Другой аспект проблемы правосубъектности роботов рассматривает П.П. Баранов. Отмечая реальные возможности причинения роботами вреда и анализируя особенности применения мер юридической ответственности к таким фактам, он указывает, что следует обсудить вопрос о возможности внесения в гражданское право нового правового статуса для роботов «электронное лицо», что в принципе могло бы позволить включить их в существующую систему гражданско-правовой ответственности. При этом в гражданском праве должно быть закреплено положение о праве на установление причинно-следственных связей между действиями (бездействиями) робота и ущербом, который он нанес, чтобы иметь возможность взыскать компенсацию с производителя этого робота [1].

Позиция о необходимости признания правосубъектности роботов для совершенствования механизмов реализации юридической ответственности поддерживается и профессором Йельской школы права Дж. Балкиным. Он отмечает, что если не констатировать правосубъектность роботов, возникает значительная проблема, связанная с определением надлежащего субъекта ответственности, поскольку круг лиц, участвующих в деятельности робота, чрезвычайно широк. К нему относится и производитель робота, и собственник, и его владелец. Зачастую определить долю и размер ответственности каждого из них не представляется возможным [15]. Кроме того, к упомянутому кругу лиц может быть отнесен еще и злоумышленник, неправомерно и несанкционированно получающий доступ к программному обеспечению робота и осуществляющий вмешательство в его деятельность. Сложный и полиморфный характер роботизированных систем зачастую вообще не позволяет дать однозначного ответа о лице, ответственном за те или иные сбои в их работе. Признание деликтоспособности роботов позволяет поставить вопрос об обязательном страховании их ответственности в целях однозначного обеспечения деликтных обязательств, возникающих по вине роботов.

Наконец, комплексное исследование вопросов правового статуса и правосубъектности систем и устройств искусственного интеллекта П.М. Морхата основывается на необходимости наиболее расширительного толкования правосубъектности роботов. Вводя понятие «юнит искуственного интеллекта», под которым подразумеваются любые компьютерные или киберфизические системы с антропоформным (человекоподобным) «интеллектом», автор делает вывод о возможности наделения их особой правосубъектностью, которая включала бы в себя не только деликтоспособность, но и ограниченную правоспособность. Так, в случае достижения в будущем юнитами искусственного интеллекта значительной степени автономности, под которой понимается способность выполнять поставленные задачи в зависимости от текущего состояния и восприятия окружающей среды без вмешательства человека, а также при возможности констатации в отношении них такого важного признака субъекта права как автономии воли, допустимо будет говорить о таких правах роботов, как право на целостность и неприкосновенность, свобода слова, интеллектуальные права, авторские права [16].

Относительно последней группы прав предлагаются несколько концепций правового регулирования: машиноцентрический (юнит искуственного интеллекта рассматривается как единственный и полноправный автор создаваемых им результатов интеллектуальной деятельности), антропоцентрический (носителем авторского права является человек, юнит искусственного интеллекта рассматривается лишь как инструмент создания результатов интеллектуальной деятельности), концепт служебного произведения (отношения юнита искусственного интеллекта и человека при создании результатов интеллектуальной деятельности должны регулироваться правовыми нормами о служебном произведении), концепт гибридного авторства (юнит искусственного интеллекта и человек выступают в качестве соавторов), а также концепт «исчезающего» (нулевого) авторства (отсутствие авторов у произведений, созданных юнитом искусственного интеллекта) [17].

К числу прочих вопросов, возникающих в связи с разработкой подходов к регулированию отношений с использованием роботов, относятся вопросы квалификации роботов как участников процессуальных отношений. В настоящее время используются и продолжают совершенствоваться системы автоматической фиксации административных правонарушений. Автоматизированная система управления, при этом, осуществляет целый комплекс действий, связанных с фиксацией, квалификацией деяния, установлением правонарушителя, выбором размера наказания. Как справедливо отметил директор Института права и развития ВШЭ – Сколково А. Иванов в рамках экспертной дискуссии «Искусственный интеллект и государство» на базе Гайдаровского форума 2019, человек при этом, по сути, выступает лишь как средство легитимации совершаемого процессуального действия, или же акцептором действий робота. Перспективы развития подобных систем позволяют поставить вопрос о наделении робота процессуальным статусом лица, рассматривающего дело об административном правонарушении.

Справедливо отмечается, что уже в настоящее время искусственный интеллект способен выполнять типичные юридические действия по заданному алгоритму, в том числе, составление договоров, исковых заявлений, и иных документов. Крупные компании в России, в том числе Сбербанк, ВТБ, планируют широко использовать нейронные сети для выполнения такого рода работы. Как заявил управляющий директор ПАО «Сбербанк» В. Авербах, выступая спикером в упомянутой дискуссии «Искусственный интеллект и государство» в рамках Гайдаровского форума 2019, компания Сбербанк в настоящее время ведет активную работу по созданию системы генерации автоматических ответов на типичные заявления клиентов банка на базе искусственного интеллекта. В этой работе видится большая перспектива, поскольку внедрение подобных систем будет способствовать высвобождению значительного количества человеческих ресурсов, а также оптимизации затрат компании.

Естественно, в принципе заменить человека искусственный интеллект не может, поскольку не рассчитан на решение нестандартных ситуаций с учетом сугубо человеческих свойств – совесть, справедливость, милосердие и пр. Хотя ведущие разработчики в сфере искусственного интеллекта серьезно заявляют о том, что загруженные базы данных (законодательство, судебная практика, доктринальные источники) для нейронных сетей позволят искусственному интеллекту сформулировать и применить принципы права. Основываясь на результатах эксперимента по анализу решений ЕСПЧ искусственным интеллектом, американские исследователи полагают, что он способен предсказывать решения судов. В 79% случаев искусственный интеллект смог предсказать решение ЕСПЧ на основе изучения материалов дела. В России ряд крупных корпораций тестирует нейронные сети на предмет выполнения искусственным интеллектом тех же видов работы, что и профессиональные юристы. В рамках Петербургского юридического форума 2018 года состоялось состязание нейронной сети и юриста-практика [7].

Подводя итог вышесказанному, следует отметить, что в настоящее время большинство научных публикаций, посвященных правовому статусу и правосубъектности роботов, представляют собой, преимущественно, описания абстрактных теоретических моделей и позиционируются как, своего рода, приглашение к дискуссии. Предвосхищая развитие техники и технологии, исследователи стараются разработать юридические решения, которые должны быть востребованы в ближайшем будущем. Особым обстоятельством, обуславливающим многообразие подходов к правовому регулированию отношений с участием роботов, является тот факт, что нигде в мире еще не существует закона, комплексно регулирующего подобные отношения. В мировой юридической практике также не сложилось универсальных эталонных подходов к правоприменению.

Не отрицая того факта, что в настоящий момент идея о наделении объектов робототехники свойствами субъекта права выглядит весьма поспешной и совершенно непроработанной, следует констатировать, что сама концепция правосубъектности прошла значительный путь развития. Представляется, что ее дальнейшая эволюция будет неминуемо идти в направлении расширения круга субъектов правоотношений, к числу которых могут быть отнесены и роботы. Перед законодателем РФ в настоящее время стоит актуальная и очень непростая задача выбора подхода к правовому регулирования отношений с участием роботов, который определит путь развития всего законодательства о робототехнике в РФ.

References
1. Baranov P.P. Pravovoe regulirovanie robototekhniki i iskustvennogo intellekta v Rossii: nekotorye podkhody k resheniyu problemy // Severo-kavkazskii yuridicheskii vestnik. – 2018. – №1. – S. 39-45.
2. Rezolyutsiya Evroparlamenta ot 16 fevralya 2017 g. «Normy grazhdanskogo prava o robototekhnike» № P8_TA-PROV(2017)0051 [Elektronnyi resurs]. URL: http://robotrends.ru/images/1725/66137/201706722_Resolution_and_Charter_EU_RoboTrendsru.pdf (data obrashcheniya – 01.03.2019).
3. GOST 34.003-90. Mezhgosudarstvennyi standart. Informatsionnaya tekhnologiya. Kompleks standartov na avtomatizirovannye sistemy. Avtomatizirovannye sistemy. Terminy i opredeleniya / M.: Standartinform, 2009. – 15 c.
4. Prikaz Mintruda Rossii ot 29.10.2015 N 799n «Ob utverzhdenii professional'nogo standarta "Operator demontazhnykh robotov dlya rabot v vysokikh radiatsionnykh polyakh"» // Ofitsial'nyi internet-portal pravovoi informatsii http://www.pravo.gov.ru, 18.11.2015.
5. GOST R ISO 8373–2014 «Roboty i robototekhnicheskie ustroistva. Terminy i opredeleniya». // M.: Standartinform, 2015. – 16 s.
6. Vozdushnyi kodeks Rossiiskoi Federatsii ot 19.03.1997 N 60-FZ // SZ RF. – 1997. – № 12. – St. 1383.
7. Vasil'ev A.A., Shpopper D., Mataeva M.Kh. Termin "iskusstvennyi intellekt" v rossiiskom prave: doktrinal'nyi analiz // Yurislingvistika. – 2018. – №7-8. – S. 35-44.
8. Arkhipov V.V., Naumov V.B. Iskusstvennyi intellekt i avtonomnye ustroistva v kontekste prava: o razrabotke pervogo v Rossii zakona o robototekhnike // Trudy SPIIRAN. – 2017. – №6. – S. 46-62.
9. Richards N.M., Smart W.D. How Should The Law Think About Robots? [Elektronnyi resurs]. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2263363 (data obrashcheniya: 01.03.2019).
10. Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Version 2 / The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems [Elektronnyi resurs]. URL: https://standards.ieee.org/develop/indconn/ec/ead_law.pdf (data obrashcheniya: 01.03.2019)
11. Gushchin V.V. Ponyatie i klassifikatsiya yuridicheskikh lits // Sovremennyi yurist. № 3. 2015. S. 20–28.
12. Indiiskii sud priznal reki Gang i Yamuna zhivymi sushchestvami [Elektronnyi resurs]. URL: https://lenta.ru/news/2017/03/21/hindu_rivers (data obrashcheniya: 01.03.2019).
13. New Zealand river granted same legal rights as human being // The Guardian [Elektronnyi resurs]. URL: https://www.theguardian.com/world/2017/mar/16/new-zealandriver-granted-same-legal-rights-as-human-being (data obrashcheniya: 01.03.2019).
14. Asaro P.M. Robots and Responsibility from a Legal Perspective. [Elektronnyi resurs]. URL: http://www.roboethics.org/icra2007/contributions/ASARO%20Legal%20Perspective. pdf (data obrashcheniya 01.03.2019).
15. Balkin J.B. The Path of Robotics Law [Put' razvitiya pravovogo regulirovaniya robotov] // California Law Review. – 2015, June. – Vol. 6. – P. 45–60.
16. Morkhat P.M. Iskusstvennyi intellekt: pravovoi vzglyad: Nauchnaya monografiya / ROO «Institut gosudarstvenno-konfessional'nykh otnoshenii i prava». – M.: Buki Vedi, 2017. – 257 s.
17. Morkhat P.M. Pravo intellektual'noi sobstvennosti i iskusstvennyi intellekt: Nauch. monografiya. M.: Yuniti-Dana, 2018. – 121 s