В связи с частыми изменениями в законодательстве, информация на данной странице может устареть быстрее, чем мы успеваем ее обновлять!
Eсли Вы хотите найти правильное решение именно своей проблемы, задайте вопрос нашим юристам прямо сейчас.

Кто в ответе за аварию беспилотного автомобиля и за гибель в ней человека? Как квалифицировать отношения людей с участием машин и отношения машин без участия человека? Где границы реального и виртуального миров? Вытеснят ли роботы людей с рынков труда? Наверняка вы задавали себе эти вопросы.

С каждым годом автомобили становятся все умнее. Сегодня они умеют не только распознавать препятствия и принимать решения за водителя, но и управлять без участия водителя. Электрокары от американской компании Tesla впереди планеты всей предоставили водителям возможность беспилотного управления. Но и традиционные автомобили не отстают за трэндом - так, в новом Volvo XC40 реализовано множество систем для автономного управления, а к 2022 году корпорация Volvo пообещала внедрить автопилот как стандартную опцию на все выпускаемые автомобили. Соответственно, перед юристами встает вопрос об ответственности в случае эксплуатации транспортного средства на автопилоте.

 

Суть проблемы регулирования использования умных машин


Ряд стран (США, Европейский союз) предпринимают попытки нормативно-правового регулирования робототехники. Пока такие попытки ограничиваются либо регулированием узких сфер (беспилотный транспорт, медицина, доставка товаров), либо разработкой правовых концепций и общих подходов. В рамках некоторых из них роботов наделяют особым статусом электронной личности или робота-агента, которые предполагают определенный набор прав, обязанностей, оснований ответственности.

В основе этого то, что в ХХI веке роботы — это не только механические помощники человека, которые освободили его от тяжелого физического труда. Благодаря способности принимать решения и внедрять их независимо от внешнего влияния и контроля, роботы перестают быть простыми инструментами в руках человека. Интеллект, автономность и самообучаемость современных роботов ставят вопрос: нужно ли относить их к индивидуальным лицам, юридическим лицам, животным или предметам или нужно создать новую категорию?

Разработка «права машин» должна проходить в рамках тесного междисциплинарного взаимодействия юристов и специалистов самых разных областей знаний: IT-технологий, техники, математики, кибернетики, психологии, нейрофизиологии, социологии, философии, биологии и прочих наук. Только таким образом будет возможно создать жизнеспособную систему правовых норм, которая должна оградить человечество от непредсказуемых последствий развития искусственного интеллекта, но в то же время способствовать научно-техническому прогрессу.

По прогнозам футуролога Рэймонда Курцвейла, законы, которые регулируют отношения людей и роботов, появятся в США и в Европе в 2022 году. Какими будут законы завтра, юристы решают сегодня.

Концепция «Умный робот»

Юридическое определение «умный робот» — первая задача, с которой сталкиваются эксперты при разработке понятийного аппарата. Стоит отметить, что в сфере технического регулирования понятие «разумный робот» широко применяется. В 2012 году Международная организация по стандартизации (International Organization for Standardization, ISO) утвердила международный стандарт ИСО 8373:2012 «Роботы и роботизированные устройства. Термины и определения» (ISO 8373:2012 «Robots and robotic devices. Vocabulary»).

Никола Тесла еще в позапрошлом веке писал, что для разумного поведения автомата требуется «элемент, соответствующий мозгу, который бы управлял всеми его движениями и функциями, побуждал бы его действовать в любом непредвиденном случае, который может представиться, со знанием, разумом, суждением и опытом». Сегодня таким элементом является программная начинка робота — совокупность технических и программных средств (база знаний, решатель задач и интеллектуальный интерфейс), которые являются признаком интеллектуальности системы.

Из этого следуют два важных вывода. Во-первых, основной фокус внимания права в сфере регулирования робототехники необходимо направить на программную составляющую умного робота, то есть на сферу программирования. Во-вторых, предметом правового регулирования должны стать отношения с участием умных машин, функционал или сбои в работе которых могут быть опасными для людей, угрожать общественным и государственным интересам.

В связи с этим под умными роботами следует понимать интеллектуальные системы, умные программы и иные аналогичные категории, которые составляют программный интеллект робота, способный самостоятельно принимать решения и выбирать модель своего поведения. Физическая оболочка робота факультативна и может определять особенности правового регулирования среды (сферы), в которой он функционирует (например, правила о движении беспилотного автотранспорта по выделенным дорогам, ограничения по грузоподъемности летательных аппаратов-курьеров и т. д.).

Ученые расходятся во мнениях о перспективах создания в ближайшем будущем искусственного интеллекта, который будет равен человеческому. Но уже сегодня существуют программы, которые способны частично воспроизводить интеллектуальную деятельность человека. В их числе системы распознавания речи и текстов; проверки грамматики; переводчики; поисковые системы в сети Интернет. Сначала программы научились складывать числа, затем — бесконечные числа. В 1997 году компьютер Deep Blue победил в шахматах Гарри Каспарова, а в марте 2016 года программа AlphaGo победила в игре го Ли Седоля.

В узкофункциональных задачах программы давно превзошли человека. За миллисекунды они обрабатывают колоссальные объемы информации, которую человеческий мозг обработать не в состоянии. Но мозг человека — это «биологический компьютер», у которого другие задачи. Его главная забота — выживание человеческого вида и конкретного человека.

И в этом, по мнению американского нейробиолога, профессора в области религиоведения Эндрю Ньюберга, принципиальное отличие «мозга» робота от мозга человека. Человеческий мозг способен собрать «миллиарды битов разрозненных данных в единое, динамичное и устойчивое представление о „мире“, в котором может целенаправленно и безопасно передвигаться отдельный организм».

Мозг робота не способен так гибко следить за изменениями реального мира и адаптироваться под них. Даже минимальные изменения в окружающей действительности для робота тотальны — для него появляется совершенно незнакомая реальность, с которой каждый раз надо учиться обращаться заново. В таком контексте самообучаемость робота можно определить как способность переносить опыт «старого» мира в мир «новый», что позволит его реальности плавно перетекать из одного момента в другой.

Когда это случится, к роботу придет сила. Поэтому вопрос о юридической природе умных роботов (субъект, объект правоотношений, иное) из философских переходит в категорию первостепенных вопросов государственной значимости. При этом рассматривать его следует исключительно с позиции человека как высшей ценности (принцип гуманизма). Это должно быть отправной точкой любой концепции при создании «права машин».

Концепция «Робот-субъект»

 

Из истории мы знаем примеры, когда человек не признавался субъектом права. В рабовладельческих обществах рабы рассматривались как вещь. Некое подобие правоспособности и дееспособности признавалось за рабами, когда это было необходимо в интересах их хозяев. Для таких целей создавались юридические фикции. Например, раб рассматривался как приобретательный орган или как орудие, которое обладает даром речи.

Известны и обратные конструкции, когда субъектом права является не человек, а юридическая сущность — юридическое лицо. Ряд авторов предлагают использовать теорию юридической фикции, которая заложена в основу статуса юридических лиц, для обоснования частичной правосубъектности роботов.

Со времен Древнего Рима юридические лица действительно стали привычным участником общественных отношений. Их правовой статус не оспаривается. Как объединение людей, капитала, трудовых ресурсов юридическое лицо прошло долгий путь эволюции, обусловленный историческими, экономическими, политическими предпосылками на определенном этапе развития человеческого общества.

Правосубъектность юридического лица по своему содержанию соответствует целям и задачам деятельности юридического лица, которые чрезвычайно разнообразны. На первый взгляд, в этом контексте аналогия правосубъектности юридического лица и робота видится возможной.

Специальная правосубъектность робота могла бы определяться его предназначением, сферой применения и возможностями программно-технического функционала. Иными словами, появилась бы «функциональная» правосубъектность.

Очевидно, что для робота-беспилотника, робота-учителя и робота, заключающего сделки, она должна быть разной. Но для правового регулирования такой правосубъектности потребуется огромное количество правовых норм, определяющих правомочия и ответственность роботов в зависимости от их вида, функций и сфер. Это, вероятно, повлечет неоправданное «раздутие» права. Кроме того, применение аналогии с юридическими лицами потребует пересмотра фундаментальных правовых институтов, подходов и принципов, что особенно очевидно в контексте робота как самостоятельного ответчика.

Вред, который робот способен причинить, может быть как имущественным, так и физическим (личным). Если инструменты возмещения имущественного вреда возможно найти (например, закрепленный за роботом лицевой счет, страхование ответственности роботов), то вопрос об ответственности робота-субъекта за физический (личный) вред остается открытым.

В концепции юридического лица, ответственность которого по большей части имущественная, данный вопрос решается за счет административной или уголовной ответственности лиц, которые непосредственно виновны в причинении физического вреда (например, смерти людей в пассажирских перевозках).

Это позволяет восстановить социальную справедливость и предупредить нарушение закона. Признание робота самостоятельным имущественным ответчиком без комплексного правового регулирования ответственности за его действия выглядит как основание освобождения от ответственности виновных лиц. С точки зрения законности оно крайне спорно. Реализация такого подхода создаст почву для злоупотреблений и «подрыва» общественной безопасности.

В связи с этим обоснование правосубъектности для робота не должно строиться исключительно на гипотетической возможности частичной аналогии с другим субъектом права. Статус субъекта права должен базироваться на совокупности многих факторов и условий, таких как: объективная необходимость, экономическая целесообразность, последствия предоставления статуса, социальные настроения, техническая готовность, вопросы безопасности, сохранение духовных устоев, соблюдение основополагающих принципов права.

Наделение роботов правами даже в усеченном варианте лишено объективных предпосылок. Если при разработке нормативно-правового регулирования этого не учитывать, революции в праве не избежать. В свою очередь, это запустит процесс конкуренции между человеком и машиной, победителя в которой предсказать невозможно. Не слишком ли велика цена для правового эксперимента?

Робот — объект с элементами интеллекта

Основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «самым большим риском, с которым мы (человечество) сталкиваемся как цивилизация» (журнал Fortune, июль 2017). Он призвал правительства вмешаться в ситуацию, сложившуюся в технологической отрасли.

Выбранные сегодня подходы правового регулирования в прямом смысле определят дальнейшую судьбу человечества. С этих позиций охранительная функция права приобретает ключевое значение. Наилучшим образом она реализуется в рамках концепции робота-объекта.

В текущем гражданско-правовом регулировании умный робот может выступать в нескольких статусах — как предмет товарооборота (вещь), объект авторских прав (программа), источник повышенной опасности (потенциально опасная вещь). Однако действующие нормы права не учитывают, что умный робот своими «целенаправленными» действиями способен создавать юридически значимые права и обязанности для других лиц. Также не регулируются связанные с этим последствия. Например, недействительность сделки, заключенной программой.

В рамках предлагаемой концепции действия умного робота считаются совершенными его владельцем/пользователем и в их интересах. За роботом всегда должно стоять лицо, которое способно быть реальным ответчиком в зависимости от вида и степени тяжести причиненного вреда. При этом владелец/пользователь робота несет риски такого владения и пользования в соответствии с правилами приобретения и эксплуатации робота.

Такие риски должны минимизироваться законодательными ограничениями по созданию и программированию роботов для неправомерных целей. Проблема возмещения вреда, включая личный, в результате сбоя в работе робота решается за счет разграничения ответственности разработчиков робота, программистов, продавцов, владельцев в зависимости от «точки сбоя».

Реализация данной концепции не потребует революции в праве. Нужна реформа. Изменения должны коснуться норм о возникновении прав и обязанностей, положений об обязательствах и сделках, возмещении вреда и прочих институтов.

Безусловно, поправок в Гражданский кодекс будет недостаточно. Требуется разработка концепции специального законодательства о программировании умных роботов. В новом законодательстве необходимо определить правила создания, эксплуатации, особенности оборота умных роботов, а также основные принципы, методы и пределы правового регулирования.


Получите за 15 минут консультацию юриста!