Preview

Цифровое право

Расширенный поиск

Место искусственного интеллекта среди элементов состава правоотношения

https://doi.org/10.38044/2686-9136-2020-1-4-74-83

Полный текст:

Аннотация

Развитие искусственного интеллекта вызывает необходимость правового регулирования общественных отношений, связанных с применением новых технологий. На сегодняшний день в российском законодательстве отмечается фрагментарное нормативное регулирование, выраженное, как правило, в стратегических документах, где технологии искусственного интеллекта отражаются как сквозные, способствующие развитию цифровой экономики.
Цель настоящей работы — определение места искусственного интеллекта среди элементов состава правоотношения, что видится необходимым для построения модели правового регулирования искусственного интеллекта.
В статье проведен анализ подходов к определению места искусственного интеллекта в структуре правоотношения. Научная дискуссия состоит в том, что одни авторы относят искусственный интеллект к разновидности объектов правового регулирования; другие авторы допускают возможность рассматривать искусственный интеллект в качестве специфического субъекта права.
В результате проведенного исследования авторы приходят выводу о том, что на сегодняшний день искусственный интеллект следует относить к разновидности объектов правового регулирования.
В заключение работы также дается оценка возможности и меры участия искусственного интеллекта в юридической деятельности. В настоящее время когнитивный потенциал искусственного интеллекта еще не достиг того уровня развития, который позволил бы ему повторить мыслительные процессы юриста при решении правового спора. Вместе с тем, искусственный интеллект имеет колоссальный потенциал стать незаменимым технологичным «помощником» юриста, способствующим улучшению качества и эффективности оказания юридических услуг.

Введение

В современных теоретико-правовых исследованиях активно обсуждаются проблемы правового регулирования общественных отношений, связанных с разработкой, производством и применением искусственного интеллекта.

Вместе с тем, разработка единого доктринального подхода к определению понятия и сущности искусственного интеллекта осложняется многогранностью изучаемого явления.

Так называемая парадигма «думай — действуй» отличает искусственный интеллект от других технологий (Calo, 2015), поэтому искусственный интеллект следует рассматривать через призму высокотехнологичной системы, оснащенной способностями ощущать, обрабатывать и оказывать воздействие на внешний мир.

Вместе с тем, физическое воплощение искусственного интеллекта в сочетании с автономностью действий придает роботам социальную валентность. Тем самым, наблюдается трансформация термина «искусственный интеллект» от технического к социально-ориентированному содержанию.

Эффект настолько систематичен, что команда выдающихся психологов и инженеров выдвинула аргумент в пользу новой онтологической категории для искусственного интеллекта, определяющей место искусственного интеллекта где-то между объектом и живым агентом (Calo, 2015).

Таким образом, проблема определения места искусственного интеллекта в социальном пространстве бросает вызов сложившимся правовым институтам.

В этой связи, целью работы стало выявление особенностей искусственного интеллекта как объекта правового регулирования и как субъекта права.

Практическая значимость обусловлена возможностью использовать полученные результаты исследования для совершенствования механизмов правового регулирования искусственного интеллекта в Российской Федерации.

Методология и результаты исследования

Теоретической основой исследования послужили труды отечественных и зарубежных ученых, посвященные анализу искусственного интеллекта как субъекта права и объекта правового регулирования, позволившие провести сравнительное исследование литературы, а также анализ программных и стратегических документов по изучаемому вопросу.

Появление искусственного интеллекта как научного явления произошло во второй половине ХХ века. Впервые термин был озвучен Джоном Маккарти на рабочей американской конференции в 1956 году, поэтому Джона Маккарти по праву можно назвать отцом-основателем сферы искусственного разума, наряду с Марвином Ли Минским, Алленом Ньюэллом, Гербертом Саймоном, Клодом Шенноном, Аланом Тьюрингом и другими (Larina & Ovchinskij, 2018).

Исторически первым подходом к определению понятия искусственного интеллекта можно назвать тест Алана Тьюринга, в соответствии с которым программное устройство следует считать искусственным интеллектом, если при общении с компьютером посредством анонимного канала связи нельзя понять, с кем идет беседа — с человеком или машиной.

В этой связи, первоначально правовое регулирование искусственного интеллекта обеспечивалось совокупностью технологических норм, регулирующих рациональное использование новых технологий.

Прогрессивное развитие технологии искусственного разума обусловило появление второго подхода к определению понятия «искусственный интеллект», в соответствии с которым отличительным критерием искусственного интеллекта является его способность к автономным действиям и самосовершенствованию.

Возможности автономного принятия решений искусственным интеллектом и их последующей реализации обусловили выход сферы искусственного разума за границы технологических норм и вызвали необходимость формирования комплекса дополнительных правовых норм для рационального применения и использования технологии.

Легальное определение понятия «искусственный интеллект» закреплено в Национальной стратегии развития искусственного интеллекта на период до 2030 года (далее — Национальная стратегия), утвержденной Указом Президента Российской Федерации от 10.10.2019 № 490.

Согласно Национальной стратегии искусственный интеллект — это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений1.

Итак, к признакам искусственного интеллекта относятся: наличие технического устройства; способность к принятию, обработке и передаче информации; способность к автономной работе; самообучение на основе анализа информации и приобретенного опыта; способность к принятию самостоятельных решений (Vasil’ev & Shpoper, 2018).

Несмотря на некоторые преобразования в части стратегического нормотворчества, комплексное правовое регулирование искусственного интеллекта пока не выработано. Вероятно, сложность вызвана неопределенностью, связанной с отнесением искусственного интеллекта к объектам правового регулирования или субъектам права.

При рассмотрении искусственного интеллекта в рамках исторически первого подхода, иными словами, как инновационного технического средства, его следует относить к объектам правового регулирования, на которые воздействует право.

Учитывая второй подход, подчеркивающий способность искусственного разума к самостоятельному принятию решений, искусственный интеллект может рассматриваться как субъект права, способный реализовывать субъективные права и осуществлять юридические обязанности. Специалисты-правоведы, изучающие искусственный интеллект, склонны именовать его либо специфическим объектом права, либо квази-субъектом права.

Исходя из вышесказанного, искусственный интеллект нельзя в полной мере относить ни к объектам, ни к субъектам права. Иным словами, искусственный интеллект уже нельзя считать классическим объектом правового регулирования, но еще нельзя рассматривать как полноценный субъект права по следующим причинам:

1. Традиционная концепция о субъектах права исходит из того, что участниками правоотношений являются физические и юридические лица.

2. Попытки сравнения искусственного интеллекта с физическими лицами не выдерживают критики с точки зрения физиологии.

3. Когнитивные способности искусственного интеллекта весьма ограничены в сравнении с человеческими функциями мозга.

Несмотря на то, что искусственная нейронная сеть построена по принципу функционирования нервных клеток живого организма, она значительно уступает строению биологической нейронной сети по количеству слоев нейронов. Также в искусственных нейронных сетях слои нейронов срабатывают последовательно; в человеческом мозге обмен информацией между нейронами идет параллельно и асинхронно. Именно поэтому попытки полноценного замещения человеческого мозга искусственным интеллектом несостоятельны, т. к. искусственная нейросеть всегда будет подобием, не способным повторить оригинала.

Ввиду того, что юридические лица являются субъектами права фиктивно, по аналогии с ними искусственный интеллект может также обладать некоторыми признаками субъекта права. Например, иметь регистрацию и учетный номер, обладать производственно-хозяйственной компетенцией, соответствующей целям его деятельности; обладать материальной ценностью; его можно привлечь к юридической ответственности (например, в виде принудительного отключения или доработки программы, а также утилизации) (Laptev, 2019).

Такая аналогия предвосхищает идею того, что искусственный интеллект вполне обоснованно можно рассматривать как очередную юридическую фикцию, созданную в целях упрощения правового регулирования.

В научной литературе предлагается самостоятельный термин, обозначающий искусственный интеллект как субъекта права — «электронное лицо» — и являющийся исключительно юридической формулировкой, а не биоэтической или философской констатацией (Morhat, 2018).

Однако указанная позиция поддерживает интересы разработчиков искусственного интеллекта, освобождая их от социальной и юридической ответственности за последствия своих разработок (Cukanova & Skopenko, 2018). Кроме того, в отличие от нематериального юридического лица, искусственный интеллект материален (если речь идет о роботах, беспилотных автомобилях) или закреплен на материальных носителях — компьютерах (если речь идет о программах).

В научной литературе получил распространение термин «квази-субъект» права, под которым понимается субъект права, не обладающий полноценной правосубъектностью (Golubcov, 2019). Некоторые авторы относят к разновидности квази-субъектов публично-правовые образования (Andreev, 2005). Однако даже для квази-субъектов права характерно наличие такого качества правосубъектности как воля, которой искусственный интеллект не обладает.

Итак, способность к самообучению и автономной деятельности не является достаточным основанием для наделения искусственного интеллекта правосубъектностью. Следует отметить, что с позиции гражданского законодательства к животным применяются общие правила об имуществе, несмотря на их высокие когнитивные способности, возможности самообучения и самосовершенствования.

Таким образом, в ближайшее время искусственный интеллект следует рассматривать в качестве объекта права согласно положениям ст. 128 Гражданского кодекса РФ (далее — ГК РФоб объектах гражданских прав2.

По аналогии со ст. 1079 ГК РФ ответственность за деятельность, связанную с применением искусственного интеллекта, должны нести лица, использующие искусственный интеллект как объект повышенной опасности.

В случае встроенного дефекта или программирования с ошибкой в коде ответственность в порядке регресса может быть возложена на производителя или разработчика искусственного интеллекта.

Дискуссия

В научной литературе отсутствует однозначная позиция в решении проблемы места искусственного интеллекта в социальном пространстве.

С одной стороны, нельзя игнорировать концептуальные и практические аргументы в пользу статуса искусственного интеллекта, сравнимого со статусом физического лица. С другой стороны, признание искусственного интеллекта субъектом права посягает на исключительный статус человека. Поэтому идеальным решением может быть статус «на полпути» или «между ними».

Примером такого «решения на полпути» может служить концепция Teilrechtsfähigkeit из гражданского права Германии, под которой понимается частичная правоспособность. Так, применение концепции Teilrechtsfähigkeit к искусственному интеллекту одновременно отразит автономность искусственного интеллекта и заполнит большую часть «пробелов ответственности» без негативных побочных эффектов для человека (Schirmer, 2019).

В. А. Шестак и А. Г. Волеводз также проводят анализ идеи наделения правосубъектностью искусственный интеллект и указывают следующие признаки «разумности» роботов: умение анализировать данные; способность адаптировать свое поведение; автономия и возможность самообучения (Shestak & Volevodz, 2019).

Вместе с тем, авторы подтверждают правовую необоснованность признания искусственного интеллекта субъектом права ввиду того, что искусственный интеллект не является носителем критически важных составляющих личности (души, свободного сознания, чувств, интенциональности, личных интересов). Поэтому, несмотря на сверхмощную скорость обработки информации, в разы превосходящую возможности человека, искусственный интеллект остается программой с привязанным к ней материально техническим обеспечением (Shestak & Volevodz, 2019) .

В научной литературе нередко освещается идея отнесения искусственного интеллекта к объектам правового регулирования по аналогии с правовым режимом, предусмотренным для животных.

Так, например, А. В. Малышкин допускает возможность внесения изменений в гражданское законодательство в части предоставления права требования компенсации морального вреда за уничтожение человекоподобных роботов, наделенных искусственным интеллектом, если будет доказано, что между человеком и человекоподобным роботом существовала сильная эмоциональная связь и утрата робота повлекла переживания человека, либо существенно ухудшила условия его жизни (например, слепой человек лишился робота-поводыря) (Malyshkin, 2019).

Среди альтернативных позиций по поводу характеристики термина «искусственный интеллект» следует отметить версию, согласно которой искусственный интеллект может рассматриваться как еще одна Вавилонская башня, иными словами, еще один пример попытки человечества узурпировать положение Бога в мире (Campbell & Garner, 2016).

На наш взгляд, идея поглощения искусственным интеллектом внутреннего мира человека и превращения в глобальный объект поклонения является безосновательно преувеличенной. Вместе с тем, эта идея подчеркивает правовые риски, возникающие при разработке искусственного интеллекта, и важность моральной ответственности инженеров-робототехников, изначально вынужденных создавать роботов с учетом этических норм и правил (Asaro, 2007).

Следует отметить, что полемика о правовой сущности искусственного интеллекта не ограничивается дискуссией о наделении искусственного интеллекта правосубъектностью (Begishev et al., 2020).

Мощный когнитивный потенциал искусственного интеллекта позволяет говорить о технической возможности делегирования юридических задач искусственному интеллекту.

С одной стороны, кодирование правовой информации не может точно передать богатство и неоднозначность юридических категорий (таких, например, как «справедливость», «вина» и др.). Более того, сами юристы не всегда могут точно сформулировать методы и мыслительные процессы, сопровождающие их деятельность. Поэтому юристы, которые не привыкли к строгим требованиям языка программирования, будут разочарованы разрывом между тем, что они хотят сказать, и тем, что им позволяет сказать язык программирования. С этой точки зрения делегирование работы юриста компьютеру выглядит крайне проблематичным (Buchanan & Headrick, 1970).

С другой стороны, процесс принятия юридического решения проходит конкретные стадии: определение юридической задачи, установление фактического состава, юридическая квалификация (соотнесение фактического состава с юридической нормой), поиск аналогий. В этой связи, данный процесс подчиняется определенным алгоритмам, которые позволяют моделировать и переносить на язык программирования различные виды юридической деятельности, способствуя тем самым созданию логической, недвусмысленной, последовательной и стабильной правовой системы (Buchanan & Headrick, 1970).

Кроме того, ввиду способности молниеносно анализировать, сопоставлять, обрабатывать массивы информации, оставаться беспристрастным и сохранять нейтралитет, имея безупречную репутацию, (Gadzhiev, 2018) искусственный интеллект, выступающий в качестве судьи, представляется идеалом правосудия, выраженного в цифровой объективности (Zaplatina, 2019).

Вместе с тем, видится, что запрограммированное единственно верное юридическое решение, исключающее возможность альтернативы, не является справедливым. Категория справедливости неоднозначна и в каждом конкретном случае имеет специфическое содержание, которое пока еще не верифицируется компьютерными технологиями.

Закон должен быть относительно стабилен во времени, в то время как регулируемые им общественные отношения динамичны и изменчивы, как изменчива и оценка этих отношений. Поэтому участие человека в разрешении правовых споров необходимо рассматривать как социально-оправданный элемент творческой деятельности юриста.

Таким образом, проведенный анализ различных точек зрения подтверждает вывод о том, что искусственный интеллект следует рассматривать не в качестве самостоятельного субъекта, автономно принимающего юридические решения, а в качестве объекта — технологии, способствующей снижению технической нагрузки на юриста.

Так, например, новые технологии уже сейчас значительно упрощают поиск судебной практики и нормативного материала для формирования правовой позиции по делу или вынесения решения. Для действующей системы судопроизводства в перспективе видится возможным, безболезненным и эффективным автоматизировать вынесение стандартных определений суда об оставлении искового заявления без движения в случае несоответствия формальным критериям, об отложении судебного заседания, судебных решений в рамках приказного или упрощенного производства.

По состоянию на сегодняшний день онлайн-платформы ГАС «Правосудие» и «Мой Арбитр» при некоторых технологических усовершенствованиях и под чутким контролем специалистов позволяют провести подобные эксперименты автоматического формирования стандартных определений или решений суда в рамках гражданского или административного судопроизводства.

Заключение

Развитие искусственного интеллекта требует преобразования правового регулирования общественных отношений, связанных с его участием (Cherkasov, 2017).

Искусственный интеллект представляет собой программно-вычислительный комплекс, функционирующий посредством заранее заданного алгоритма со встроенной способностью к самообучению, в связи с чем, позволяющий имитировать когнитивные функции человека и автономно выполнять конкретные задачи или производить результаты, сопоставимые с интеллектуальной деятельностью человека.

Выявили следующие юридически значимые признаки искусственного интеллекта:

  • опосредованное функционирование с использованием технического устройства;
  • способность к самообучению;
  • способность автономно вырабатывать интеллектуальные решения и реализовывать их.

Модель правового регулирования искусственного интеллекта напрямую зависит от определения места искусственного интеллекта среди элементов правоотношения.

Проблема отнесения искусственного интеллекта к субъекту или объекту правоотношения является дискуссионной в юридической науке (Somenkov, 2019).

На основе проведенного исследования, авторы приходят к выводу о том, что относить искусственный интеллект к разновидности субъектов правоотношения преждевременно и нецелесообразно.

В этой связи, следуя логике теории правоотношений, искусственный интеллект по состоянию на сегодняшний день следует относить к объектам правового регулирования.

Стремительное развитие и усовершенствование искусственного интеллекта не гарантирует продолжительного существования указанной точки зрения. Вместе с тем, даже сверхмощный и усовершенствованный искусственный разум является максимально упрощенной моделью созданного миллионами лет эволюции человеческого мозга. Поэтому сопоставление искусственного интеллекта с человеком недопустимо ни с точки зрения физиологии, ни с точки зрения юриспруденции.

Вопрос об отнесении искусственного интеллекта к конкретной разновидности объектов права остается дискуссионным. Одни авторы предлагают относить искусственный интеллект к интеллектуальной собственности по аналогии с программами для электронных вычислительных машин. Другие авторы склонны применять к искусственному интеллекту (роботу) общие правила об имуществе по аналогии с животными (Laptev, 2019).

Таким образом, остаются актуальными существующий пробел в праве и необходимость дальнейшего исследования проблем правового регулирования искусственного интеллекта.

 

1. Указ Президента РФ № 490 «О развитии искусственного интеллекта в Российской Федерации» (2019). http://www.consultant.ru/document/cons_doc_LAW_335184/

2. Гражданский кодекс Российской Федерации (часть первая) № 51-ФЗ (в ред. 21.05.2020) (1994). http://www.consultant.ru/document/cons_doc_LAW_5142/f7871578ce9b026c450f64790704bd48c7d94bcb/

Список литературы

1. Calo, R. (2015). Robotics and the lessons of cyberlaw. California Law Review, 103(3), 513–563.

2. Larina, E. S., & Ovchinskij, V. S. (2018). Iskusstvennyj intellekt. Bol’shie dannye. Prestupnost’ [Artificial intelligence. Big data. Crime]. Knizhnyj mir.

3. Vasil’ev, A. A., & Shpoper, D. (2018). Iskusstvennyj intellekt: Pravovye aspekty [Artificial intelligence: Legal aspects]. Izvestia ASU, 6(104), 23–26. https://doi.org/10.14258/izvasu(2018)6-03

4. Laptev, V. A. (2019). Ponyatie iskusstvennogo intellekta i yuridicheskaya otvetstvennost’ za ego rabotu [The concept of artificial intelligence and legal responsibility for its work]. Pravo. Zhurnal Vysshey Shkoly Ekonomiki, (2), 79–102. https://doi.org/10.17323/2072-8166.2019.2.79.102

5. Morhat, P. M. (2018). K voprosu o pravosub”ektnosti “elektronnogo lica” [On the issue of legal personality of an “electronic person”]. Legal Studies, (4), 1–8. https://doi.org/10.25136/2409-7136.2018.4.25647

6. Cukanova, E. Yu., & Skopenko, O. R. (2018). Pravovye aspekty otvetstvennosti za prichinenie vreda robotom s iskusstvennym intellektom [Legal aspects of liability for harm caused by a robot with artificial intelligence]. Voprosy Rossijskogo i Mezhdunarodnogo Prava, 8(2А), 42–48.

7. Golubcov, V. (2019). Rossijskaya Federaciya kak sub”ekt grazhdanskogo prava [The Russian Federation as a subject of civil law]. Statute.

8. Andreev, Yu. N. (2005). Uchastie gosudarstva v grazhdansko-pravovyh otnosheniyah [Participation of the state in civil law relations]. Yurid. Centr Press.

9. Schirmer, J.–E. (2019). Artificial intelligence and legal personality: Introducing “Teilrechtsfähigkeit”: A partial legal status made in Germany. Regulating Artificial Intelligence, 123–142. https://doi.org/10.1007/978-3-030-32361-5_6

10. Shestak, V. A., & Volevodz, A. G. (2019). Sovremennye potrebnosti pravovogo obespecheniya iskusstvennogo intellekta: Vzglyad iz Rossii [Modern requirements of the legal support of artificial intelligence: A view from Russia]. Russian Journal of Criminology, 13(2), 197–206. https://doi.org/10.17150/2500-4255.2019.13(2).197-206

11. Malyshkin, A. V. (2019) Integrirovanie iskusstvennogo intellekta v obshchestvennuyu zhizn’: Nekotorye eticheskie i pravovye problemy [Integration of artificial intelligence into public life: Some ethical and legal problems]. Vestnik of Saint Petersburg University. Law, 10(3), 444–460. https://doi.org/10.21638/spbu14.2019.303

12. Campbell, H. A., & Garner, S. (2016). Networked theology: Negotiating faith in digital culture. Baker Academic.

13. Asaro, P. (2007). Robots and responsibility from a legal perspective. Proceedings of the IEEE, 4(14), 20–24.

14. Begishev, I. R., Latypova, E. Yu., & Kirpichnikov, D. V. (2020). Iskusstvennyj intellekt kak pravovaya kategoriya: Doktrinal’nyj podhod k razrabotke definicii [Artificial intelligence as the legal category: Doctrinal approach to developing the definition]. Aktual’nye Problemy Ekonomiki i Prava, 14(1), 79–91. https://doi.org/10.21202/1993-047X.14.2020.1.79-91

15. Buchanan, B. G., & Headrick, T. E. (1970). Some speculation about artificial intelligence and legal reasoning. Stanford Law Review, 23(1), 40–62. https://digitalcommons.law.buffalo.edu/journal_articles/867

16. Gadzhiev, G. A. (2018). Yavlyaetsya li robot-agent licom? (Poisk pravovyh form dlya regulirovaniya cifrovoj ekonomiki) [Whether the robot-agent is a person? (Search of legal forms for the regulation of digital economy)]. Journal of Russian Law, (1), 15-30. https://doi.org/10.12737/art_2018_1_2

17. Zaplatina, T. S. (2019). Iskusstvennyj intellekt v voprose vyneseniya sudebnyh reshenij, ili II-sud’ya [Artificial intellect in the passing sentences issues or AI judge]. Courier of Kutafin Moscow State Law University (MSAL), (4), 160–168. https://doi.org/10.17803/2311-5998.2019.56.4.160-168

18. Cherkasov, V. N. (2017). Novyj sub”ekt prava? [A new subject of law?]. Bazis, 1(1), 41–44.

19. Somenkov, S. A. (2019). Iskusstvennyj intellekt: Ot ob”ekta k sub”ektu? [Artificial intelligence: From object to subject?]. Courier of Kutafin Moscow State Law University (MSAL), (2), 75–85. https://doi.org/10.17803/2311-5998.2019.54.2.075-085


Об авторах

А. А. Васильев
Алтайский государственный университет
Россия

Васильев А.А. — доктор юридических наук, профессор, директор юридического института, заведующий кафедрой теории и истории государства и права 

656049, Алтайский край, Барнаул, пр-кт Социалистический, 68



Ю. В. Печатнова
Алтайский государственный университет
Россия

Печатнова Ю.В. — магистрант юридического института 

656049, Алтайский край, Барнаул, пр-кт Социалистический, 68



Просмотров: 140


Creative Commons License
Контент доступен под лицензией Creative Commons Attribution 4.0 License.


ISSN 2686-9136 (Online)