Может ли искусственный интеллект заменить судью-человека?

Вместо введения

Современные технологии активно используются человеком во многих сферах его жизни. Не исключение и правовые отношения, которые в настоящее время нередко возникают, изменяются и прекращаются с помощью IT. Кроме того, такие технологии активно применяются и при защите субъективных прав, свобод и охраняемых законом интересов различных субъектов права. И если прежде цифровизация порядков защиты влияла в первую очередь на их формат (Gilles, 2011, pp. 41–54), то в настоящее время очевидно ее влияние и на их существо.

Некоторые правоведы исключительно положительно относятся к тому, что IT захватывают область права, однако другие, признавая связанные с этим процессом полезные для общества и для отдельных лиц эффекты, вместе с тем считают, что ориентация на внедрение искусственного интеллекта во все сферы правового сопровождения социальной жизни грозит стагнацией в развитии права, лишением человека стимулов к аналитическому мышлению, а также предупреждают, что немало скрытых опасностей таит система электронного правосудия (Kovler, 2022, pp. 5–29).

Тематика защиты прав посредством современных технологий в настоящее время, говоря простым языком, писк моды. В разных странах IT используются как для оптимизации и повышения эффективности работы юристов, так и для решения населением правовых вопросов без помощи последних. Развитие получили системы разрешения споров онлайн, призванные избавить граждан от необходимости обращаться в суды и тем самым снизить нагрузку на них. Подобные системы организованы по образцу традиционных механизмов альтернативного разрешения споров, таких как арбитраж, переговоры, посредничество и др. ИИ при этом может как выступать в качестве помощника арбитра-человека, так и полностью его замещать. Тем не менее среди недостатков таких систем указывают на неспособность ИИ справляться со сложными спорами, поскольку принятие решений на основе алгоритмов лишено человеческой эмпатии, понимания контекста и этики (Nhemi, 2023).

Не секрет, что впереди всех по оснащению IT различных форм защиты Китай¹. В этом государстве созданы интернет-суды², существуют различные системы, призванные облегчить труд судей, а также судьи-боты³.

IT в настоящее время используются и в судопроизводстве России. Цифровизация отечественного судопроизводства является одной из наиболее популярных тем исследований, о чем свидетельствует хотя бы растущее число посвященных ей диссертаций⁴, научных монографий и статей. При этом некоторые правоведы в своих работах касаются вопросов, связанных с обеспечением посредством IT доступности судопроизводства, повышения его эффективности и оптимизации, но считают, что менять его парадигму нельзя (Lukyanova, 2024; Kazikhanova, 2023). Другие же полагают, что под влиянием современных технологий данная парадигма, безусловно, рано или поздно будет трансформироваться, в их работах порой предлагаются варианты такого нового судопроизводства.

Собственно, освещению позиций некоторых ученых второй из указанных групп и посвящено наше небольшое эссе, в завершение которого автор позволит себе обозначить свое отношение к цифровизации судебного процесса.

Обзор позиций сторонников внедрения ИИ в судопроизводство

Известный процессуалист, представитель уральской научной школы, судья в отставке И.В. Решетникова считает, что ИИ, бесспорно, изменит судопроизводство. По ее мнению, ИИ вполне можно поручить прогноз возможного решения, что будет на пользу спорящим сторонам, которые в недалеком будущем смогут узнать возможный вариант разрешения их спора и, сообразуясь с ним, выбрать, обращаться ли им в суд или примириться. Также она предлагает подумать над тем, чтобы допустить вынесение ИИ промежуточных решений, с которыми стороны будут вправе не согласиться, вслед за чем должно происходить рассмотрение дела в судебном состязательном процессе с соблюдением всех процедур (Reshetnikova, 2024, pp. 30–41).

Представляющий ту же школу А. В. Незнамов полагает, что ИИ в сфере правосудия более не является исключительно научной фантастикой, это его среднесрочное (если не ближайшее) будущее, а значит, от рассуждений о возможности или невозможности использования ИИ в судебной деятельности следует переходить к обсуждению его конкретных принципов, правил и проблем (Neznamov, 2024, pp. 90–106).

Им же предложены две возможные модели применения ИИ в актуальном российском гражданском процессе: «суррогатного» правосудия, в котором анализ обстоятельств дела и принятие процессуального решения осуществляются системами ИИ без непосредственного участия человека, но под его контролем (техническим и процессуальным), и «дополненного» судопроизводства, в котором аналитическая деятельность суда по делу дополняется системами ИИ, анализирующими обстоятельства дела и предлагающими возможный вариант решения, притом что окончательное решение принимается человеком. «Так, “суррогатное” правосудие… соответствует существующим механизмам приказного производства, которое и так, по большому счету, является “суррогатом” судопроизводства: в нем рассматриваются только бесспорные требования, нет как такового судебного разбирательства… Идея “дополненного” же правосудия вполне… вписывается в стадию подготовки судебного разбирательства» (Neznamov, 2024, p. 95). Указанный автор обращает также внимание на то, что использование ИИ в судопроизводстве будет способствовать обеспечению единообразия судебной практики (Neznamov, 2024, p. 99).

Следует отметить, что на допустимость использования ИИ, в том числе и в приказном производстве, указывают и многие другие авторы, при этом полагая, что вне зависимости от того, кто выносит судебный приказ — судья-человек или ИИ, в ходе такого производства осуществляется правосудие⁵.

Некоторые правоведы предлагают и куда более радикальные модели использования ИИ в судопроизводстве. Например, В. А. Лаптев считает, что ИИ можно доверить рассмотрение всех дел в первой инстанции, тогда как пересмотр вынесенных им решений все-таки должен осуществляться людьми: если бы и пересмотр осуществлял ИИ, то выводы проверочной инстанции никогда ничем не отличались бы от тех, которые были сделаны первой инстанцией (Laptev, 2024, pp. 44–51)⁶.

Далее, некоторые из авторов, ратующих за внедрение ИИ в судопроизводство, даже не задумываются, на каких принципах оно будет базироваться (например, об этом ничего не пишет В. А. Лаптев).

Другие исследователи лишь признают, что в судебном процессе перспективой внедрения обладают только такие доверенные технологии искусственного интеллекта, которые отвечают высоким стандартам и разработаны с учетом всех принципов гражданского процессуального права (Kurochkin, 2024, pp. 42–74). Хотя не всегда ясно, каким именно образом эти авторы предлагают совместить ИИ с указанными принципами.

Наконец, еще одна группа ученых полагает, что цифровизация судопроизводства предопределяет существенную трансформацию его принципов, выделяемых в настоящее время. Например, И. В. Решетникова ожидает, что система принципов судопроизводства неизбежно будет меняться с введением ИИ. Она отмечает, что уже сегодня в судах 40–60% дел рассматривается не в судебном заседании — речь идет о делах приказного и упрощенного производства, а есть еще и неявочные дела. Следовательно, принцип устности судопроизводства как неотъемлемая черта состязательного судопроизводства уступает место письменному, электронному судопроизводству (Reshetnikova, 2024, p. 38).

Отметим порой предпринимаемые попытки выделить некие новые принципы, которые, по мнению их инициаторов, должны лежать в основе цифрового судопроизводства. К ним, например, предлагают причислять доступность информации о судопроизводстве по конкретному делу (Samsonova, 2022, pp. 77–128), а также его информатизацию (Mironova, 2021, p. 15).

Любопытна в данном случае позиция Е. Г. Стрельцовой, которая считает, что сама по себе цифровизация может влиять на трансформацию принципов, но не приводит к появлению принципов, непосредственно связанных с ней. Однако если речь идет об алгоритмизированных решениях, то их принятие должно быть подчинено новым основным началам, например принципу добросовестного пользования цифровыми технологиями. Его следует применять в том числе для принятия юридически обоснованных решений об отмене либо о сохранении результатов взаимодействия с цифровыми технологиями (Streltsova, 2024, pp. 75 –89).

На существенную модификацию судебного процесса под влиянием цифровых технологий обращают внимание не только процессуалисты-цивилисты, но и некоторые представители науки уголовного процесса и криминалистики. Например, Л. В. Бертовский полагает, что при использовании искусственного интеллекта в судопроизводстве, безусловно, возникнет новая теория доказывания, которая будет иметь смешанный характер: полученную в процессе расследования доказательственную информацию необходимо переводить в машиночитаемую форму, т. е. формализовать, а решение по конкретному делу будет принимать человек на основе внутреннего убеждения и предложений, представленных искусственным интеллектом вместе с информацией о процессе подготовки таких предложений, изложенной в «человекочитаемом» формате (Bertovsky, 2022, pp. 8–12).

Ранее было сказано, что теме цифровизации посвящены многие современные диссертации. При этом наиболее интересной нам показалась работа Данилы Олеговича Дрозда, защищенная в 2024 г. (Drozd, 2024), некоторые положения которой мы и осветим далее.

Указанный автор полагает, что цели и задачи судопроизводства — это его желаемое направление, в свою очередь, принципы правосудия — это рельсы, которые должны вести в намеченном задачами направлении, а конкретные системы ИИ в таком случае будут вагонами. Эти вагоны можно применять только в том случае, если их колеса совместимы с рельсами: несовместимые с принципами правосудия системы ИИ применяться по общему правилу не могут.

Впрочем, по мысли Д. О. Дрозда, «в целях эффективного решения задач и достижений целей судопроизводства можно предположить, что окажется допустимым отклонение от существующих принципов осуществления правосудия или их видоизменение» (Drozd, 2024, p. 83). Это объясняется главенством задач судопроизводства над принципами, так как последние лишь обеспечивают достижение этих задач.

Далее в исследовании Д. О. Дрозд предпринимает попытку соотнести ИИ с судейским усмотрением, а также с отдельными принципами судопроизводства, в частности осуществлением правосудия только судом и независимостью суда (Drozd, 2024, pp. 97–175). По его мнению, судейское усмотрение следует понимать как полномочие судьи по разрешению спорных правовых вопросов, прямо не урегулированных в законе, на основе общих начал действующего законодательства (Drozd, 2024, p. 106). Оно в любом случае должно строиться на основе принципов права, установленных законом, а их применение должно быть детально мотивировано в судебном акте (Drozd, 2024, p. 111). Абстрактность принципов не позволяет современным системам ИИ, а также тем, которые могут появиться в обозримом будущем, разрешать дела, требующие судейского усмотрения. В то же время эти системы могут применяться для проверки того, действительно ли имеется пробел в правовом регулировании. Следовательно, как заключает автор, полноценное рассмотрение дела системой ИИ возможно в судебных процессах, в которых одновременно соблюдаются сразу два условия: (1) с точки зрения набора фактов ситуация типична, т.е. не требуется судейское усмотрение в плоскости процессуального права; (2) с точки зрения материального права имеется устоявшаяся и непротиворечивая судебная практика по этой категории дел (Drozd, 2024, pp. 111–112, 115).

В отношении принципа осуществления правосудия только судом Д. О. Дрозд пишет: «…может показаться, что если ИИ будет осуществлять часть судебной деятельности вместо человека, то указанный принцип автоматически будет нарушен» (Drozd, 2024, pp. 93–94). Однако в действительности конституционный принцип при применении элементов ИИ для разрешения судебных дел не нарушится, так как предполагается, что ИИ будет частью суда, т.е. составляющей единого механизма судопроизводства. А дальше всё зависит от планируемого способа применения ИИ. Если намечено применение ИИ в качестве технического помощника судьи, то никаких масштабных законодательных изменений вовсе не требуется, так как это будет сродни и сейчас несильно регламентированной на уровне закона работе помощников судей и других сотрудников аппарата суда. Если же планируется осуществление правосудия с применением элементов ИИ, то решить вопрос об обеспечении соблюдения принципа можно путем корректировки законодательства, дополнив перечень субъектов, отправляющих правосудие, указанием на элементы ИИ (Drozd, 2024, p. 95).

Под независимостью судей Д. О. Дрозд предлагает понимать состояние, «…когда суды и отдельные судьи имеют возможность действовать и принимать решения свободно от любого внешнего давления, имея уверенность в своей защищенности от наказаний любого рода. Это определение предполагает, что при соблюдении принципа независимости судей как иные судьи не имеют возможности как-либо повлиять на решения этого судьи, так и акторы снаружи конкретного суда или судебной системы в целом не имеют возможности влиять на решения по отдельным судебным делам или на практику разрешения каких-то вопросов» (Drozd, 2024, p. 126). Такую независимость он предлагает оценивать по набору критериев: (1) независимость судей и структура судебной системы формально закреплены в нормативном акте, который не может быть изменен в обычном порядке; (2) назначение судей не контролируется единственным властным актором, а основывается на коллективном решении представителей различных профессиональных юридических сообществ или как минимум разных ветвей власти; (3) пожизненный срок полномочий судей или их назначение до заранее определенного возраста ухода в отставку без каких-либо переназначений на новый срок (включая судей высших судов) и с детальным регулированием случаев изменения этого срока ухода в отставку; (4) процедуры прекращения и приостановления полномочий судей сложны и основаны на закрытом перечне оснований, а отдельные влиятельные акторы не вправе самостоятельно принимать решение по этому вопросу; (5) бюджет судебной системы защищен от влияния потенциально заинтересованных органов власти, а денежное довольствие судей не подлежит снижению, но должно регулярно корректироваться по зафиксированной процедуре в соответствии с официальными показателями инфляции и сохраняться на достойном уровне в сравнении с уровнем дохода при работе по иным юридическим профессиям; (6) автоматическое (при этом не допускающее манипуляций) или строго отрегулированное распределение новых дел между судьями; (7) полная прозрачность судебного процесса, включая публикацию не только самих мотивированных решений, но и особых мнений, при этом мотивировка решений имеет исключительную значимость, поскольку изложение мотивов принятия решения предохраняет от совершения судебных проступков (Drozd, 2024, pp. 128–130). В свою очередь, в зависимости от продвинутости системы ИИ ее функционирование будет связано с одним из двух факторов или с их комбинацией: либо (1) система ИИ будет «обучена» некими разработчиками действовать при разрешении юридических задач определенным образом; либо (2) система ИИ «обучится» правилам решения юридических задач на основе судебной практики и, возможно, правовой доктрины; либо (3) система ИИ сначала будет «обучена» разработчиками, а затем доберет знаний из судебной практики и правовой доктрины (Drozd, 2024, p. 117).

Д. О. Дрозд отмечает, что, очевидно, в любом из описанных трех случаев ИИ зависим от чужих взглядов, «будь то мнения разработчиков самой системы или мнения авторов научных трудов, составляющих правовую доктрину» (Drozd, 2024, p. 118). Однако это, с его точки зрения, отнюдь не исключает возможности осуществления правосудия ИИ и одновременно с тем действия принципа независимости судей. Достичь этого можно путем адаптации к ИИ указанных ранее критериев независимости. Например, существенной корректировке подлежит второй критерий, касающийся процедуры назначения судей. Это означает, в частности, что разработка систем ИИ для суда должна находиться в руках одновременно нескольких акторов с несовпадающими интересами. Круг таких акторов можно почерпнуть из рекомендаций комиссара по правам человека при Совете Европы в отношении ИИ⁷. По поводу последнего из приведенных критериев Д. О. Дрозд говорит, что он будет соблюден, если факт и объем использования элементов ИИ при рассмотрении дела будут явно обозначены как перед участниками процесса до начала применения системы ИИ, так и в итоговом судебном акте (Drozd, 2024, p.136.). Кроме того, должна быть описана логика принятия решений системой ИИ в той степени, насколько это технически возможно: открытость должна быть реализована, если даже не в принимаемых системой ИИ решениях, то в программном коде таких систем. По мнению автора, обеспечить независимость суда ИИ также следует путем защиты информации от тайного вмешательства технических специалистов, помощников судей, самих судей и иных лиц, имеющих доступ к этим системам ИИ, а также недопущения изменения логики принятия решений единственным актором (Drozd, 2024, pp. 136–140.).

Позволим себе и мы выразить некоторые мысли по рассматриваемой теме.

Несложно заметить, что авторы, к позициям которых мы обращались выше, едины в том, что, по их мнению, под влиянием IT неизбежно кардинальное изменение существа судопроизводства. Однако допускаемый ими объем изменений нередко различается. По нашему наблюдению, от признаваемых в настоящее время принципов судопроизводства готовы отказаться, так сказать, без какого-либо внутреннего сопротивления в первую очередь те исследователи, которые полагают, что правосудие сегодня осуществляется как в классическом — исковом, так и в упрощенных производствах, включая приказное. Полагаем, что это связано со следующим обстоятельством: в приказном производстве на самом деле не действует ни один из принципов судопроизводства. Соответственно, если допустить, что, несмотря на отсутствие принципов в таком производстве, правосудие в нем все равно осуществляется, то получается, что такие принципы не являются для этого необходимыми. Развивая мысль, вполне можно дойти и до того, что в действительности нет никаких препятствий для замены судьи-человека судом ИИ, деятельность которого по разрешению правовых вопросов будет считаться правосудием вне зависимости от того, удастся ее подчинить каким-либо из принципов судопроизводства или нет.

Отдельные авторы, в целом признавая значение принципов судопроизводства для осуществления правосудия, в то же время допускают определенное отступление от тех из них, которые известны в настоящее время, а то и вовсе их замену на некие новые основы.

Но рассмотрим этот вопрос вот с какой стороны. Мы исходим из того, что осуществление правосудия возможно лишь в порядке, который представляет собой особую систему гарантий, направленных на установление действительных обстоятельств дела, обеспечение безопасности от произвола со стороны как суда, так и любых других лиц и наиболее качественную (результативную) по сравнению с любыми другими порядками рассмотрения дел защиту интересов различных субъектов права. Понимание состава необходимых гарантий складывалось в течение длительного времени путем определенных правовых открытий, эволюционных процессов и даже завоеваний. Они в первую очередь включают именно принципы судопроизводства, главным образом те, которые закреплены в ст. 10 Всеобщей декларации прав человека 1948 г.⁸, а в настоящее время и в конституциях многих стран. В связи с этим, по нашему мнению, достижение целей (решение задач) судопроизводства как результата осуществления правосудия и в первую очередь защиты субъективных прав, свобод и законных интересов возможно только в режиме действия этих принципов.

Сказанное отнюдь не означает, что защита данных объектов невозможна в иных порядках. Имеется в виду то, что такая защита не будет результатом осуществления правосудия со всеми теми последствиями, которые в связи с этим возникают. Соответственно, в случае неудовлетворенности несудебной (осуществляемой вне правосудия) защитой у заинтересованных лиц практически всегда должна оставаться возможность обратиться к правосудию, т.е. к защите, осуществляемой в особой системе гарантий, защите высшей пробы. Можно даже сказать, что общественная потребность в наличии такой защиты предопределила не только то обстоятельство, что она стала признаваться магистральной целью судопроизводства, но и саму систему принципов, которые обеспечивают ее достижение⁹.

Изменение принципов судопроизводства, по нашему мнению, допустимо а) либо в случае изменения его целей, и особенно вышеуказанной магистральной цели, поскольку для новых целей, вероятно, понадобятся и соответствующие средства их достижения, т.е. принципы; б) либо при появлении (обосновании) каких-то новых принципов, которые в большей мере, чем имеющиеся, обеспечат признанные в настоящее время цели судебного процесса.

Тем не менее, как мы считаем, каких-либо действительно убедительных аргументов в пользу возможного появления неких новых целей судопроизводства, при этом замещающих собой уже существующие, в науке до сих пор предложено не было, более того, именно достижение такой его цели, как защита субъективных прав, свобод и правовых интересов, обеспечивает многогранный, полезный для общества, отдельных лиц и государства эффект¹⁰, а следовательно, менять ее на какую-то иную как сейчас, так и в будущем вряд ли стоит.

В отношении новых принципов судопроизводства отметим, что нам абсолютно непонятен смысл их выделения. Например, такой принцип нового цифрового процесса, как доступность информации о судопроизводстве по конкретному делу, вполне охватывается давно известными принципами, в частности принципами состязательности — с точки зрения доступности информации о деле для заинтересованных лиц — и гласности — в плане ее доступности для всех остальных.

Неясно также, какую цель судопроизводства обеспечивает предлагаемый отдельными исследователями принцип добросовестного пользования цифровыми технологиями. Думается, что если имеется в виду ненарушение посредством таких технологий прав других участников правоотношений, то этот запрет вполне охватывается таким давно известным и общепризнанным принципом, как законность, который в контексте процессуальных отношений имеет специфику, в силу которой все участники судебного процесса вправе совершать только те процессуальные действия, которые напрямую разрешены законом. Если же под указанным принципом понимается некая «тюнингованная» версия иногда предлагаемого в доктрине принципа процессуальной добросовестности, то и в этом случае в таком принципе не просто нет никакого смысла с точки зрения обеспечения целей судопроизводства, но даже заключена определенная вредоносность. Ведь, так или иначе, вся процессуальная деятельность направлена на защиту реально существующих прав, свобод и законных интересов лиц, имеющих в деле противоположную юридическую заинтересованность. Соответственно, реализация любого субъективного процессуального права такими лицами — это вместе с тем и осуществление ими права на судебную защиту вне зависимости от того, добросовестны они или нет. Если для поступающих недобросовестно лиц за это ввести некие неблагоприятные последствия, то они, скорее всего, будут выражаться в каких-либо формах ограничения их права на защиту, что недопустимо. При этом большое значение имеет и то обстоятельство, что в отличие от материальных гражданских правоотношений участником процессуальных отношений всегда является суд, который контролирует осуществление прав иных участников процесса, и именно в силу этого, а не благодаря принципу добросовестности, исключается сама возможность их реализации, так сказать, вне целей, для которых они их носителям предоставлены.

Конечно, на сказанное могут возразить, что принцип добросовестного пользования цифровыми технологиями будет применяться в новом типе судебного процесса с участием ИИ или, может быть, в новаторских процессуальных отношениях, которые будут происходить между участниками процесса, но без обязательного участия в них суда (об этом также пишут некоторые авторы).

На это сразу ответим, что серьезная научная дискуссия о таких новых типах процесса возможна лишь в случае, если кроме утверждения, что они гипотетически возможны, их апологеты приведут убедительные аргументы в пользу того, что новшества приносят обществу, государству и отдельным лицам бо́льшую пользу, нежели тот судебный процесс, который должен осуществляться в режиме общепризнанных принципов и обязательным участником которого выступает суд.

Разумеется, нет никакого смысла и в выделении такого принципа судопроизводства, как информативность, которая представляет собой лишь одно из внешних проявлений судопроизводства, но отнюдь не его основу.

Как можно видеть, некоторые новаторы все же пытаются аккуратно относиться к известным принципам судопроизводства, как, например, уже упомянутый Д. О. Дрозд. Хотя, на наш взгляд, его предложения все-таки не решают проблему совмещения ИИ и принципов, без которых осуществление правосудия невозможно.

Первое, что обращает на себя внимание, это уверенность Д. О. Дрозда в том, что ИИ можно поручить дела, в которых судейское усмотрение не требуется. С указанным подходом согласиться сложно, в частности, потому, что потребность в таком усмотрении может возникнуть и в деле, которое на первый взгляд кажется типичным, однако, чтобы это понять, дело надо начать рассматривать. Если его начнет рассматривать ИИ, то где гарантия, что он сумеет определить, что перед ним именно тот случай, где усмотрение в действительности необходимо?

Соответственно, любые попытки разделения дел на те, которые будут рассматриваться ИИ по причине отсутствия необходимости в судейском усмотрении, и те, которые следует разбирать судье-человеку, поскольку потребность в усмотрении в них может возникнуть, приведут к тому, что и к ИИ неизбежно будут попадать дела, в которых существует потребность в судейском усмотрении.

Кроме того, сомнительно и использование ИИ для проверки правильности выявления пробелов в праве (во всяком случае, в качестве универсального механизма), что также предлагает Д. О. Дрозд. Ведь ошибка при их выявлении может заключаться далеко не только в том, что правоприменитель посчитает неурегулированным общественное отношение, которое в действительности регламентировано (видимо, именно такие ситуации подразумевает автор), что сумеет определить ИИ, но и в том, что пробелом в праве может быть названо отношение, которое вообще им регулироваться не должно, а вот это ИИ понять вряд ли под силу. Чтобы опознать подобную ошибку, нужно обладать способностью оперировать такими категориями, как «предмет отрасли права», «правовое регулирование», «методы правового регулирования», которые еще более абстрактны, чем принципы права, хотя именно в силу неконкретности последних сам Д.О. Дрозд исключает способность ИИ оперировать ими.

Обратим также внимание на то, что, как представляется, в ходе рассмотрения любых дел суд должен каждый раз применять принципы материального и процессуального права хотя бы потому, что зачастую только с их помощью возможно правильное толкование конкретных норм, да и сами принципы права, будучи нормами права, могут, а то и должны, применяться судом для разрешения конкретного случая, а это, в свою очередь, вновь ставит под сомнение применимость ИИ в судопроизводстве¹¹. Наконец, если даже закрыть глаза на указанные проблемы, то в предложенной Д. О. Дроздом модели использования ИИ в судопроизводстве (исходя из тех ограниченных возможностей, которые он за таким интеллектом признает) речь может идти лишь о применении им права в узкопозитивистском понимании, которое вряд ли способно обеспечить всеобъемлющую защиту заинтересованным лицам. По нашему мнению, в настоящее время подход к праву должен быть скорее интегративным, объединяющим правовой позитивизм с естественным правом и социологическим подходом, поскольку только тогда суды могут признавать законодательство противоправным, нуллифицировать нормативные правовые акты путем их неприменения, а в каких-то случаях толковать их contra legem с целью защиты попранных в таких актах правовых интересов.

Далее сосредоточимся на подходе Д. О. Дрозда к принципам судопроизводства, а вернее, к предлагаемой им их адаптации к ИИ. На первый взгляд может показаться, что предложенные указанным автором модификации принципов не колеблют их существа, но вместе с тем позволяют ИИ в режиме их действия осуществлять правосудие. Однако фактически это не так. Указанный автор допускает упрощенный подход к принципам и, например, определяет их соблюдение через критерии, соответствие которым в действительности не служит показателем полномерного действия основных начал судопроизводства. Так, например, предложенными в диссертации Д. О. Дрозда критериями нельзя исчерпывающе охарактеризовать действие принципа независимости суда, поскольку он заключается, кроме прочего, в способности судьи при необходимости противопоставить свою позицию позиции других судей, исполнительной и законодательной власти, чего ИИ, скорее всего, сделать будет не в состоянии. В основе такой независимости лежит очень многое: жизненный опыт, который невозможно загрузить в нейросеть, поскольку он является результатом не только проживания, но и переживания и осознания его человеком, мудрость, понимание человека и его интересов, умение чувствовать (которое зачастую становится не только слабостью, но и великой силой человека), а также высокий уровень правосознания, которое, разумеется, простым запоминанием норм права и доктрины не ограничивается. На сказанное возразят, что далеко не каждый судья обладает всеми этими качествами. Это, безусловно, так, однако мировая история показывает, что слабость судейского корпуса связана отнюдь не с принципиальной невозможностью замещения должностей судей юристами, обладающими соответствующими чертами, а с другими причинами, в частности с тем, что порой различные акторы общественной жизни, которыми в том числе являются и носители власти в государстве, не заинтересованы в судьях, способных им противостоять, и, сообразуясь с этим, чинят препоны людям, обладающим необходимыми качествами, в замещении ими судейских должностей.

Отметим, что правовая определенность, которая, как принято считать, при использовании ИИ возрастает за счет обеспечения им единства судебной практики, конечно же, важна, но реальная польза от нее имеется лишь тогда, когда благодаря этой определенности обеспечивается действительная жизнь права. Однако вследствие такого единства может формироваться и систематически повторяемое всеми судебными инстанциями нарушение права, а в этом случае ИИ, в отличие от судьи-человека, никогда не будет способен разорвать образовавшийся порочный круг правопопирающего единообразия, а будет лишь обеспечивать и поддерживать его. В связи с этим реализация предложений Д. О. Дрозда на деле не приведет к совмещению принципа независимости суда с ИИ, а в лучшем случае позволит говорить о некоторой автономности его функционирования, которая тем не менее претендовать на равное значение с названным принципом правосудия, естественно, не может.

Невозможно принять и предложения Д. О. Дрозда по адаптации к ИИ принципа осуществления правосудия только судом. Смысл указанного принципа заключается в первую очередь отнюдь не в определении того, кто — человек или кто-то иной — является судьей, а в том, что только суд может осуществлять правосудие и, соответственно, выносить окончательное решение по существу любого правового вопроса, касающегося защиты прав, свобод и законных интересов. Положение Конституции РФ, определяющее такую роль суда, состоит в системной и неразрывной связи с другими ее нормами, определяющими, что правосудие осуществляется судом только в режиме действия особой системы принципов. Соответственно, вне ее действия орган, даже названный в законе судом, независимо от того, составляют его люди или ИИ, правосудия не отправляет. Выше мы обратили внимание на то, что при замещении судьи-человека ИИ вряд ли можно будет обеспечить действие ключевого из принципов осуществления правосудия — принципа независимости судей, так же и принцип осуществления правосудия только судом в таком случае реализован не будет.

Хотим обратить внимание на обстоятельство, о котором мы уже писали в одной из статей: «…если однажды искусственный интеллект и обретет значительную часть характеристик человеческого, то даже и в этом случае допускать первый из них к осуществлению правосудия едва ли позволительно. Дело в том, что получение таким интеллектом знаний будет происходить совсем не в том формате, как в случае с человеком, который делает это в процессе своей жизни, главным образом не изолированно от общества, а внутри него, т.е. взаимодействуя с другими людьми, при этом испытывая всевозможные эмоции и, соответственно, получая разнообразный личный опыт. <…> Наконец, существование в социуме — ощущение себя его частью важно для формирования человека не в чисто биологическом, а, так сказать, в философском, социальном смысле, а это, опять же, неимоверно важно для осуществления судейства, поскольку человека и общество судья должен не просто знать — а понимать.

Сказанное не означает, что искусственный интеллект в таком случае будет хуже или лучше, чем человеческий, а лишь то, что он будет другим — не человеческим. Конечно же, далеко не любой человек способен признавать, а тем более понимать чужие интересы, взвешивать их и определять баланс, что в нашем представлении важно при разрешении различных дел, но, с другой стороны, только человек способен хотя бы приблизиться к пониманию такой “вещи в себе”, как другой человек.

Наконец, если все-таки однажды ИИ в полном объеме обретет все черты человеческого интеллекта, будет “наполняться” опытом и знаниями, как человек, — в обществе (в процессе социального взаимодействия), то в таком случае не будет никакой необходимости в разделении интеллектов на искусственный и “естественный”. Ведь в своей философской сути интеллекты в любом случае будут человеческими. Сегрегация интеллекта в зависимости от того, является ли его носителем существо, появившееся в результате биологического размножения, или же иным образом, по нашему мнению, приведет ни к чему другому, как к дискриминации кого-либо из его носителей...» (Tumanov, 2024a, pp. 20–21)¹².

Автор, конечно же, понимает, что судья-человек далеко не идеален, да и во многих странах, особенно в тех, в которых политический режим не является демократическим, в действительности отсутствует беспристрастность судей (по крайней мере при рассмотрении ими ряда категорий дел). Однако подобное положение вещей связано отнюдь не с тем, что учеными и практикой не были предложены механизмы, обеспечивающие осуществление истинного правосудия, а с тем, что в силу различных причин их не используют. Вряд ли можно надеяться на то, что при замещении человека ИИ ситуация изменится, поскольку, очевидно, будет сохранен корень проблемы — фактическая незаинтересованность государств, а также других наделенных властью акторов общественной жизни в наличии сильного и независимого суда. Более того, как было сказано выше, ИИ вообще будет не в состоянии на то проявление независимости, на которое способен именно человек.

В заключение обратим внимание еще на несколько, на наш взгляд, важных вопросов.

Мы рассматриваем как достаточно спорный подход, согласно которому ИИ должен иметь возможность выносить предварительное решение, а судья-человек — окончательное. Претворение в жизнь такого подхода создает благоприятные условия для того, чтобы судья-человек самоустранился от исследования и оценки доказательств, правовой квалификации отношений, всецело полагаясь при этом на выводы, сделанные ИИ, которые в итоге и будут закреплены в окончательном постановлении, что в силу указанных ранее причин результатом осуществления правосудия считать нельзя.

К современным технологиям сто́ит относиться критически, а их идеализация несет угрозу судебных ошибок. Например, многие до сих пор уверены, что содержащуюся в блокчейне информацию невозможно фальсифицировать¹³. Если исходить из этого, то очевидно, что при использовании блокчейна в судебном процессе, например в качестве доказательства, не было бы никакой необходимости проверять наличие или отсутствие его несанкционированных изменений, более того, такая проверка в конечном итоге могла бы быть и вовсе запрещена законодателем.

Впрочем, в реальности блокчейн оказался не столь неприступным¹⁴. Соответственно, если бы имевшаяся в определенный момент уверенность в безупречности блокчейна все-таки послужила бы основанием для ограничений его проверки судом, то в конечном итоге, после того как умельцы научились искажать содержащуюся в нем информацию, это могло бы привести к принятию очевидно ошибочных решений по делам, в которых такая информация была использована.

Написанное свидетельствует о том, что появление новых технологий, которые в определенный момент считаются безупречными, абсолютно не исключает того, что в ближайшем или отдаленном будущем ситуация существенно изменится. Отсюда следует, что идеализация технологий и в силу этого признание за ними особого статуса в судебном процессе могут не обеспечить достижение целей судопроизводства, а, наоборот, воспрепятствовать ему.

С другой стороны, многие правила судебного процесса, которые в настоящее время уже можно считать классическими, способны эффективно обеспечивать цели судопроизводства как в настоящем, так и в будущем. Так, например, сейчас в процессуальном законодательстве закреплено положение, согласно которому суд оценивает доказательства по своему внутреннему убеждению, основанному на всестороннем, полном, объективном и непосредственном исследовании имеющихся в деле доказательств. Никакие доказательства не имеют для суда заранее установленной силы. Соответственно, исходя из этого правила, суд должен был бы в любом случае оценивать достоверность информации, в том числе той, которая в силу тех или иных причин может представляться неискажаемой. Это отнюдь не означает, что суд не доверяет никакому из доказательств (более того, наука и практика уже давно сформировали рекомендации относительно того, каким из них стоит доверять меньше, чем другим, например, личные доказательства чаще всего считаются более слабыми, чем вещественные или смешанные), но дает возможность сомневаться абсолютно в любом из них. Следовательно, только свободная оценка доказательств способна обеспечить установление действительных обстоятельств дела и, вследствие этого, защиту субъективных прав, свобод и законных интересов различных субъектов права.

На опасность ошибок ИИ и сложность их выявления в силу непонятности самого алгоритма, приведшего такой интеллект к определенным выводам, а соответственно, и на недопустимость его идеализации обращают внимание многие известные исследователи. Например, Юваль Ной Харари пишет: «Как люди смогут выявлять и исправлять такие ошибки? И как судьи Верховного суда из плоти и крови смогут принимать решения о конституционности алгоритмических решений? Смогут ли они понять, как алгоритмы приходят к своим выводам?

Это уже не чисто теоретические вопросы. В феврале 2013 г. в городе Ла-Кросс, штат Висконсин, произошла перестрелка на автомобиле. Позднее полицейские заметили этот автомобиль и арестовали водителя, Эрика Лумиса. Лумис отрицал причастность к стрельбе, но признал себя виновным по двум менее тяжким обвинениям: «попытка скрыться от сотрудника дорожной полиции» и «управление транспортным средством без разрешения владельца». Когда судье предстояло определить меру наказания, он обратился к алгоритму под названием COMPAS, который Висконсин и некоторые другие американские штаты использовали в 2013 г. для оценки риска повторного совершения преступления. Алгоритм оценил Лумиса как человека с высоким риском, который, скорее всего, совершит больше преступлений в будущем. Эта алгоритмическая оценка повлияла на судью, который приговорил Лумиса к шести годам лишения свободы — суровое наказание за относительно незначительные правонарушения, в которых он признался.

Лумис подал апелляцию в Верховный суд Висконсина, утверждая, что судья нарушил его право на надлежащую правовую процедуру. Ни судья, ни Лумис не понимали, как алгоритм COMPAS дает оценку, а когда Лумис попросил дать ему полное объяснение, ему было отказано. Алгоритм COMPAS был частной собственностью компании Northpointe, которая утверждала, что его методология является коммерческой тайной. Однако, не зная, как алгоритм принимает решения, как Лумис или судья могли быть уверены, что это надежный инструмент, свободный от предвзятости и ошибок? Впоследствии ряд исследований показал, что алгоритм COMPAS действительно мог содержать несколько проблемных предубеждений, вероятно, взятых из данных, на которых он обучался.

В деле «Лумис против Висконсина» 2016 г. Верховный суд Висконсина все же вынес решение не в пользу Лумиса. Судьи утверждали, что использование алгоритмической оценки риска является законным, даже если методология алгоритма не раскрывается ни суду, ни подсудимому. Судья Энн Уолш Брэдли написала, что поскольку COMPAS формирует оценку на основе данных, которые либо находятся в открытом доступе, либо предоставлены самим обвиняемым, Лумис мог бы опровергнуть или объяснить все данные, которые использовал алгоритм. В этом заключении не учитывался тот факт, что точные данные могут быть неверно интерпретированы и что Лумис не мог опровергнуть или объяснить все общедоступные данные о себе.

Верховный суд Висконсина не был полностью лишен понимания опасности, связанной с использованием непрозрачных алгоритмов. Поэтому, разрешив такую практику, он постановил, что всякий раз, когда судьи получают алгоритмические оценки риска, последние должны содержать письменное предупреждение для судей о потенциальной предвзятости алгоритмов. Суд также посоветовал судьям быть осторожными, полагаясь на такие алгоритмы. К сожалению, эта оговорка оказалась пустым жестом. Суд не дал судьям никаких конкретных указаний относительно того, как им следует проявлять такую осмотрительность. В обсуждении этого дела «Гарвардское юридическое обозрение» пришло к выводу, что «большинство судей вряд ли поймут алгоритмические оценки рисков». Затем был процитирован один из судей Верховного суда Висконсина, который отметил, что, несмотря на подробные объяснения алгоритма, им самим было сложно его понять.

Лумис подал жалобу в Верховный суд США. Однако 26 июня 2017 г. суд отказался рассматривать это дело, фактически поддержав решение Верховного суда Висконсина.

Теперь подумайте о том, что алгоритм, который в 2013 г. оценил Лумиса как человека с высоким уровнем риска, был ранним прототипом. С тех пор были разработаны гораздо более сложные и изощренные алгоритмы оценки риска, которым были предоставлены более широкие полномочия. К началу 2020-х гг. граждане многих стран будут регулярно получать тюремные сроки, частично основанные на оценках риска, сделанных алгоритмами, которые не понимают ни судьи, ни обвиняемые. И тюремные сроки — это только верхушка айсберга» (Harari, 2024, chapter 9).

Вместо заключения

Автор полагает, что, во всяком случае в настоящее время и в обозримом будущем, недопустима замена судьи-человека на ИИ. Помимо судебной, существует множество иных форм защиты прав, свобод и законных интересов, в которых может эффективно использоваться ИИ в качестве основного актора разрешения правового спора. Однако правосудие немыслимо без обеспечивающих его осуществление принципов, часть из которых несовместима с ИИ. Соответственно, у лиц, ищущих защиты, во всяком случае должна сохраняться возможность обращения в суд за правосудием. Тот факт, что некоторые из принципов судопроизводства порой не применяются на практике, свидетельствует не об отсутствии в них общественной необходимости, а либо о непонимании власть предержащими, в чем заключаются существо правосудия и его значение, либо о незаинтересованности некоторых из них в формировании сильной судебной власти, которая способна защищать любых субъектов в том числе и от произвола других властей. Все средства обеспечения реального правосудия в действительности давно изобретены, их лишь надо применять. Очевидно, что в стремлении к чему-то новому не стоит отказываться от тех явлений, цивилизационная ценность которых подтверждена, при этом взамен вводя новшества, польза которых для общества отнюдь не очевидна.

Мы, конечно же, не отрицаем тех преимуществ, которые может дать судопроизводству использование IT, в первую очередь заключающихся в обеспечении доступности правосудия, однако подмена ими его гарантий недопустима. Поэтому считаем, что единственный принцип использования IT в судебном процессе (принцип цифровизации судопроизводства) состоит в том, что их применение всецело должно быть направлено на обеспечение ключевых принципов, без которых осуществление правосудия невозможно.