кандидат юридических наук, преподаватель, юридический факультет
199034, Санкт-Петербург, Университетская наб., 7–9
Vitalii I. Eliseev — Ph.D. in Law, Lecturer, Faculty of Law
7–9, Universitetskaya Embankment, St. Petersburg, 199034
Algorithmic decision-making is becoming widely used in private law. Today, algorithms are routinely employed to screen job applicants, execute transactions, and freeze bank accounts. However, existing rules and doctrinal approaches do not always provide adequate responses to the legal challenges posed by algorithmic errors and the lack of transparency in algorithmic decision-making systems, particularly in cases where decisions are generated by artificial intelligence operating as a “black box.” In this article, the author sets out to examine how the delegation of legally significant decisions to increasingly autonomous algorithms affects private law relationships. The author analyzes whether the established doctrinal principles and legislative rules are capable of resolving the emerging problems, or whether they require conceptual reconsideration. The study draws on the provisions of Russian civil law and personal data legislation, the provisions and practice of the EU General Data Protection Regulation (GDPR), as well as domestic and international academic literature on algorithmic decision-making, algorithmic transparency and accountability, and legal safeguards designed to mitigate the risk of unlawful algorithmic decisions. It was found that algorithmic errors and the opacity of algorithmic decision-making can lead to a discrepancy between the data subject’s will and the will expressed through the algorithmic decision. The concept of the algorithm as a representative (agent) proves unsuitable for addressing the resulting legal issues. It is argued that algorithmic decisions should be classified as legal facts constituting either lawful or unlawful acts of the individual who delegated the process of decision-making to the algorithm. The lawfulness of automated decisions should be assessed on a par with other actions of legal subjects, while taking into account the subjective element of the subject’s conduct, including algorithmic errors and the measures taken by the subject during the implementation and use of algorithms. On this basis, the author proposes a reinterpretation of the concepts of intent, knowledge, and good faith in the context of algorithmic decision-making. It is argued that algorithmic transparency and accountability should be regarded as components of a risk management system and as prerequisites for monitoring the lawfulness of automated decisions. The right to object to an algorithmic decision is effective only provided that human review includes an analysis of the decision-making logic, as well as the identification and correction of errors that influenced the decision. At the same time, judicial review is not a universal remedy against automated decisions, since the proper subject of litigation can be the unlawful conduct of the party responsible for the algorithmic decision and specific remedies applied in individual situations.
Алгоритмы широко внедряются для принятия юридически значимых решений в частноправовых отношениях: алгоритмы отбирают кандидатов на вакансии, совершают сделки, блокируют банковские счета. Актуальность исследования состоит в том, что существующие нормы и доктринальные подходы не во всех случаях способны адекватно решать правовые проблемы, которые порождают ошибки в работе алгоритмов и непрозрачность процесса алгоритмического принятия решений, особенно при применении искусственного интеллекта, действующего по принципу «черного ящика». Цель статьи — исследовать, как делегирование юридически значимых решений алгоритмам с возрастающей степенью автономности влияет на частноправовые отношения, и определить, можно ли адаптировать известные в доктрине и законодательстве правила для урегулирования возникающих проблем или требуется их концептуальный пересмотр. В статье проанализированы нормы российского гражданского законодательства и законодательства о персональных данных, нормы и практика применения европейского Общего регламента о защите персональных данных (GDPR), а также отечественная и зарубежная научная литература, посвященная вопросам алгоритмического принятия решений, прозрачности и подотчетности алгоритмов и специальных правовых гарантий для снижения риска принятия с помощью алгоритмов неправомерных решений. В результате исследования установлено, что ошибки алгоритмов и непрозрачность их работы могут приводить к несовпадению воли субъекта и волеизъявления, выраженного в принятом алгоритмом решении. Теория алгоритма как представителя (агента) оказывается непригодной для решения возникающих из-за этого проблем. Предложено квалифицировать алгоритмические решения как юридические факты — правомерные или неправомерные действия субъекта, который делегировал принятие решений алгоритму. Правомерность автоматизированных решений подлежит оценке наравне с другими действиями субъектов права, что не исключает оценку субъективной стороны поведения субъекта с учетом ошибок в работе алгоритмов и мер, принятых субъектом при внедрении и использовании алгоритмов. Исходя из этого предложен вариант интерпретации понятий воли, знания, добросовестности при принятии решений алгоритмом. Алгоритмическую прозрачность и подотчетность предложено рассматривать в качестве элемента системы управления рисками и условия контроля за правомерностью автоматизированных решений. Право заявить возражение против алгоритмического решения эффективно при условии, что рассмотрение возражения человеком включает анализ логики решения, поиск и устранение ошибок, которые повлияли на решение. В то же время оспаривание автоматизированных решений в судебном порядке не является универсальным способом защиты. Предметом спора могут быть неправомерные действия субъекта и предусмотренные для конкретной ситуации способы защиты.
The authors declare that there are no conflicts of interest present.