Регулирование искусственного интеллекта: проект Нидерландов

Различных изданий, основной темой которых является искусственный интеллект (ИИ), выпущено за прошедшие два-три года значительное число. Российские системы научной индексации позволяют идентифицировать более 157 тыс. Если ограничить поиск словосочетанием «ИИ и право», то результат будет также весьма внушительным — более 9000 статей. Однако в российском обороте (в перечне цитат и в библиотечных фондах) не так много современных зарубежных научных изданий. В этой связи, полагаем, будет актуальным представить еще одно. Книга “Mission AI: The new system technology” («Миссия ИИ: Новая системная технология» представляет собой научную адаптацию и перевод на английский язык отчета Голландского научного совета по государственной политике под наименованием “Opgave AI. De Nieuwe Systeemtechnologie” («Задача ИИ. Новые системные технологии»)¹. Документ был представлен голландскому правительству в 2021 г. В исследовании искусственный интеллект определяется как «системная технология», которая коренным образом меняет общество и устанавливает пять всеобъемлющих задач по внедрению ИИ.

Авторский (редакторский) состав: профессор Кориен Принс (Corien Prins — основатель и с 1995 г. руководитель Тилбургского института права, технологий и общества, с 2017 г. она назначена председателем Нидерландского научного совета по государственной политике); Харун Шейх (Haroon Sheikh — старший научный сотрудник и координатор проектов в Голландском научном совете по государственной политике и профессор по стратегическому управлению глобальными технологиями в Амстердамском свободном университете (VU)); Эрик Шрайверс (Erik Schrijvers — доктор Утрехтского университета, в 2016–2017 гг. исследователь группы «Информационное общество и правительство» Министерства внутренних дел Нидерландов). Редакторы изучили академическую литературу, политические документы, провели интервью со 175 экспертами из разных стран (не только из Нидерландов). Книга включают также интервью с муниципальными и государственными служащими, представителями компаний, деятелями гражданского общества и членами Голландской коалиции ИИ. На заключительном этапе материалы рассмотрели и дали ценные предложения профессор, доктор Люк Стилс (Luc Steels — почетный профессор искусственного интеллекта, Свободный университет Брюсселя²), Марлен Стиккер и Том Демейер (Tom Demeyer — директор и технический директор Waag), профессор, доктор Ставрос Зуридис (Stavros Zouridis — член Совета по безопасности Нидерландов, LL.M)³, профессор, доктор Хосе ван Дейк (Jose van Dijck — профессор медиаисследований, Утрехтский университет)⁴, профессор, доктор Коэн Френкен (Koen Frenken — профессор инновационных исследований, Утрехтский университет)⁵.

Издание состоит из введения, которое позиционировано как первая глава, и трех частей. В первой части (из трех глав) исследованы социальная интеграция ИИ, определение ИИ и его интерпретации как системной технологии. Глава 2 анализирует, что такое ИИ, как можно определить технологию и какой выбор необходимо сделать. После этого описано историческое развитие знаний об искусственном интеллекте с 1950 г. Глава 3 посвящена разработкам последних лет: ИИ в науке; практический потенциал ИИ; искусственный интеллект в сферах инвестирования, экономики и занятости. В частности, в п. 3.1.5 рассмотрен характерный для США, Европы и Британии вопрос фокусировки государственного управления на проблемах, связанных с ИИ. Особенно иллюстративен график (Sheikh et al., 48), на котором зафиксирован экспоненциальный рост количества направлений, связанных с ИИ, в 2015–2020 гг.: научных статей; заявок на патенты; инвестиционных проектов; национальных стратегий. В главе 4 дается разъяснение, какой тип технологии представляет собой ИИ, обобщены и классифицированы ИИ-технологии. Отдельно рассмотрен генеративный языковой трансформер (Generative Pre-trained Transformer, GPT) как система ИИ. Отдельно показан ИИ как система различных технологий. Проведено сравнение ранних и более поздних моделей ИИ. Освещен вопрос технико-экономической парадигмы ИИ. Подразделы 4.3–4.7 отведены под постановку пяти задач: демистификации; контекстуализации; участия гражданского общества; регулирования; позиционирования (Sheikh et al., 85–130).

Часть II составляет ядро анализа. В главах 5–9 рассмотрены по очереди пять задач социальной интеграции ИИ, которые были кратко обозначены в первой части: демистификация (demystifcation), контекстуализация (contextualization), вовлечение (engagement), регулирование (regulation) и позиционирование (international positioning).

Демистификация (demystifcation) относится к пониманию обществом ИИ, как технологии, и зависит от осознанного восприятия того, на что способен ИИ и на что нет сейчас и в будущем. Какие существуют мифы о том, как работает ИИ, о его вероятном будущем влиянии и о цифровых технологиях в целом. В частности, авторы отмечают, что «голландцы весьма обеспокоены потерей рабочих мест и устранением “человеческого фактора”» (Sheikh et al., 139).

Контекстуализация (contextualization) — это применение системы ИИ в определенном контексте, в определенном окружении, от которого зависит то, как она будет работать. Первый аспект, отмеченный авторами, — формирование и принятие обществом «технологических экосистем». Быстро развивающаяся технология ИИ эволюционирует параллельно с «поддерживающими технологиями» (Sheikh et al.,182). К их числу авторы относят такие технологии, как сети нового поколения 5G, которые представляют собой скачок вперед с точки зрения скорости, а также технологию «интернет вещей» (IoT). Это вызов для всех участников, вовлеченных в развертывание и реализацию ИИ, его функциональности в определенных областях. Интеграция систем ИИ, например, систем массового наблюдения, и растущая зависимость от частных поставщиков этих систем и цифровых услуг.

Вовлечение (engagement) относится к социальной обстановке вокруг систем ИИ, в частности внедрению социальных экосистем. Если не будет достаточного вовлечения систем ИИ, то на карту, по мнению авторов, будут поставлены такие основные права, как равенство, конфиденциальность, автономия, а также демократические принципы (инклюзивность, плюрализм). Нормативная база является важной предпосылкой для формирования этого участия, что обусловливает четвертую задачу.

Регулирование (regulation) действует на уровне общества в целом, фокусируясь на вопросе, какие правила и структуры требуются. Когда новая технология покидает лабораторию, изначально трудно контролировать, адаптировать или разрабатывать необходимые структуры. Многое еще неясно о ее природе и эффектах, и поэтому, пока ИИ еще не внедрен во все сферы общества, трудно понять, какие конкретные гражданские ценности он может поставить под угрозу. На раннем этапе технологические компании часто продвигают саморегулирование сектора или утверждают, что на самих пользователей можно положиться в деле защиты определенных ценностей. Постепенно, однако, выявляются структурные проблемы, требующие более активной роли правительства. Так, авторы приводят в качестве примера сеть Facebook⁶, которая использует технологию «черный ящик», связанную с глубинным обучением ИИ. Опасность, по мнению авторов, заключается в том, что невозможно выяснить, почему какое-либо сообщение появилось или нет в чьей-то ленте новостей. Это необязательно означает, что процесс принципиально непонятен, просто задача выяснения того, как система приходит к конкретному решению, очень сложна и недоступна обычному пользователю. Дальнейшее применение такого рода технологий на основе алгоритмов ИИ возможно и при фальсификации результатов выборов и т.д. Авторы приводят и другие примеры сетей, которым присущи аналогичные недостатки. По мере того как технология глубже укореняется в обществе, она всё больше затрагивает гражданские ценности, которые подпадают под ответственность правительства. Со временем более широкие социальные эффекты новой технологии становятся яснее, и поэтому политика и законодательство конкретизируются. По этой причине необходимо разрабатывать более широкие меры государственного регулирования. Впоследствии акцент саморегулирования ИИ сместился на государственное регулирование (авторы используют фразу «активное вмешательство правительства», подразумевая проект Закона Европейского союза об ИИ, который был принят уже после выхода издания). В то же время выявляются и другие структурные проблемы. Авторы подчеркивают, что не существует панацеи или «серебряных пуль» для регулирования системных технологий. Правильное внедрение технологии в общество требует широкого набора мер, разработанных в течение длительного периода времени. Примером является двигатель внутреннего сгорания, который сделал возможным появление автомобиля: ремни безопасности, страхование, номерные знаки, подушки безопасности, экзамены по вождению, правила дорожного движения и дорожные знаки были шагами, которые способствовали его социальной интеграции — процессу, который продолжается и по сей день, поскольку автомобиль и его среда постоянно развиваются. Было невозможно предвидеть, что все эти меры будут необходимы, когда автомобиль был впервые представлен.

Позиционирование (international positioning) — это международная задача позиционирования страны в области ИИ, которая связана с предыдущими задачами, но только на международном уровне в рамках Европейского союза. Задача позиционирования касается таких вопросов, как безопасность, научные разработки, развертывание сетей 5G, внедрение инфраструктуры данных, которые жизненно важны для общества, но по-разному принимаются и регулируются в каждой отдельно взятой стране.

В части III рассмотрены последствия анализа для политики. Глава 10 доносит основные идеи и связывает пять задач с рекомендациями: по две рекомендации для каждой задачи с конкретными пунктами действий.

Демистификация:

• Сделать изучение ИИ и его потенциальных приложений государственной функцией.
• Стимулировать «ИИ-грамотность» населения, начиная с создания регистров алгоритмов.

Контекстуализация:

• Разработать национальную идентичность ИИ, исследовать корректировки для технической экосистемы в соответствующих областях.
• Укрепить навыки и критические возможности лиц, работающих с системами ИИ, разработать структуры обучения и сертификации.

Вовлеченность:

• Укрепить потенциал организаций гражданского общества в цифровую эпоху с использованием ИИ.
• Проверить эффективные циклы обратной связи между разработчиками и пользователями ИИ.

Регулирование:

• Поставить на законодательную повестку вопросы регулирования ИИ и организации цифровой среды обитания.
• Использовать законодательство для активного управления разработками, связанными с наблюдением и сбором данных, конфликтом интересов между государственными и частными интересами в цифровой сфере.

Позиционирование:

• Укрепить конкурентоспособность Нидерландов с помощью «дипломатии ИИ» в рамках ЕС.
• Развивать знания, необходимые для обеспечения обороны Нидерландов в эпоху ИИ. Укрепить обороноспособность в «информационной войне» и защиту от экспорта «цифровой диктатуры».

Заключительная рекомендация: создать правительственную инфраструктуру для ИИ, начиная с координационного центра.

Отчет был написан для голландского правительства, и практические последствия рекомендаций специфичны для Нидерландов. Однако сами рекомендации универсальны и, по мнению авторов, могут быть актуальны и для других стран.

Издание носит несколько претенциозное наименование «Миссия ИИ». Естественно, авторы не придают ИИ статуса субъекта. Искусственный интеллект — это раздел информатики (практически все учебные издания по теме информатики включают такой или аналогичный раздел) уже более двух десятков лет. Соответственно, использовать термин «искусственный интеллект» без соответствующего контекста (система ИИ, приложение ИИ и т. д.), как это было популярно в 1960-е гг., в настоящее время не вполне корректно. Однако значимость технологий ИИ, выход ИИ «из лабораторий» в широкую жизнь, влияние на повседневные нужды, права и обязанности современного человека позволяют утверждать, что современный мир живет в эпоху систем ИИ. Обозначенные авторами «пять задач», «пять переходов» следует рассматривать как авторское экспертное ви́дение проблемы. Они подчеркивают, что предложенные решения касаются голландского общества. При этом именно Нидерланды являются пока единственной страной в мире — поставщиком автоматизированных литографических комплексов, которые производят заготовки для компьютерных чипов. Иными словами, голландцы первыми сталкиваются с проблематикой внедрения передовых информационных технологий, в том числе технологий ИИ, в современную жизнь. Соответственно, и новые правовые проблемы в сфере применения систем ИИ они начинают решать первыми. В качестве критического замечания можно отметить обобщенный теоретический подход авторов к проблеме.

В действительности первые шаги по контролю использования алгоритмов ИИ были сделаны уже после выхода отчета. 19 января 2021 г. парламент Нидерландов принял предложение о создании регистра алгоритмов⁷. В России от аналогичного решения пока отказались. В свою очередь в Англии 28 декабря 2024 г. на обсуждение был поставлен законопроект о контроле использования системами ИИ персональных данных (Data (Use and Access) Bill)⁸. Британское сообщество юристов рассматривает реестры алгоритмов как правовой инструмент и выступает за его внедрение в уголовном праве. Европейская комиссия также планирует введение реестра алгоритмов. Другая затронутая в издании правовая проблема, которая касается повседневной жизни любой страны, — цифровая среда обитания (в России — цифровая среда доверия). Авторы только ставят данную проблему. В целом отсутствие конкретных правовых решений и постановочный, описательный формат издания можно объяснить тем, что работа выполнялась для правительственных структур. Однако, несмотря на отдельные замечания, книга представляет несомненный интерес для исследователя. Описанные в издании проблемы могут быть присущи любому обществу и каждой социальной системе. Нидерланды, обладая передовыми технологиями, столкнулись с социальными и правовыми последствиями внедрения технологий ИИ раньше других. Тем самым для многих следующих юрисдикций есть шанс реализовать «преимущество отстающего», а именно не повторять ошибки идущего первым.

Несколько слов о том, кому будет полезно данное издание. Предполагаем, что все студенты-юристы (уровня специалитета и магистратуры), планирующие профессиональную деятельность с использованием компьютерных технологий, должны как минимум обратить внимание на данную книгу, а лучше прочитать ее. Особое внимание следует уделить четвертой задаче (регулированию) во второй главе.

Кроме того, издание может быть полезно специалистам сферы информационных технологий и информационной безопасности. Многие проблемы решаются технологически на стадии разработки систем и алгоритмов, соответственно, и внедрение технических и технологических систем ИИ в жизнь может быть реализовано более успешно и быстро. Книга будет любопытна преподавателям, а также всем, кто интересуется технологиями искусственного интеллекта.