522
Цифровые технологии в системе частноправовых (цивилистических) отношений
7. Болдырев В. А. Система регистрационных действий // Законы России:
опыт, анализ, практика. 2016. № 6. С. 79–86.
8. Запущен сервис для электронной регистрации сделок с недви-
жимостью – дом.рф. URL: https://www.xn
–
d1aqf.xn
–
p1ai/media/smi/
zapushchen-servis-dlya-elektronnoy-registratsii-sdelok-s-nedvizhimostyu-dom-rf/
9. Калинин С. Ю. Гражданско-правовой режим недвижимости // Юриди-
ческая наука. 2015. № 3. С. 36.
10. Коннова Е. Электронная подпись в любых сделках с жильем.
Что об этом надо знать // Жилье. 2020. 19 апр. URL:https://realty.rbc.ru/
news/5e7dbd569a7947b68d61bbc1
11. Матыцин Д. Е., Балтутите И. В. Обеспечение исполнения государствен-
ных и муниципальных контрактов: банковские гарантии и цифровые технологии
// Евразийский юридический журнал. 2020. № 11 (150). С. 133–136.
12. Цифровая экономика: проблемы правового регулирования / колл. авт.;
отв. ред. В. В. Зайцев, О. А. Серова. Москва: КНОРУС, 2019. 200 с.
13. Росреестр планирует развивать цифровые платформы с учетом лучших
международных практик. URL: https://rosreestr.gov.ru/press/archive/rosreestr-planiruet-
razvivat-tsifrovye-platformy-s-uchetom-luchshikh-mezhdunarodnykh-praktik/
14. The model of distribution of human and machine labor at intellectual production
in industry 4.0 / A. O. Inshakova, E. E. Frolova, E. P. Rusakova, S. I. Kovalev // Journal
of Intellectual Capital. 2020. № 21 (4). Рp. 601–622.
Д. А. Черноусов,
аспирант,
Московский финансово-юридический университет,
мировой судья судебного участка № 242 Симоновского судебного района
г. Москвы
КОДЕКС ЭТИКИ ИСКУССТВЕННОГО
ИНТЕЛЛЕКТА – ВЗГЛЯД НА САМОРЕГУЛИРОВАНИЕ ЦИФРОВЫХ
ТЕХНОЛОГИЙ В ГРАЖДАНСКО-ПРАВОВЫХ ОТНОШЕНИЯХ
Аннотация.
Статья посвящена исследованию Кодекса этики искусственного
интеллекта (далее – ИИ) через призму гражданско-правовых отношений. Автор на
основе анализа декларативного документа, позиций российских правоведов в об-
ласти гражданского права выявляет характеристики рассматриваемого документа
с точки зрения саморегулирования гражданско-правовых отношений в области ис-
кусственного интеллекта. Исследует обозначенные проблемы, подлежащие регу-
лированию участниками-подписантами, выявленные в сравнении с текущей ситу-
ацией в российском праве. Обращает внимание на предложенный термин акторов
ИИ и его характеристики как один из признаков отнесения лица к возможности
участия в добровольном использовании Кодекса. Делает вывод о влиянии рассма-
триваемого документа на гражданско-правовые отношения, необходимости учета
его при исследованиях учеными, как обозначившего пробелы в праве непосред-
523
Цифровые технологии в системе частноправовых (цивилистических) отношений
ственно технологическими компаниями, при разработке законодательства для ре-
гулирования ИИ в сфере цивилистических отношений.
Ключевые слова
: гражданское право, искусственный интеллект, актор
ИИ, право, саморегулирование, гражданско-правовые отношения, Кодекс этики
искусственного интеллекта, национальная стратегия развития искусственного
интеллекта
CODE OF ETHICS FOR ARTIFICIAL INTELLIGENCE – A VIEW
ON SELF-REGULATION OF DIGITAL TECHNOLOGIES IN CIVIL LEGAL
RELATIONS
Abstract.
The article is devoted to the author’s research on the Code of Ethics
of Artificial Intelligence (hereinafter referred to as AI), through the prism of civil law
relations. Based on the analysis of the declarative document, the positions of Russian
lawyers in the field of civil law, the author reveals the characteristics of the document
in question from the point of view of self-regulation of civil law relations in the field
of artificial intelligence. Explores the identified issues to be regulated by signatory
participants, identified in comparison with the current situation in Russian law. Draws
attention to the proposed term of AI Actors and its characteristics as one of the signs that
a person is eligible to participate in the voluntary use of the Code. He makes a conclusion
about the impact of the document under consideration on civil law relations, the need
to take it into account in research by scientists, as indicating gaps in law directly by
technology companies, when developing legislation to regulate AI in the field of civil
relations.
Keywords:
Civil law, Artificial intelligence, AI actor, Law, Self-regulation,
Civil law relations, Code of ethics for artificial intelligence, National strategy for the
development of artificial intelligence
В мире ускоренными темпами растет использование в промышленности
и в быту технологий с использованием искусственного интеллекта. Рост глобаль-
ного рынка таких технологий, по расчетам экспертов [14, 15], в промежутке с 2022
по 2026 г. составит в среднем 18,6 % в год и достигнет 900 миллиардов долларов.
Исследователи делят направления развития рынка по следующим категориям: ус-
луги, программное обеспечение и аппаратное обеспечение. Рост рынка, в зависи-
мости от категории, неравномерный, но в любом случае превышает 15 %, от его
текущего объема в год. Что свидетельствует о высоком его уровне и необходимо-
сти пристального внимания как со стороны участников рынка, так и со стороны
регуляторов. К ведущим странам в области развития технологий искусственного
интеллекта на настоящий момент относят Китай, Россию, США, Японию, кото-
рые создали и опубликовали свои стратегии развития технологий искусственного
интеллекта на среднесрочный период [16, 7, 17, 13], подразумевая, что данные
технологии и их производные станут основой роста экономики и одной из точек
для технологического превосходства. Что подталкивает к необходимости иссле-
дований в области права в части регулирования продуктов на основе технологии
524
Цифровые технологии в системе частноправовых (цивилистических) отношений
искусственного интеллекта. Скорость изменения уровня технологий нарастает
с каждым годом, что добавляет необходимости создания гибкой и приспосаблива-
емой системы подхода к регулированию отношений в области применения продук-
тов на основе технологии искусственного интеллекта в России. Исходя из приве-
денных данных, прогнозов исследователей рынков, наличия заинтересованности
на государственном уровне в развитии технологий искусственного интеллекта
в ведущих странах мира, тема исследования представляется автору актуальной.
В России регулирование на правовом уровне данных технологий представ-
лено: Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении экспери-
мента по установлению специального регулирования в целях создания необходи-
мых условий для разработки и внедрения технологий искусственного интеллекта
в субъекте Российской Федерации – городе федерального значения Москве и вне-
сении изменений в статьи 6 и 10 Федерального закона “О персональных дан-
ных”»; Указом Президента РФ от 10.10.2019 № 490, «О развитии искусствен-
ного интеллекта в Российской Федерации» (далее Указ Президента РФ) (вместе
с «Национальной стратегией развития искусственного интеллекта на период до
2030 года» – далее Стратегия) [7]; Распоряжением Правительства РФ от 19.08.2020
№ 2129-р «Об утверждении Концепции развития регулирования отношений в сфе-
ре технологий искусственного интеллекта и робототехники до 2024 года» (далее
– Распоряжение Правительства РФ) [19]. Кроме того, разработан ряд ГОСТов для
применения технологии ИИ в различных направлениях, а также для оценки каче-
ства систем на основе технологий искусственного интеллекта. В конце октября
2021 г. некоторыми из российских технологических компаний был создан и со-
гласован Кодекс этики в сфере ИИ, который направлен на применение систем на
основе технологии ИИ в гражданской сфере.
Существующие проблемы в области правового регулирования систем на ос-
нове искусственного интеллекта и их применения в России частично обозначе-
ны распоряжением Правительства РФ от 19.08.2020 № 2129-р «Об утверждении
Концепции развития регулирования отношений в сфере технологий искусствен-
ного интеллекта и робототехники до 2024 года» [19. С. 4]. К ним, например,
отнесены: соблюдение баланса между требованиями по защите персональных
данных и необходимостью их использования для обучения систем искусствен-
ного интеллекта; определение предмета и границ регулирования сферы исполь-
зования систем искусственного интеллекта и робототехники; ответственность
за причинение вреда с использованием систем искусственного интеллекта и ро-
бототехники; правовой режим результатов интеллектуальной деятельности,
созданных с использованием систем искусственного интеллекта. Как указано
в Национальной стратегии развития искусственного интеллекта России [7. С. 2],
необходимо адаптировать в нормативно-правовом отношении в части взаимо-
действия человека и систем на основе технологий искусственного интеллекта,
выработать этические нормы применения ИИ. Также определен срок приведе-
ния нормативно-правовой базы к условиям стремительных изменений в области
технологий искусственного интеллекта для своевременного и безопасного ре-
гулирования таких систем с обязательным стимулированием развития техноло-
525
Цифровые технологии в системе частноправовых (цивилистических) отношений
гий искусственного интеллекта. Как видится автору из Стратегии развития пра-
вого регулирования ИИ в России, ему отдается не последнее место в условиях
развития новой отрасли. Поиск баланса между необходимостью регулирования
и уровнем свободы отрасли от лишних бюрократических факторов непосред-
ственно влияет на скорость развития систем на основе искусственного интел-
лекта, а также дает синергетический эффект при правильном его подборе для раз-
вития страны. С учетом необходимости соблюдения прав человека, сохранности
персональных данных, безопасности людей и подконтрольности систем на основе
искусственного интеллекта автор делает вывод о наличии изначально требуемых
существенных ограничений и необходимости чуткого подхода к регулированию
области применения таких систем для недопущения перерегулированности и сни-
жения тормозящего действия правовых норм. На настоящий момент основными
вопросами для исследований в области правового регулирования систем искус-
ственного интеллекта автор считает исследование всех видов ответственности
при использовании систем с искусственным интеллектом во всех областях граж-
данского общества. При этом стоит отметить, что саморегулирование в данном
вопросе уже представлено в России.
Так, 26.10.2021 [18] на I Международном форуме «Этика искусственного ин-
теллекта (ИИ): начало доверия» подписан «Кодекс этики искусственного интел-
лекта» (далее – Кодекс) [12]. Данное действие положило начало добровольному
регулированию проблем, связанных с этикой искусственного интеллекта, огра-
ничением использования искусственного интеллекта, а также концепции ответ-
ственности за результаты деятельности систем ИИ, которую поддержало техноло-
гическое сообщество.
Кодекс имеет рекомендательный характер для всех присоединившихся лиц
[12. С. 9], однако в свете добровольного присоединения и, по сути, отсутствия
репрессивного аппарата, по мнению автора, будет более приемлем на первона-
чальном этапе регулирования гражданских правоотношений, чем государствен-
ное регулирование.
На момент написания статьи в число участников – подписантов Кодекса
включено 100 крупных технологических компаний России, включая все крупные
телекоммуникационные компании и ведущие университеты.
Сам Кодекс состоит из преамбулы и двух разделов. Первый раздел касает-
ся принципов этики и правил поведения подписантов при осуществлении ими
разработки, внедрения, использования и предоставления услуг, связанных с ИИ.
Второй отдельно оговаривает порядок использования Кодекса. По мнению автора,
стоит начать рассмотрение Кодекса со второй части.
Отдельно оговорено, что весь Кодекс базируется на законодательстве России, на-
чиная с Конституции РФ и международных договоров ратифицированных и действу-
ющих для Российской Федерации и заканчивая стратегиями развития ИИ [12. С. 8].
Что говорит о глубокой проработке принципов Кодекса и учете возможных пробелов
права, замеченных его создателями, не урегулированных прямо законодательством
РФ. Отдельно в тексте дано только понятие акторов ИИ [12. С. 8] и перечислены от-
носящиеся к ним лица, по критериям. По набору признаков, относящих лицо к акто-
526
Цифровые технологии в системе частноправовых (цивилистических) отношений
ру ИИ, можно сделать вывод о самом широком круге из возможных, который авторы
постарались внести в возможные подписанты Кодекса. Поскольку к ним отнесены
как разработчики и программисты, так пользователи и получатели услуг на основе
систем искусственного интеллекта (далее – СИИ). Остальные же термины приме-
нимые в рамках рассматриваемого документа предлагается брать из действующего
законодательства и использовать в установленном законом виде и порядке.
При этом, несмотря на наличие во второй части раздела, посвященного ме-
ханизму присоединения и реализации Кодекса, четко установленных правил по-
рядка реализации его не описано [12. С. 9–10]. Положениями предполагается
создание Комиссии по реализации Национального кодекса в сфере этики ИИ на
базе Ассоциации «Альянс в сфере искусственного интеллекта», при участии иных
заинтересованных организаций [12. С. 10]. Полномочия комиссии, документы,
ей издаваемые, обязательность решений комиссии для участников, возможность
оспаривания, порядок разрешения споров и т. п. не установлены.
Первый раздел Кодекса разделен на шесть параграфов, которые устанавлива-
ют основные принципы и правила проектирования ИИ, использования его и при-
менения в гражданском обороте.
Первый из них устанавливает следующие принципы развития технологий
ИИ: Человеко-ориентированный и гуманистический подход; Уважение автономии
и свободы воли человека; Законность; Отсутствие дискриминации; Оценка рисков
и гуманитарного воздействия [12. С. 1–3]. По мнению автора, данный набор прин-
ципов, имея декларативный характер, говорит о том, что подход разработчиков
Кодекса обстоятелен, имеет долгосрочную ориентацию в правовом поле, в том
числе и нацеленность на регулирование принципиальных моментов технологий,
которые могут оказывать воздействие на общество в целом.
Второй параграф направлен на установление ответственного отношения ак-
торов ИИ к разработке и использованию таких систем. Декларирует принципы
взаимодействия человека с ИИ, находящимся в гражданском обороте, и устанавли-
вает принципы проектирования таких отношений, проектирования безопасности
систем искусственного интеллекта и базовые принципы, применимые в граждан-
ском обороте, по мнению создателей Кодекса [12. С. 3–5]. Также данный параграф
в своем последнем пункте устанавливает необходимость контроля совершенствова-
ния ИИ для выявления предпосылок формирования «сильного ИИ», который на на-
стоящий момент воспринимается футурологами как возможная существенная опас-
ность [1. С. 106]. Проведенный автором анализ второго параграфа подтверждает
первоначальную мысль о саморегулировании крупными участниками гражданского
оборота на настоящий момент гражданско-правовых отношений в свете наличия
пробельности законодательства и в свете плотной работы в данном направлении
– декларированию предпосылок для выделения отдельной области права, которая
будет регулировать отношения, связанные с ИИ в долгосрочной перспективе.
Создавая данный Кодекс, по мнению автора, участники реализации иници-
ативы правильно выделили в третьем параграфе первой части основную мысль,
касающуюся ответственности лиц, занимающихся разработкой, использованием
и применением технологий ИИ в гражданско-правовом обороте, – ответствен-
527
Цифровые технологии в системе частноправовых (цивилистических) отношений
ность за действия ИИ несет человек. Несмотря на непроработанность данного
утверждения с точки зрения права, отсутствия аргументации и объема, уделен-
ного данному вопросу. Мысль об ответственности человека за действия ИИ – на
текущий момент основная в юридическом поле. Вне зависимости от того, кто яв-
ляется конечным ответственным лицом, – пользователь или разработчик, физиче-
ское или юридическое лицо или иные лица.
Четвертый параграф закрепляет прикладной характер использования техно-
логий ИИ для наибольшей пользы, в соответствии с назначением, заявляемым при
разработке, и развитие устанавливаемого Кодексом подхода для всех разработчи-
ков при внедрении и проектировании систем ИИ [12. С. 6]. Анализируя данные
принципы, стоит отметить, что они вписываются в стратегию саморегулирования
и заложения основ гражданско-правового регулирования в отношении ИИ в ча-
сти, не урегулированной правом, и, возможно, являются первым шагом к выделе-
нию области права, как предполагалось ранее.
Пятый параграф, устанавливает частичный отказ от конкуренции и обмен
опытом в развитии технологии ИИ для совместного повышения уровня компе-
тентности участников [12. С. 6–7]. Что вполне согласуется с «Национальной стра-
тегией развития искусственного интеллекта», утвержденной Указом Президента
РФ, и выработанным на ее основе распоряжением Правительства РФ.
Шестой параграф констатирует необходимость поднятий уровня доверия
к технологиям на базе ИИ, используемым в гражданском обороте путем открыто-
сти и добросовестности акторов ИИ и определенности их действий на базе выра-
ботанных этических принципов [12. С. 7–8].
Суммируя анализ Кодекса, с точки зрения автора, можно установить ниже-
следующие закономерности. Данный документ, подписанный и принятый к ис-
полнению ведущими участниками рынка технологий ИИ в нашей стране, являет-
ся саморегулирующим документом в области гражданско-правовых отношений,
в части, не урегулированной правом. Попыткой выделить в отдельную область
права правоотношения человека и ИИ, в которой необходимо установить основ-
ные принципы работы на базе Стратегии, утвержденной Указом Президента РФ
по развитию таких технологий. Несмотря на наличие критики в адрес Стратегии
и необходимости дальнейших исследований правоведов [3. C. 53]. Стоит отме-
тить, что рассматриваемый документ, в отличие от иных стран, озаботившихся
регулированием области этики в гражданско-правовых отношениях при исполь-
зовании технологий ИИ, принят не государственным органом, а как инициатива
ведущих компаний и разработчиков.
Подводя итоги исследования появления данного документа, его влияния на
гражданско-правовые отношения в государстве, хотелось бы выделить основные
моменты. Первоначальная инициатива негосударственных объединений в области
регулирования и установления правил для использования систем искусственного
интеллекта в гражданско-правовых отношениях показывает не только злободнев-
ность вопроса, но и назревший вопрос устранения пробелов законодательства
[8. С. 22–23] хотя бы в таком декларативном виде, для добровольного присоедине-
ния. Сигнал государству был подан со стороны значимых в экономическом плане
528
Цифровые технологии в системе частноправовых (цивилистических) отношений
лиц, которые ответственно подошли к вопросу обозначения принципов и норм как
этики, так и стратегии развития технологии ИИ в стране, полностью понимая
свою ответственность и необходимость следовать государственным интересам.
Альянс в сфере искусственного интеллекта поднял в том числе и вопрос ответ-
ственности за действия ИИ, который на настоящий момент предлагает решать
в соответствии с имеющимся законодательством, как понятно в любой области,
в том числе и в рамках гражданско-правовых отношений. При этом ответствен-
ность за действия ИИ предлагается возлагать на юридическое или физическое
лицо, в соответствии с мерой ответственности за принятия решения о выполне-
нии тех или иных действий, которые полагается фиксировать в рамках управ-
ления системами ИИ, поскольку это обязанность субъекта права – соблюдать
требования, установленные юридической нормой [10. С. 8; 6. С. 182]. Как бы
в дальнейшем ни решался вопрос об искусственном интеллекте и его месте
в гражданско-правовых отношениях, выделении его в отдельное направление
права, оставление его существующим объектом права, наделением его частично
правосубъектностью [11. С. 2–3; 2. С. 236–238; 5. С. 35–42], нельзя не признать,
что ответственность в системах с технологиями ИИ на настоящий момент мо-
гут нести только юридические и физические лица ввиду отсутствия «сильного
ИИ» и только поиска предпосылок к возможности его возникновения. В части
установления приоритета прав человека при общении с СИИ и иных принципов,
которые были описаны ранее, автор предлагает при формировании норматив-
но-правовой базы обязательно учесть положения, взятые за принципы организа-
ции гражданско-правовых отношений, выработанные в порядке саморегулиро-
вания технологическими компаниями России для соблюдения законодательства
и дополнить их в соответствии с разработками ученых-правоведов [12, 225;
9. С. 17–19] в части исследования систем ИИ с точки зрения гражданско-право-
вых отношений – использовать в государственном регулировании цивилистиче-
ских отношений.
Список литературы
1. Бостром Н., Искусственный интеллект. Этапы. Угрозы. Стратегии / пер.
с англ. С. Филина. Москва: Манн, Иванов и Фербер, 2016.
2. Габов А. В., Хаванова И. А. Эволюция роботов и право XXI века // Вестник
Томского государственного университета. 2018. № 435. С. 220–238.
3. Каплиев А. С. Критика национальной стратегии развития искусственно-
го интеллекта на период до 2030 года // Право и государство: теория и практика.
2020. № 2 (182). С. 51–53.
4. Котлярова В. В. Права искусственного интеллекта // Дневник науки.
2019. № 51. URL: http://dnevniknauki.ru/images/publications/2019/5/philosophy/
Kotlyarova_Shemyakina.pdf (дата обращения: 19.09.2022).
5. Морхат П. М. Юнит искусственного интеллекта как электронное лицо
// Вестник Московского государственного областного университета. 2018. № 2.
6. Овчинникова Т. А. Понятие и структура института юридической ответ-
ственности // Образование и право. 2022. № 2. С. 180–182.
529
Цифровые технологии в системе частноправовых (цивилистических) отношений
7. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного ин-
теллекта в Российской Федерации» (вместе с «Национальной стратегией развития
искусственного интеллекта на период до 2030 г.» от 10.10.2019. № 490 // Собрание
законодательства Российской Федерации. 14.10.2019. № 41. Ст. 5700.
8. Федотов М. А. Киберпространство как сфера обитания права // Бюллетень
ЮНЕСКО по авторскому праву. 1999. Т. XXXII, № 1. С. 21–30.
9. Федотов М. А. Роль университетской науки в формировании права искус-
ственного интеллекта // Цифровая среда и политика университетов в сфере ин-
теллектуальной собственности: сб. научных работ / отв. ред. проф. И. А. Близнец.
Москва: Издательская группа «Юрист», 2021. С. 9–19.
10. Юзефович Ж. Ю. Функции юридической ответственности и формы их
реализации по российскому законодательству: специальность 12.00.01 «Теория
и история права и государства; история учений о праве и государстве»: дис. …
канд. юрид. наук. Москва, 2004. 172 с.
11. Ястребов О. А. Правосубъектность электронного лица: теоретико-мето-
дологические подходы // Труды Института государства и права РАН. 2018. № 2.
URL: https://cyberleninka.ru/article/n/pravosubektnost-elektronnogo-litsa-teoretiko-
metodologicheskie-podhody (дата обращения: 18.09.2022).
12. Кодекс этики в сфере искусственного интеллекта. URL: https://a-ai.ru/
wp-content/uploads/2021/10/Кодекс_этики_в_сфере_ИИ_финальный.pdf
(дата
обращения: 18.09.2022).
13. URL: https://www8.cao.go.jp/cstp/ai/aistratagy2019.pdf (дата обращения:
18.09.2022).
14. URL: https://www.cnews.ru/reviews/ii_2022/articles/vyruchka_krupnejshih_
postav shchikov_ii (дата обращения: 18.09.2022).
15. URL: https://ict.moscow/research/mirovoi-rynok-iskusstvennogo-intellekta-2021–
2028/ (дата обращения: 18.09.2022).
16. URL: http://www.gov.cn/zhengce/content/2017–07/20/content_5211996.htm (дата
обращения: 18.09.2022).
17. URL: https://www.govinfo.gov/content/pkg/FR-2019–02–14/pdf/2019–02544.pdf
(дата обращения: 18.09.2022).
18. URL: https://rg.ru/2021/10/26/v-rossii-podpisan-kodeks-etiki-iskusstvennogo-
intel lekta.html (дата обращения: 18.09.2022).
19. Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утвержде-
нии Концепции развития регулирования отношений в сфере технологий искус-
ственного интеллекта и робототехники до 2024 года» // Собрание законодатель-
ства РФ. 31.08.2020. № 35. Ст. 5593.
