Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
150
9. Основные направления бюджетной, налоговой и таможенно-тарифной по-
литики на 2023 год и на плановый период 2024 и 2025 годов // СПС «Консультант
Плюс».
10. Правовое управление в кризисных ситуациях: монография / отв. ред.
Ю.А. Тихомиров. Проспект, 2022.
Д. А. Зубрик,
магистр юридических наук,
Гродненский государственный университет
имени Янки Купалы
ПРИЗНАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
В КАЧЕСТВЕ СУБЪЕКТА ПРАВОНАРУШЕНИЯ:
ПРОБЛЕМАТИКА И ПЕРСПЕКТИВЫ
Аннотация.
Применение искусственного интеллекта в повседневной жиз-
ни является неотъемлемым атрибутом современного общества. Продукты искус-
ственного интеллекта становятся все более качественными. Однако в доктрине
существуют споры относительно того, кто несет ответственность, если деятель-
ностью искусственного интеллекта будет причинен вред. В связи с этим были
проанализированы понятия «субъект правонарушения» и «искусственный интел-
лект». Также наличие основных законов робототехники позволяют установить
правила, которые искусственный интеллект должен учитывать при своей работе.
Выявлено, что искусственный интеллект не попадает под признаки субъекта пра-
вонарушения. Однако в рамках гражданско-правовой ответственности можем го-
ворить о частичном признании вины роботозированной системы, но с некоторыми
оговорками. Проведенный анализ концепции «электронного лица» выявил невоз-
можность внедрения нового субъекта правонарушения в силу своей специфики.
С учетом проведенного анализа сделан вывод, что признание искусственного ин-
теллекта в качестве субъекта правонарушения невозможно на современном этапе.
Ответственность должно нести то лицо, по ошибке которого робот причинил вред
общественным отношениям.
Ключевые слова
: искусственный интеллект, субъект правонарушения, от-
ветственность, общественные отношения, нейросеть, chat gpt-4, электронное лицо
RECOGNITION OF ARTIFICIAL INTELLIGENCE
AS A SUBJECT OF OFFENSE: PROBLEMS AND PERSPECTIVES
Abstract.
The use of artificial intelligence in everyday life is an integral attribute
of modern society. Artificial intelligence products are getting better and better.
However, there are disputes in the doctrine as to who is responsible if harm is caused by
the activities of artificial intelligence. In this scientific article, the concepts of “subject
of the offense” and “artificial intelligence” were analyzed. Also, the presence of the basic
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
151
laws of robotics allows you to establish the rules that artificial intelligence must take
into account in its work. It was revealed that artificial intelligence does not fall under
the signs of the subject of the offense. However, within the framework of civil liability,
we can talk about a partial recognition of the guilt of the robotic system, but with some
reservations. Also, the analysis of the concept of “electronic person” revealed the
impossibility of introducing a new subject of the offense due to its specificity. Taking
into account the analyzed material, we came to the conclusion that the recognition
of artificial intelligence as a subject of an offense is impossible at the present stage.
Responsibility should be borne by the person by whose mistake the robot caused harm
to public relations.
Keywords
: artificial intelligence, subject of offenses, responsibility, public
relations, neural network, chat gpt-4, electronic person
Имплементация информационных технологий в повседневную жизнь про-
исходит очень быстро. Ярким примером является создание Chat GPT-4, которая
была презентована 14 марта 2023 года. Данная нейросеть способна понимать есте-
ственный язык и выполнять задачи на всех языках мира, что делает ее гораздо
умнее остальных нейросетей. Кроме этого, данная нейросеть сдала экзамен на
адвоката, при этом набрав 297 баллов из 300, что является наивысшим результа-
том. То есть, можно сказать, что Chat GPT-4 обошел человека по силе интеллек-
туальных возможностей. Однако уже сейчас ведутся разговоры о создании GPT-5,
но Сэм Альтман, глава компании OpenAI, заявляет, что пока что обучение дан-
ной нейросети не началось, так как требуется проработать большой пласт техни-
ческих ошибок. Более того, необходимо отметить, что уже сейчас на просторах
сети Интернет существуют каталоги нейросетей. Абсолютно любой пользователь
может зарегистрировать в таком каталоге и выбрать ту нейросеть, которая соот-
ветствует его требованиям. Наличие систематизированного сайта позволит значи-
тельно упростить поиск необходимого сервиса.
Но смоделируем ситуацию, в которой искусственный интеллект причинил
вред общественным отношениям. Кто будет нести ответственность: человек или
роботизированная система? Кто является субъектом правонарушения?
Прежде чем приступить к установлению проблемных аспектов, необходи-
мо разобрать такие понятия как: «субъект правонарушения» и «искусственный
интеллект».
Разберем понятие «субъект правонарушения». Под субъектом правонаруше-
ния подразумевается лицо, совершившее общественно вредное деяние [10]. Более
того, в рамках статьи мы будем рассматривать данное понятие в широком понима-
нии, затрагивающее те отрасли права, которые регламентируют ответственность.
Также для того, чтобы лицо признавалось в качестве субъекта правонарушения,
необходимо наличие следующих признаков:
1) физическое или юридическое лицо;
2) вменяемое или обладающего правоспособностью (для юридического лица);
3) достижение возраста несения ответственности (для физического лица).
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
152
Что касается терминологии «искусственного интеллекта», то данное по-
нятие ввел Джон Маккарти, в котором закреплялось, что искусственный интел-
лект – это наука и технология создания интеллектуальных машин, особенно ин-
теллектуальных компьютерных программ. Это связано с аналогичной задачей
использования компьютеров для понимания человеческого интеллекта, но ИИ не
должен ограничиваться биологически наблюдаемыми методами [4]. Кроме того,
искусственный интеллект должен обладать следующими признаками:
1) наличие технического устройства;
2) способность к принятию, обработке и передаче информации;
3) способность к автономной работе;
4) самообучение на основе анализа информации и приобретенного опыта;
5) способность к принятию самостоятельных решений.
В своей работе О. Н. Толочко определяет, что искусственный интеллект – это
способность компьютерных систем (аппаратно-программных комплексов) выпол-
нять когнитивные функции, обычно присущие человеку. Более того, искусствен-
ный интеллект снабжается информационной базой, блоком, способным находить
решения благодаря встроенной в него программе, и интерфейсом для взаимодей-
ствия с человеком. Данные технические устройства позволяют искусственному
интеллекту самообучаться и выполнять поставленные задачи [2].
Необходимо отметить, что Айзеком Азимовым были выделены законы
робототехники:
1) Робот не может причинить вред человеку или своим бездействием допу-
стить, чтобы человеку был причинен вред;
2) робот должен повиноваться всем приказам, которые дает человек, кроме
тех случаев, когда эти приказы противоречат первому закону;
3) робот должен заботиться о своей безопасности в той мере, в которой это
не противоречит первому или второму законам [8].
Если сопоставить современное развитие искусственного интеллекта и дан-
ные законы, то возникает вопрос: можем ли мы говорить о том, что в случае при-
чинения вреда конкретным общественным отношениям, искусственный интел-
лект признается субъектом правонарушения и несет полную ответственность?
Ранее в данной статье мы выделили признаки, по которым лицо признает-
ся субъектом правонарушения. Сопоставим их с признаками искусственного ин-
теллекта. Первый признак – физическое или юридическое лицо. Искусственный
интеллект является техническим устройством, соответственно, мы не можем го-
ворить о том, что он [искусственный интеллект] является субъектом права в клас-
сическом понимании. Однако в доктрине рассматриваются вопросы о признании
искусственного интеллекта в качестве электронного лица.
В своей работе П. М. Морхат отмечает, что наделение правовым статусом
«электронного лица» приведет к созданию нового правового института. Данный
институт будет предусматривать в себе контроль и управление роботов отдельно
от физического или юридического лица, разграничение правоотношений между
роботом и третьей стороной, а также между роботом и его владельцем. Сам ав-
тор считает, что концепция «электронного лица» может иметь место, однако на
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
153
данной стадии развития технологий должна применяться в ограниченных случаях
[5. С. 73].
С. С. Горохова отмечает, что концепция «электронного лица» применима
к концепции коллективного субъекта права, так как данная концепция не пред-
полагает наделение правосубъектностью физического лица искусственный ин-
теллект. Более того, данная концепция должна быть направлена не на признание
самостоятельности искусственного интеллекта и исключения ответственности
физических и юридических лиц, а на закрепление порядка идентификации юни-
тов искусственного интеллекта и людей, ими управляющими [3. С. 30].
С нашей точки зрения, концепция «электронного лица» имеет место быть.
Однако ее применение может использоваться только в рамках гражданско-право-
вой ответственности. Такого же мнения придерживается Н. Н. Апостолова. Автор
аргументирует свою позицию тем, что в рамках гражданско-правовых отношений
искусственный интеллект может принимать решение самостоятельно без вмеша-
тельства человека. Более того, Н. Н. Апостолова делает оговорку о том, что такое
применение возможно только в отношении сильного искусственного интеллекта
[2. С. 114]. Мы также согласны с позицией автора.
Если говорить про административную и уголовную ответственность, то при
определении степени ответственности учитывается волевой признак и психиче-
ское отношение к совершенному деянию, т. е. вина.
В теории уголовного и административно-деликтного права существует 2 ка-
тегории вины: 1) умышленная; 2) неосторожная. Умышленная вина характеризу-
ется тем, что лицо осознает опасность совершенного деяния, предвидит возник-
новение последствий и желает их наступление. Можем ли мы говорить о том, что
искусственный интеллект умышленно совершает противоправное деяние? Если
рассматривать искусственный интеллект с точки зрения техники, то роботизиро-
ванная система может предвидеть определенные последствия. Однако в силу того,
что робот не оснащен интеллектуально-волевыми качествами, то он не понимает,
что совершает общественно опасное деяние. Более того, у искусственного интел-
лекта отсутствует желание о наступлении последствий. Соответственно, умыш-
ленная вина исключается.
Касательно неосторожной вины, то в данном случае имеется в виду, что
лицо не желает наступления общественно опасных последствий, но сознательно
допускает или относится к этому легкомысленно. Исходя из теории неосторож-
ной вины, можно сделать вывод, что искусственный интеллект при совершении
деяния попадает под ее действие. Но так ли это? Действительно, искусственный
интеллект может предвидеть наступления определенных последствий, но в силу
отсутствия когнитивно-психологических качеств не способен осознавать, что
именно такие действия ведут к наступлению последствий, которые человек рас-
ценивает как общественно опасные.
Конечно же, применение концепции электронного лица в уголовном и ад-
министративно-деликтном праве имеет место быть. Но такое использование воз-
можно при создании сильного искусственного интеллекта, способного не только
выполнять поставленные задачи, но и чувствовать, как человек. На сегодняшний
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
154
день такое использование повлекло бы за собой полный пересмотр теории о субъ-
ективной стороне правонарушения и преступления, что не представляется воз-
можным. При этом, если говорить об использовании концепции «электронного
лица», то возникает вопрос: какую именно ответственность будет нести искус-
ственный интеллект?
С нашей точки зрения, применение института ответственности в отношении
искусственного лица на современный этап развития невозможно. Это можно объ-
яснить тем, что применение ответственности в отношении конкретного лица яв-
ляется способом порицания и воспитания. Искусственный интеллект в силу своей
специфики не способен понимать сущность примененного наказания. Однако на-
казание в виде уничтожения потенциально опасного робота имеет место быть, но
оно не влечет за собой морального порицания к нему.
Следующий признак, который свойственен субъекту правонарушения – вме-
няемость (правоспособность).
Вменяемость является способностью лица осознавать общественную опас-
ность совершенного деяния и руководить своими действиями. Необходимо отме-
тить, что способность руководить своими действиями характерна для искусствен-
ного интеллекта. В данном случае имеется в виду, что искусственный интеллект,
запрограммированный на совершение конкретных задач, выполняет поставлен-
ные цели на основе собственной работы и самообучения. Однако, как уже было
сказано ранее, искусственный интеллект не может давать морально-этическую
оценку совершенного деяния. Соответственно, мы не можем говорить о том, что
искусственный интеллект попадает под действие признака вменяемости. Более
того, нельзя говорить о том, что искусственный интеллект, имеющий статут «элек-
тронного лица» обладает вменяемостью, поскольку данный признак характерен
для человека, так как в данном случае имеются в виду биологические процессы,
проходящие в организме.
Что касается правоспособности в рамках признаков субъекта правонаруше-
ния, то в данном случае имеется в виду способность юридического лица иметь
гражданские права и обязанности и нести ответственность. Как мы определили
ранее, искусственный интеллект не способен нести ответственность. Однако мо-
жем ли мы говорить о том, что робот обладает правами и обязанностями?
В теории развития робототехники, в будущем, когда роботизированная
система будет приравнена к человеку, создание гражданских прав искусственного
интеллекта будет являться необходимым условием. К таким правам можно пере-
числить: право на качественное техническое обслуживание (аналог права на ме-
дицинское обслуживание), право на самообучение (аналог права на образование),
право на неприкосновенность.
Если говорить об обязанностях, в целом, можно сказать, что обязанности
были отражены в законах робототехники Айзенка Азимова. То есть, мы можем го-
ворить о том, что уже сейчас искусственный интеллект несет обязанности, однако
не имеет прав.
Следующий признак – это наступление возраста несения ответственно-
сти. В данном случае проблематичным является определение, с какого момента
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
155
искусственный интеллект способен нести ответственность. С нашей точки зре-
ния, момент, с которого искусственный интеллект несет ответственность, возни-
кает тогда, когда будет окончено формирование программной кодировки, и робот
будет готов к выполнению всех поставленных задач.
Подводя промежуточный итог, можно сказать, что искусственный интел-
лект на современном этапе развития нельзя признавать в качестве субъекта
правонарушения.
Однако возникает вопрос: кто несет ответственность, если был причинен
вред общественным отношениям искусственным интеллектом? [9].
В своей работе Е. Н. Агибалова выделяет семь моделей ответственности за
деяние робота: 1) действия искусственного интеллекта признаются обстоятель-
ством непреодолимой силы, и, соответственно, ответственность исключается;
2) назначение пострадавшему лицу компенсации из средств страхового фонда
или за счет владельца робота, т. е., частичное освобождение от ответственности;
3) Определение причин по которым роботом был совершен вред. То есть, речь
идет о том, что если будет выяснено, что деяние было вызвано дефектами кон-
струкции, то ответственность должен нести производитель. Если ответствен-
ность была вызвана ошибкой в кодировке, то ответственность должен нести раз-
работчик; 4) ограниченная безвиновная ответственность; 5) полная безвиновная
ответственность, т. е. какое-то конкретное лицо несет всю ответственность за
действия искусственного интеллекта; 6) личная ответственность самого робота;
7) смешанный тип ответственности, при котором применяются те методы ответ-
ственности, более подходящие в соответствии со степенью опасности робота
[1. С. 18]. С нашей точки зрения, применение безвиновной ответственности по
отношению к лицу, за которым закрепляется искусственный интеллект, не совсем
верно. Роботизированная система может причинить вред по различным факторам,
которые, например, зависели от разработчика или инженера. Поэтому необходи-
мо учитывать не только лицо, за которым закреплен искусственный интеллект,
но и других лиц, участвовавших в его разработке.
В своей работе И. Н. Романова отмечает, что если речь идет об администра-
тивной и уголовной ответственности, то при назначении наказания необходимо
учитывать характер наступивших последствий и форму вины причинителя вре-
да, т. е. лица, определявшего условия и параметры использования искусственно-
го интеллекта. Если говорить про гражданско-правовую ответственность, то про-
блема признания искусственного интеллекта в качестве правонарушителя можно
решить путем признания данной технологии источником повышенной опасно-
сти [6. С. 76].
С точки зрения С. С. Гороховой, ответственность должны нести непосред-
ственно разработчики, так как в их обязанности входит принятие шагов, которые
могли бы предотвратить причинение вреда [4]. Аналогичного мнения придержи-
вается И. Р. Бегишев [3]. По нашему мнению, возложение полной ответственности
на разработчиков также не является верным. Следует разграничивать причины,
в силу которых искусственный интеллект причинил вред, и, исходя из этих при-
чин, определить, какой субъект будет нести ответственность.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
156
В своей работе О. Н. Толочко рассматривает возможные варианты ответ-
ственности искусственного интеллекта в гражданском праве: 1) возложение от-
ветственности на владельца данной системы; 2) частичное освобождение от от-
ветственности с введением страховых выплат; 3) признание действий робота как
обстоятельство непреодолимой силы, т. е. исключение ответственности; 4) раз-
граничить ответственность, а именно, ответственность несет то лицо, в резуль-
тате действий которого в работе искусственного интеллекта была ошибка; 5) от-
ветственность несет сам робот, поскольку он наделен правосубъектностью как
«электронное лицо». Автор утверждает, что самообучающая машина непредска-
зуема, поэтому в рамках гражданско-правового регулирования необходимо рас-
сматривать все варианты [7]. Мы также солидарны с мнением автора и считаем,
что непосредственное использование всех вариантов ответственности достаточно
полно и всесторонне позволяет разрешить подобную проблематику.
Таким образом, можно сделать вывод, что искусственный интеллект на со-
временном этапе развития нельзя признавать в качестве субъекта правонаруше-
ния. Это обосновано рядом причин: 1) отсутствует нормативное регулирование
ответственности в отношении робота-правонарушителя; 2) отсутствие совпаде-
ний критериев между искусственным интеллектом и субъектом правонарушения;
3) невозможность применения ответственности в силу отсутствия у робота пони-
мания сущности ответственности.
Ответственность должен нести гражданин, т. е. субъект права, который был
указан в качестве лица, отвечающего за контроль деятельности искусственного
интеллекта. Однако такое указание не является аксиомой и, соответственно, мо-
жет изменяться в зависимости от причин, по которым искусственный интеллект
причинил вред.
Список литературы
1. Агибалова Е. Н. Юридическая ответственность при применении систем
искусственного интеллекта // Государство, право и общество: вопросы теории
и практики: материалы второй Всероссийской научно-практической конференции
(Сочи, 7–8 февраля 2020 г.) / отв. редактор В. И. Скрябин. Сочи, 2020. С. 15–24.
2. Апостолова Н. Н. Ответственность за вред, причиненный искусственным
интеллектом // Северо-Кавказский юридический вестник. 2021. № 1. С. 112–119.
3. Бегишев И. Р. Уголовная ответственность за создание и (или) распростра-
нение роботов, предназначенных для целей совершения преступлений // Северо-
Кавказский юридический вестник. 2021. № 2. С. 140–148.
4. Горохова С. С. О некоторых аспектах публичной юридической ответствен-
ности в сфере использования искусственного интеллекта и автономных роботов //
Юридические исследования. 2021. № 5. С. 24–37.
5. Морхат П. М. Проблемы определения юридической ответственности за
действия искусственного интеллекта // Право и государство: теория и практика.
2017. № 9(53). С. 70–74.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
157
6. Романова И. Н. Проблемы юридической ответственности за вред, причи-
ненный при использовании технологий искусственного интеллекта // Человек:
преступление и наказание. 2022. Т. 30, № 1. С. 72–77.
7. Толочко О. Н. Теоретические и прикладные проблемы гражданско-пра-
вового регулирования технологий искусственного интеллекта // ЭТАЛОН.
Законодательство Республики Беларусь / Нац. центр правовой информ. Респ.
Беларусь. Минск, 2023.
8. Три закона Азимова помогли сформировать ИИ. Нам нужно еще четыре.
URL: https://habr.com/ru/companies/skillfactory/articles/528236
9. Хисамова З. И. Уголовная ответственность и искусственный интеллект:
теоретические и прикладные аспекты // Всероссийский криминологический жур-
нал. 2019. Т. 13, № 4. С. 564–574.
10. Филипова И. А., Коротеев В. Д. Будущее искусственного интеллекта:
объект или субъект права? // Journal of Digital Technologies and Law. 2023. Т. 1,
№ 2. С. 359–386.
П. А. Иллюк,
аспирант,
Институт законодательства и сравнительного правоведения
при Правительстве Российской Федерации
ПРАВО НА ЗАБВЕНИЕ В ИНДОНЕЗИИ:
ЮРИДИЧЕСКИЕ АСПЕКТЫ И ПРОБЛЕМЫ
Аннотация.
В статье рассматривается вопрос индонезийского права на заб-
вение. Право на забвение позволяет удалять из поисковых систем информацию,
распространяемую с нарушением законодательства, или недостоверную инфор-
мацию. Индонезия стала первой страной в Азии, которая ввела в законодатель-
ство «право на забвение», однако в отечественной правоведческой науке данному
вопросу было уделено мало внимания, что не ума ляет актуальности темы в эпоху
технологического развития. В результате исследования была выяснено следую-
щее. У индонезийского права на забвение, помимо Конституции Индонезии,
есть два непосредственных источника регулирования: Закона «Об информации
и электронных транзакциях» от 2008 г. и Постановление Правительства № 71 от
2019 г. «О внедрении электронных систем и транзакций». В первом Законе ука-
зано, что каждый оператор электронной системы обязан удалить нерелевантную
электронную информацию, на основании решения суда. Однако в этих норма-
тивно-правовых актах нет ни самого понятия «право на забвение», ни его опре-
делении, а также нет разъяснения того, что имеется в виду под нерелевантной
информацией.
Ключевые слова
: цифровые технологии, цифровизация, цифровое право,
индонезийское право, индонезийское цифровое право, право на забвение
