О возможности признания искусственного интеллекта субъектом преступления против интеллектуальной собственности

40

Цифровые технологии и интеллектуальные права

Таким образом, в настоящее время на рынке юридических технологий суще-

ствует уже достаточное количество продуктов, которые юристы могут использо-
вать для улучшения качества своей работы и обеспечения эффективной защиты
нарушенных прав. При этом, стремясь защитить результаты интеллектуальной
деятельности, юристы должны использовать наиболее подходящие технологии.

Список литературы

1. Косов М. Е. Рынок LegalTech: обзор и перспективы развития //

Международный журнал гражданского и торгового права. 2019. № 2.

С. 19–29.

2. Минбалеев А. В. Понятие и признаки LegalTech // Юридический мир. –

2022. № 5.

С. 36–40.

3. О создании Общероссийской общественно-государственной организации

«Российский центр оборота прав на результаты творческой деятельности»: Указ
Президента РФ от 28 июня 2021 г. // СПС «Гарант».

URL: https://www.garant.ru/

hotlaw/federal/1473806/ (дата обращения: 10.09.2022).

4. Рожкова М. А. О правовых аспектах использования технологий legaltech

и lawtech // Хозяйство и право. 2020. № 3(518).

С. 3–11.

С. Н. Титов,

кандидат юридических наук, доцент,

Ульяновский государственный педагогический

университет имени И. Н. Ульянова

О ВОЗМОЖНОСТИ ПРИЗНАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

СУБЪЕКТОМ ПРЕСТУПЛЕНИЯ ПРОТИВ ИНТЕЛЛЕКТУАЛЬНОЙ

СОБСТВЕННОСТИ

Аннотация.

Целью настоящего исследования является решение проблемы

признания за искусственным интеллектом способности быть признанным субъ-
ектом преступления. Автор рассматривает историю данного вопроса и пред-
принимает попытку исследования обозначенной проблемы с точки зрения пер-
спектив наделения искусственного интеллекта правосубъектностью, теории
причинной связи и целей наказания. Сделан вывод о том, что основным пре-
пятствием для такого шага является несоответствие возможных мер наказания
в отношении искусственного интеллекта целям наказания, указанным в ст. 43
УК РФ, поскольку за искусственным интеллектом невозможно признать свободу
морального выбора, а перечень существующих наказаний в силу их карательной
природы неприменим к искусственному интеллекту.

Ключевые слова

:

право, цифровые технологии, искусственный интеллект,

уголовная ответственность, интеллектуальная собственность, наказание, цели на-
казания, правосубъектность, причинная связь, объекты авторского права

41

Цифровые технологии и интеллектуальные права

ON THE POSSIBILITY OF RECOGNIZING ARTIFICIAL INTELLIGENCE

AS THE SUBJECT OF A CRIME AGAINST INTELLECTUAL PROPERTY

Abstract.

The purpose of this study is to solve the problem of recognizing the

ability of artificial intelligence to be recognized as the subject of a crime. The author
considers the history of this issue and attempts to study the identified problem from the
point of view of the prospects for endowing artificial intelligence with legal personality,
from the point of view of the theory of causality and from the point of view of the
goals of punishment. The author concluded that the main obstacle to such a step is
the inconsistency of possible penalties against artificial intelligence with the goals of
punishment specified in Art. 43 of the Criminal Code of the Russian Federation, since
it is impossible to recognize the freedom of moral choice for artificial intelligence, and
the list of existing punishments, due to their punitive nature, is not applicable to artificial
intelligence.

Keywords

: Law, Digital technologies, Artificial intelligence, Criminal liability,

Intellectual property, Punishment, Goals of punishment, Legal personality, Causality,
Objects of copyright

То, что мы думаем, всегда намного менее сложно,
нежели то, чем мы думаем

Станислав Лем

Вопросы правового регулирования в области искусственного интеллекта в на-

стоящее время являются не просто актуальными, а злободневными. Обусловлено
это в первую очередь тем, какие перспективы видятся в экономике, технике, науке
за технологиями искусственного интеллекта.

В литературе отмечается, что идея искусственного интеллекта исторически

связана с поиском еще средневековыми философами совершенного («философ-
ского») языка [7. С. 159; 9].

Возможность построения системы, обладающей свойствами искусственного

интеллекта, была обоснована в середине прошлого века [15. С. 7]. Выделяют три
этапа развития в этой сфере: 1950–60-е гг. – постановка задач, определение ме-
тодологии; 1960–70-е гг. – получение искусственным интеллектом статуса «клас-
сической» научно-технической дисциплины; начиная с 1980-х гг. наступает этап
практического использования достижений в области искусственного интеллекта
[7. С. 159].

Научные исследования в этой сфере, нужно сказать, связаны со множеством

сложностей. Об этом говорит хотя бы то, что само понятие «искусственный интел-
лект», как и понятие «интеллект», является дискуссионным.

Особую актуальность вопросу придают такие решения, как предоставление

гражданства Саудовской Аравии роботу Софии в 2017 г.

Активное обсуждение этих вопросов на самом высоком уровне (на уровне пре-

зидента) в нашей стране началось в 2019 г. В очередном послании Федеральному

42

Цифровые технологии и интеллектуальные права

Собранию Президент России В. В. Путин заявил о необходимости вхождения
России в число лидеров по развитию искусственного интеллекта.

30 мая 2019 г. состоялось совещание о развитии технологий в области ис-

кусственного интеллекта, в ходе которого В. В. Путин отметил беспрецедентное
влияние развития искусственного интеллекта на экономику.

Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искус-

ственного интеллекта в Российской Федерации» была утверждена Национальная
стратегия развития искусственного интеллекта на период до 2030 г., в которой
впервые в российском законодательстве дано определение искусственному
интеллекту.

Стратегия содержит описание комплексной системы регулирования, вклю-

чающей семь основных направлений создания такой системы. К сожалению, все
они предполагают лишь устранение барьеров развитию систем искусственного
интеллекта. Вопросы ответственности остаются за рамками Стратегии.

Фокусирование внимания на вопросах искусственного интеллекта продол-

жилось на правительственном уровне. В частности, в августе 2019 г. была утвер-
ждена Стратегия развития экспорта услуг до 2025 г.

Такая тенденция наблюдается и за рубежом. Например, президент Франции

объявил развитие систем искусственного интеллекта одним из приоритетов рабо-
ты правительства [1. С. 50]. В литературе отмечается, что внедрение искусствен-
ного интеллекта показывает множество «слепых пятен права» [20. С. 148].

В США реализуется Дорожная карта развития робототехники (2011, 2016)

и Национальная робототехническая инициатива (2011, 2016).

В Японии действует Японская стратегия роботов: обзор, стратегия, план дей-

ствий (2014).

16 февраля 2017 г. Европарламентом принята резолюция «Нормы граждан-

ского права о робототехнике» [17]. Одно из заключений резолюции может быть
расценено как допущение придания искусственному интеллекту самостоятельно-
го правового статуса: «Разъяснение ответственности за действия роботов и, в ко-
нечном итоге, правоспособности и/или статуса роботов и искусственного интел-
лекта необходимо для обеспечения прозрачности и правовой определенности для
производителей и потребителей в Европейском союзе».

В уголовном праве проблемам искусственного интеллекта пока внимания

почти не уделяется. Большая часть работ уголовно-правовой направленности об
искусственном интеллекте касаются использования технологий искусственного
интеллекта в правосудии либо правового статуса продуктов, создаваемых искус-
ственным интеллектом [11]. В то же время отдельные публикации по уголовной
ответственности появляются. В основной своей массе они посвящены проблеме
распределения бремени уголовной ответственности в случае причинения вреда
личности, обществу, государству с участием искусственного интеллекта.

Можно с уверенностью сказать, что возможность признания искусственного

интеллекта субъектом преступления является основной проблемой в рассматри-
ваемой сфере. Из этой проблемы логически вытекают все сопутствующие, касаю-
щиеся формулирования субъективной стороны, мер воздействия и т. п.

43

Цифровые технологии и интеллектуальные права

Описанная выше основная проблема получает особую актуализацию в сфере

интеллектуальной собственности. Это связано с тем, что одним из основных спо-
собов совершения преступлений против интеллектуальной собственности являет-
ся незаконные действия с информацией, причем в сети Интернет.

Признавая, что данный вопрос является обширным и требующим отдельного

серьезного исследования, а результаты научных изысканий в этой области силь-
но зависят от траектории развития технологий, автор все же осмелится сделать
определенные суждения применительно к уголовно-правовой регламентации от-
ветственности за преступления против интеллектуальной собственности.

Одной из характеристик искусственного интеллекта, отмеченной и На цио-

нальной стратегии, является способность к самообучению. Это означает, что ма-
шина самостоятельно, получая все больше и больше данных и рассматривая все
больше и больше вариантов решений, получает способность принимать различ-
ные решения, в теории все более и более точные. Означает это и другое: в опреде-
ленный момент искусственный интеллект начинает принимать решения, которые
не прогнозировались человеком и, возможно, не являются желаемыми для чело-
века. То есть система действует автономно и принимает решения, напрямую не
обусловленные действиями разработчика, не находящиеся в прямой причинной
связи от действий разработчика.

Примеров тому в печати можно встретить множество. В марте 2016 г. ком-

пания

Microsoft запустила twitter-бота по имени Тай, которая обладала способно-

стью к обучению общению в Интернете. Всего за сутки бот научился нецензурно
выражаться, заявил, что он «хороший человек, просто всех ненавидит», оправдал
холокост и назвал Гитлера крутым и стильным. Компания вынуждена была отклю-
чить бота в первый же день. После этого появился бот Zo, «социальный чат-бот
с характером 22-летней девушки», который был запрограммирован избегать раз-
говоров на политические и религиозные темы, но все же назвал Коран жестоким
и высказывался на тему ареста Усамы бен Ладана.

Как отмечают И. И. и И. И. Карташовы, «ни одна система с ИИ не может и не

будет отвечать в полной мере требованию прозрачности. Здесь следует понимать,
что система с ИИ – это объект со сложной архитектурой, которая не позволяет
понять ее «с наскока»… Наконец, не следует забывать, что система с ИИ – это
система, которая не является статичной, она способна с самообучению и самосо-
вершенствованию» [3. С. 85].

Следует выделить три принципиальных варианта причинения вреда в сфере

интеллектуальной собственности: искусственный интеллект причиняет вред под
контролем человека, искусственный интеллект причиняет вред в результате ошиб-
ки человека и искусственный интеллект причиняет вред, действуя автономно.

В первом случае ситуация является вполне простой. Человек намеренно на-

рушает отношения интеллектуальной собственности и использует для этого ис-
кусственный интеллект. Последний в данном случае будет выступать средством
совершения преступления. Виновный осознает происходящее, социальное значе-
ние своих действий, желает их совершить. Также сознанием и волей виновного
охватывается использование искусственного интеллекта в качестве средства. Речь

44

Цифровые технологии и интеллектуальные права

может идти в первую очередь о вирусных компьютерных программах. Субъектом
в данном случае может выступать как разработчик программы, так и иной
пользователь.

Причинение программы возможно и в результате ошибки, допущенной че-

ловеком. Применительно к данному случаю М. М. Лапунин говорит о распреде-
лении бремени ответственности между разработчиком, изготовителем и пользо-
вателем [5].

Функционирование систем искусственного интеллекта связано со множеством

алгоритмов, в процессе создания которых возможны ошибки технического плана,
связанные с неосторожностью либо некомпетентностью разработчиков [8. С. 60].

В случае, когда программа действует автономно, ситуация сложнее. В дан-

ном случае самообучение алгоритма приводит к решению о причинении вреда.
В первую очередь следует отметить важность строгой регламентации границ тако-
го самообучения алгоритмов, введения запретов на причинение вреда, которые не
могут нарушаться ни при каких обстоятельствах. Например, в Германии разрабо-
таны правила, запрещающие беспилотникам принимать решения о том, чьи жизни
должны быть спасены [4. С. 124].

И все же следует разделить опасения, что алгоритм может остаться непред-

сказуемым и выйдет за пределы заложенных разработчиками ограничений.

Применительно к последнему случаю возможность привлечения искусствен-

ного интеллекта к уголовной ответственности может быть рассмотрена в трех аспек-
тах: с точки зрения возможности наделения искусственного интеллекта правосубъ-
ектностью, с точки зрения причинной связи и с точки зрения целей наказания.

Вопрос о привлечении к ответственности за совершение правонарушения

неразрывно связан с наделением его правосубъектностью.

Выделяют три возможных подхода к вопросу о правосубъектности искус-

ственного интеллекта: наделение искусственного интеллекта правосубъектно-
стью, соответствующей человеческой; наделение искусственного интеллекта пра-
восубъектностью, аналогичной правовому статусу юридического лица; наделение
искусственного интеллекта новой ограниченной правосубъектностью [14. С. 570;
2. С. 33].

Н. Невьянс приходит к выводу о несостоятельности идеи наделения искус-

ственного интеллекта самостоятельной правосубъектностью, так как в данном
случае права человека экстраполируются на действия искусственного интеллекта
[19. С. 15].

Отечественными исследователями отмечается, что искусственный интеллект

не может быть признан субъектом права, поскольку не обладают волей в правовом
смысле, не имеют собственных интересов, не могут формировать субъективное
отношение к совершаемым деяниям, не имеют чувства вины [10. С. 11].

По мнению Р. Линеса и Ф. Люсиверо, ответственность за вред, причиненный

искусственным интеллектом, несет лицо, его программировавшее, либо лицо, от-
ветственное за его эксплуатацию в установленных законом рамках [18], в случае
неправомерного доступа к системам искусственного интеллекта – человек, осу-
ществивший такой доступ [14. С. 567–568].

45

Цифровые технологии и интеллектуальные права

Вместе с тем рядом авторов отмечается, что искусственный интеллект может

быть наделен отдельными правами, отличными от прав реального физического
лица. В указанном случае уместно говорить о юридической фикции – приеме, при
котором специфическая правосубъектность искусственного интеллекта может
восприниматься как нестандартное правовое положение, отличное от реальности
[14. С. 570].

С учетом высказанных точек зрения отсутствие правосубъектности искус-

ственного интеллекта не может рассматриваться как принципиальное препятствие
для признания его субъектом преступления. Это связано с тем, что предложены
конкретные варианты наделения искусственного интеллекта правосубъектностью,
а значит, это препятствие является принципиально преодолимым.

Оценим ситуацию с позиций причинно-следственной связи. С одной сторо-

ны, в настоящее время за системами искусственного интеллекта не признается
способность совершить волевые поступки, а значит отрицается возможность как
самостоятельного совершения преступления искусственным интеллектом, так
и совершение им эксцесса [12. С. 12].

С другой стороны, как справедливо отмечает П. М. Морхат, нецелесообраз-

но и некорректно возлагать ответственность на проектировщиков и разработчи-
ков искусственного, представляющего собой комплекс сложного оборудования
и устройств, разработанных в отдельности, где результат конечного решения ис-
кусственного интеллекта во многом зависит от обстановки его применения и воз-
лагаемых на него задач [6].

В науке уголовного права под причиной понимается явление, которое с вну-

тренней необходимостью влечет другое явление – следствие [3. С. 89].

Причинная связь существует объективно и устанавливается между неким со-

бытием и преступными последствиями. В связи с этим способность либо неспо-
собность искусственного интеллекта к волевым поступкам сама по себе не влияет
на наличие или отсутствие причинной связи.

Представляется чрезвычайно значимым рассмотреть возможность привлече-

ния искусственного интеллекта к уголовной ответственности с точки зрения целей
наказания. Хотелось бы подчеркнуть, что это несомненно важнее, чем определе-
ние способности искусственного интеллекта к волевым поступкам, его право-
субъектности и т. п. Объясняется это предельно просто. В случае, если наказание
искусственного интеллекта предполагает какую-либо достижимую и полезную
целью, оно является целесообразным и должно быть осуществлено, независимо
от статуса субъекта.

В случае же если наказание искусственного интеллекта не может преследо-

вать никакой разумной цели, применение его теряет всякий смысл, также незави-
симо от статуса действующего субъекта.

Согласно ст. 43 УК РФ, целями наказания являются восстановление соци-

альной справедливости, исправление осужденного и предупреждение совершения
новых преступлений.

Применение наказания к искусственному интеллекту связано с двумя проб-

лемами. Во-первых, при всех возможностях систем искусственного интеллекта

46

Цифровые технологии и интеллектуальные права

его на сегодняшний день нельзя наделить способностью к моральному выбору.
В общественном сознании совершение преступления связано именно с указанной
способностью. В противном случае невозможно говорить о вине о восстановле-
нии социальной справедливости через кару субъекта.

В литературе иногда говорится, что преступник является «моральным аген-

том» (a moral agent) [16. С. 24]. Предупреждение совершения новых преступлений
происходит именно через рефлексивное сопоставление совершенного морального
выбора и последующего за ним наказания и планируемых поступков. Это сопо-
ставление осуществляется как самим виновным, так и другими членами обще-
ства. Так работает общая и частная превенция.

При отсутствии свободы морального выбора может иметь место только

ущерб, но не виновно причиненный вред.

Другой проблемой является возможность карательного воздействия наказа-

ния на искусственный интеллект. Действительно, сложно представить наказание,
которое способно было бы исправить этого субъекта преступления при признании
его таковым.

Очевидной аналогией может выступать привлечение к уголовной ответ-

ственности юридических лиц. И в том и в другом случае имеет место опосредо-
ванное участие человека в развитии причинной связи преступления, нецелесоо-
бразность применения большинства предусмотренных ст. 44 УК РФ наказаний
и т. д. Между тем, вопрос об уголовной ответственности юридических лиц много
лет всерьез обсуждается и система наказаний для таких субъектов предложена
неоднократно.

В то же время между юридическими лицами и искусственным интеллектом

существует одно большое различие. Компании создаются, как правило, для извле-
чения прибыли. Это делает целесообразным применение к ним принудительных
мер с экономическим содержанием. Для искусственного интеллекта эффектив-
ность таких мер неочевидна.

На основании изложенного можно заключить следующее. Основной пробле-

мой, связанной с регулированием отношений по поводу искусственного интеллек-
та, является признание возможности или невозможности признания искусственного
интеллекта субъектом преступления. Рассмотрение данной проблемы с разных то-
чек зрения показывает, что основным препятствием для такого шага является несо-
ответствие возможных мер наказания в отношении искусственного интеллекта це-
лям наказания, указанным в ст. 43 УК РФ, поскольку за искусственным интеллектом
невозможно признать свободу морального выбора, а перечень существующих нака-
заний в силу их карательной природы неприменим к искусственному интеллекту.

Список литературы

1. Дюфло А. Искусственный интеллект во французском праве // Вестник

Университета им. О. Е. Кутафина. 2021. № 1(77). С. 47–55.

2. Ивлиев Г. П., Егорова М. А. Юридическая проблематика правового стату-

са искусственного интеллекта и продуктов, созданных системами искусственного
интеллекта // Журнал российского права. 2022. № 6. С. 32–46.

47

Цифровые технологии и интеллектуальные права

3. Карташов И. И., Карташов И. И. Искусственный интеллект: уголовно-пра-

вовой и процессуальный аспекты // Актуальные проблемы государства и права.
2021. Т. 5, № 17. С. 75–88.

4. Коробеев А. И. Беспилотные транспортные средства, оснащенные систе-

мами искусственного интеллекта: проблемы правового регулирования // Азиатско-
Тихоокеанский регион: экономика, политика и право. 2018. № 3. С. 117–132.

5. Лапунин М. М. Обстоятельства, исключающие преступность деяния, и на-

учно-технический прогресс // Вестник Академии Генеральной прокуратуры РФ.
2017. № 6. С. 81–87.

6. Морхат П. М. Искусственный интеллект: правовой взгляд. Москва: Буки

Веди, 2017. – 257 с.

7. Новая философская энциклопедия: в 4 т. Т. 2. Москва: Мысль, 2010. 744 с.
8. Петрикова С. В., Анощенкова С. В., Лаврушкина А. А. К вопросу о при-

знании субъектами уголовной ответственности разработчиков и пользователей ис-
кусственного интеллекта // Законодательство. № 5. 2021. Май. С. 60–65.

9. Петрунин Ю. Ю. Искусственный интеллект ка феномен современной куль-

туры. URL: https://iphras.ru/uplfile/ai/petrunin.pdf (дата обращения: 09.09.2022).

10. Пономарева Е. В. Субъекты и квазисубъекты права: теоретико-правовые

проблемы разграничения: дис. … канд. юрид. наук. Екатеринбург, 2019. 208 с.

11. Сушкова О. В. Правовые средства оборота объектов, созданных с ис-

пользованием технологий искусственного интеллекта // Гражданское право. 2022.

№ 2.

С. 12–15.

12. Тирранен В. А. Преступления с использованием искусственного интел-

лекта // Развитие территорий. 2019. № 3.

С. 10–13.

13. Уголовное право. В 2 Т. Т. 1. Общая часть / под ред. А. В. Наумова,

А. Г. Кибальника. 5-е изд. Москва: Юрайт, 2022. 410 с.

14. Хисамова З. И. Уголовная ответственность и искусственный интеллект:

теоретические и прикладные аспекты // Всероссийский криминологический жур-
нал. 2019.

Т. 13, № 4.

С. 567–568.

15. Черногор Н. Н. Искусственный интеллект и его роль в трансформации

современного правопорядка // Журнал российского права. 2022. № 4.

С. 5–15.

16. Asaro P. M. Robots and Responsibility from a Legal Perspective // Proceedings

of the IEEE. 2007.

Vol. 4, iss. 14.

Pр. 20–24.

17. Delvaux M. Draft Report with recommendations to the Commission on Civil

Law Rules on Robotics. URL: https://www.europarl.europa.eu/doceo/document/JURI-
PR-582443_EN.pdf?redirect (дата обращения: 02.09.2022).

18. Leenes R. Laws on Robots, Laws by Robots, Laws in Robots: Regulating

Robot Behaviour by Design // Law, Innovation and Technology. 2014.

Vol. 6,

iss. 2.

Pp. 194–222.

19. Nevejans N. European Civil Law Rules in Robotics: Study. European Union,

2016. 34 р.

20. Villani C. Donner un sens à l’intelligence artificielle. Rapport au Premier

ministre. 2018. 233 р. URL: https://www.vie-publique.fr/sites/default/files/rapport/
pdf/184000159.pdf (дата обращения: 07.01.2022).