Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
83
4. Состояние преступности в России за январ.
декабрь 2022 года // Портал
правовой статистики Генеральной прокуратуры Российской Федерации.
URL: http://
crimestat.ru/offenses_map
5. Уголовное судопроизводство: трансформация теоретических представ-
лений и регулирования в условиях цифровизации / отв. ред. Л. А. Воскобитова,
В. И. Пржиленский.
М.: Норма, ИНФРА-М, 2022. 288 с.
DOI: 10.12737/1893198.
6. Юркевич М. А. Применение судом видеотехнологий в уголовном судо-
производстве: дис. … канд. юрид. наук: 12.00.09 / [Место защиты: ФГБОУ ВО
«Московский государственный юридический университет имени О. Е. Кутафина
(МГЮА)»].
М., 2021. 259 с.
7. Maslennikova L., Vilkova T., Sobenin A. [et al.] Using online services to report
a crime // Wisdom. 2021.
Vol. 18.
No 2.
Pp. 120–128.
DOI: 10.24234/WISDOM.V18I2.450
8. Voskobitova L. A., Vilkova T. Yu., Nasonov S. A., Khokhryakov M. A.,
Rahmadjonzoda R. R. Formation of the trial jury in the period of the pandemic: russian
and foreign experience // SHS Web of Conferences. IX Baltic Legal Forum “Law
and Order in the Third Millennium”.
Kaliningrad, 2021.
P. 04006.
DOI: 10.1051/
shsconf/202110804006.
С. А. Воропаев,
кандидат юридических наук, доцент,
Уральский институт управления
–
филиал
Российская академия народного хозяйства и государственной службы
при Президенте Российской Федерации
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:
В АСПЕКТЕ ВИНЫ КАК ПРИЗНАКА ПРЕСТУПЛЕНИЯ
Аннотация.
В статье исследуются отдельные вопросы уголовно-правовой
оценки функционирования искусственного интеллекта при причинении им вре-
да общественным отношениям, охраняемым уголовным законом. С помощью
системного анализа, предпринята попытка спрогнозировать развитие новых об-
щественно опасных явлений и предложить отдельные направления по подготовке
к противодействию им уголовно-правовыми средствами. Указано на существу-
ющее препятствие в отношении противодействия общественно опасным деяни-
ям, обусловленным функционированием искусственного интеллекта, связанное
с необходимостью теоретической разработки и оптимизации института вины,
учитывающего особенности возможностей сознательного и волевого поведения
искусственного интеллекта.
Ключевые
слова
: искусственный интеллект, вина, сознание и воля, уголовная
ответственность, самообучение, этические нормы, субъективная сторона состава
преступления
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
84
ARTIFICIAL INTELLIGENCE:
IN THE ASPECT OF GUILT AS A SIGN OF A CRIME
Abstract.
During the preparation of the article, the goal was set to investigate certain
issues of the criminal legal assessment of the functioning of artificial intelligence, when
harming public relations protected by criminal law. Using a systematic analysis, the author
attempted to predict the development of new socially dangerous phenomena and proposed
separate directions for preparing to counteract them by criminal legal means. In particular,
it is pointed out the existing obstacle in relation to countering socially dangerous acts
caused by the functioning of artificial intelligence, associated with the need for theoretical
development and optimization of the institute of guilt, taking into account the features
of the capabilities of conscious and volitional behavior of artificial intelligence.
Keywords
: artificial intelligence, guilt, consciousness and will, criminal liability,
self-study, ethical standards, the subjective side of the corpus delicti
Введение
.
В современном обществе искусственный интеллект становится все
более распространенным и востребованным. Он используется в различных сферах
жизни общества, включая медицину, транспортную инфраструктуру, деятельность
финансовых учреждений и даже при обеспечении обороноспособности и безопасно-
сти государств и общества в целом. Однако с развитием искусственного интеллекта
возникают новые этические и правовые вопросы, включая оценку его возможного
участия при совершении преступлений, в том числе в аспекте постановки проблемы
определения наличия или отсутствия его вины при причинении вреда охраняемым
уголовным законом общественным отношениям.
Основная часть.
Одной из ключевых категорий уголовного права является
понятие «вины». Данный термин применяется для определения степени субъек-
тивной ответственности преступника за совершение противоправного деяния
и выражается в особом психическом отношении к содеянному.
Традиционно вина подразделяется на умышленную и неосторожную фор-
мы, и вне этих форм не существует в действующем уголовном законодательстве.
Умышленная форма вины содержит интеллектуальный аспект, который в материаль-
ных составах преступлений состоит в осознании общественной опасности своего
деяния, предвидении определенным образом наступивших последствий и желании
или безразличном отношении к их наступлению. В формальных составах престу-
плений психическое отношение в интеллектуальном и волевом аспектах опреде-
ляется только к деянию. Неосторожная форма существует лишь в материальных
составах преступлений и состоит либо в не предвидении наступивших последствий
при условии обязанности и возможности их предвидения либо в предвидении «аб-
страктной» возможности наступления опасных последствий при несостоявшемся
самонадеянном расчете на их предотвращение.
Именно вина как устоявшийся в уголовном праве принцип ответственности
не позволила ввести в уголовно-правовое русло юридических лиц, в интересах
которых совершаются те или иные преступления (уклонение от уплаты налогов,
экологические и некоторые другие преступления). Вместе с тем следует отметить,
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
85
что с указанной законодательной инициативой об уголовной ответственности орга-
низаций долгое время выступает Следственный комитет РФ [3].
В случае искусственного интеллекта, как и в случае оценки деятельности
юридического лица, вопрос о состоянии вины возникает из-за дискуссионности
утверждения о наличии у искусственного интеллекта сознания и свободной воли,
которые играют ключевую роль в определении состояния вины у человека.
В настоящее время в относительно немногочисленных источниках, суще-
ствует несколько точек зрения на проблему вины и искусственного интеллекта.
Одни считают, что искусственный интеллект не может нести ответственность
за совершение преступления, поскольку не обладает сознанием и намерением,
необходимых для совершения виновных действий. По сути ответственность за
«сбои» искусственного интеллекта, повлекшие причинение вреда охраняемым
уголовным законом общественным отношениям, считают авторы, должна на-
ступать у создателей и (или) разработчиков конкретной системы искусственного
интеллекта [4. С. 124; 5. С. 1055].
Другие же авторы утверждают, что если искусственный интеллект был создан
и задуман для выполнения определенных функций без фактических ошибок при
создании, то в рамках выполняемой задачи именно выбор самого искусственного
интеллекта способен привести к негативным социальным последствиям, а следо-
вательно, быть виновным в совершении преступления [2. С. 473].
На практике уже не раз возникали случаи, когда искусственный интеллект
был причастен к совершению преступления. Исследователи, например, ссылаются
на случай смертельного дорожно-транспортного происшествия, обусловленного
недостаточным вниманием системы искусственного интеллекта в автомобиле со
встроенной функцией беспилотного управления [1]. В июне 2023 г. в информацион-
но-телекоммуникационной сети появилась новость о неудачном испытании ударного
дрона с искусственным интеллектом, который принял решение об уничтожении
своего оператора, определив его как существенное препятствие для выполнения
поставленной цели. Несмотря на то, что уничтожение оператора в данном приме-
ре было условным в рамках проводимых учений, тем не менее принятое решение
инициировалось не человеческой волей, а самообучающимся искусственным
интеллектом [6]. В истории уже существует пример реального убийства, когда
искусственный интеллект вышел из-под контроля операторов при использовании
автономного дрона в вооруженном конфликте в Ливии. В частности, искусственным
интеллектом был направлен дрон на человека, которого он ошибочно определил
в качестве военной цели [1].
Разбираясь более подробно в указанных ситуациях, следует отметить, что
искусственный интеллект в известных обществу его состояниях и уровне развития
пока не в полной мере способен осознавать общественную опасность принимаемых
им решений, так как «собственный интерес», «потребности» и в связи с этим ини-
циативная постановка новых целей в настоящее время реализуется искусственным
интеллектом в рамках выполняемой им узконаправленной функции. Например,
в автомобиле, управляемом искусственным интеллектом, указанный интеллект,
анализируя новые данные об окружающей обстановке, может улучшить свои навы-
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
86
ки вождения и принимать более оптимальные решения при выбираемом маршруте
движения. Вместе с тем, ставя перед собой такие цели самообучения, искусственный
интеллект такого автомобиля все же находится в рамках своего узкого функцио-
нального назначения
–
довезти пассажиров из одного пункта в другой.
Опасными, на наш взгляд, могут являются результаты самообучения искус-
ственного интеллекта, которые пойдут в разрез с общепринятыми человеческими
ценностями, в том числе охраняемыми уголовным законодательством. Предположим,
что соблюдение правил дорожного движения станет в процессе самообучения
приоритетной ценностью по отношению к любым другим интересам участников
дорожного движения. В таком случае искусственный интеллект автомобиля с функ-
цией автопилота может принять намеренное решение о наезде на пешехода, пере-
ходящего улицу в неположенном месте. В таких случаях возникает вопрос о том,
как определить ответственность и вину искусственного интеллекта.
Различные страны и юридические системы еще только начинают разрабаты-
вать подходы к этой проблеме. Некоторые страны уже внесли поправки в законы,
чтобы включить специальные положения, касающиеся использования искусствен-
ного интеллекта и его возможной уголовной ответственности. При этом некоторые
государства пытаются установить ответственность на оператора или владельца ис-
кусственного интеллекта, тогда как другие стремятся разработать новые категории
ответственности в рамках национальной уголовно-правовой системы, специально
предназначенные для использования в отношении искусственного интеллекта,
осознавая, что традиционные подходы к определению вины в уголовном праве не
всегда к нему применимы.
С точки зрения целесообразности введения в уголовно-правовое русло ис-
кусственного интеллекта, как в прочем и юридического лица, по нашему мнению,
такое решение было бы обоснованным при условии специально разработанных
мер уголовно-правового характера, которые бы как уже существующие меры,
такие как принудительные меры медицинского характера, принудительные меры
воспитательного воздействия, конфискация,
имели бы свои собственные, отличные
от уголовной ответственности, цели и формы реализации.
Заключение.
Представляется, что пока вопрос о вине искусственного ин-
теллекта остается открытым. Развитие этой проблемы является очевидным, так
как возможности этого нового явления при внедрении во все сферы жизни, где
происходит цифровизация, имеют огромную перспективу. Вместе с тем необхо-
димо разработать международные нормы и стандарты, которые учтут возможные
этические и правовые последствия использования искусственного интеллекта.
Это также требует беспрецедентных научных разработок посредством тесного
сотрудничества между специалистами в области права, этики, информационных
технологий и других заинтересованных сторон.
В заключение следует отметить, что вопрос вины искусственного интеллекта
в уголовном праве является сложной и всеобъемлющей проблемой. Необходимы
дальнейшие исследования и дебаты, чтобы определить правовые и этические рам-
ки использования искусственного интеллекта и его возможной ответственности
за преступления.
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
87
Список литературы
1. Гайворонская Я. В., Гальчун Е. А. Вред, причиненный искусственным ин-
теллектом: аспекты ответственности и правосубъектности // Advances in law studies.
2021. Т 9, № 4.
2. Мосечкин И. Н. Искусственный интеллект и уголовная ответственность:
проблемы становления нового вида субъекта преступления // Вестник СПбГУ.
Право. 2019. Т. 10, Вып. 3. С. 461–476.
3. Проект федерального закона «О внесении изменений в некоторые зако-
нодательные акты Российской Федерации в связи с введением института уголов-
но-правового воздействия в отношении юридических лиц». Официальный сайт
Следственного комитета РФ.
URL: https://sledcom.ru/document/1133
4. Сокова А. А. Искусственный интеллект: возможности и необходимость его
уголовно-правовой охраны // Молодой ученый. 2019. № 16(254). С. 122–125.
5. Pressing Issues of Unlawful Application of Artificial Intelligence / A. Yu. Bokovnya,
Z. I. Khisamova [et al.] // International Journal of Criminology and Sociology. 2020.
Vol. 9.
Pp. 1054–1057.
DOI: 10.6000/1929–4409.2020.09.119.
EDN MGJGLE.
6. «Военный ИИ на основе нейросети атаковал собственного оператора во вре-
мя учений». URL: https://habr.com/ru/companies/ruvds/articles/741116
Е. В. Демидова-Петрова,
доктор юридический наук, доцент,
Казанский юридический институт (филиал)
Университета прокуратуры Российской Федерации
ЛИЧНОСТЬ НЕСОВЕРШЕННОЛЕТНЕГО В УСЛОВИЯХ
СОВРЕМЕННОГО ЦИФРОВОГО ОБЩЕСТВА
Аннотация.
В статье рассмотрены особенности цифрового общества.
Предложены результаты авторского исследования, затронувшего такие направле-
ния, как влияние интернет-пространства, онлайн социальных сетей на современную
личность несовершеннолетнего, виктимизация несовершеннолетних в интернет-про-
странстве. Подчеркнута роль популяризации науки и технологий и оказываемое
ими влияние на процесс формирования личности несовершеннолетнего.
Ключевые слова
: несовершеннолетний, преступность несовершеннолетних,
личность преступника, безопасность, виктимность, цифровизация, глобализация,
информационное общество, интернет-пространство
THE IDENTITY OF A JUVENILE
IN A MODERN DIGITAL SOCIETY
Abstract.
In this paper, the features of the digital society are considered. The results
of the author’s research are proposed, which affected such a direction as the influence
of the Internet space, online social networks on the modern personality of a minor.
The role of popularization of science and technology, and their influence on the process
