Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
162
А. И. Литовченко,
аспирант,
Кубанский государственный университет
DEEPFAKE КАК УГРОЗА ОБЩЕСТВЕННОЙ НРАВСТВЕННОСТИ
Аннотация.
Развитие искусственного интеллекта, применяемого для генера-
ции аудио-, фото- и видеоматериалов, дошло до этапа, когда грань между созданной
и реальной информацией стирается, что вызывает обеспокоенность и влечет необ-
ходимость усиления противодействия такой форме дезинформации, как DeepFake.
Целью данной статьи является оценка DeepFake как угрозы общественной нрав-
ственности. Быстрое совершенствование генеративных нейронных сетей и их
массовое распространение, в том числе в простых для использования программных
приложениях, позволяют с легкостью создавать реалистичные материалы, способ-
ные нанести ущерб правам и интересам личности и общества, выступая элементом
«порнографических» преступлений.
Ключевые слова
: DeepFake, преступление, нейронные сети, искусственный
интеллект, порнографические материалы, общественная нравственность, сеть
Интернет
DEEPFAKE AS A THREAT TO PUBLIC MORALS
Abstract.
The development of artificial intelligence used to generate audio, photo and
video materials has reached a stage when the line between created and real information
is blurred, which causes concern and entails the need to strengthen counteraction to such
a form of disinformation as DeepFake (from deep learning and fake). The purpose of this
article is to assess DeepFake as a threat to public morality. The rapid improvement of neural
networks using generative models and their ubiquity, including easy-to-use programs
and applications, facilitates production of realistic materials that can harm the rights and
interests of the individual and society, acting as an element of «pornographic» crimes.
Keywords
: DeepFake, crime, neural networks, artificial intelligence, pornographic
materials, public morality, Internet
За последние десятилетия наметилось четкое направление диджитализации
множества сфер деятельности, приносящих доход их создателям, в том числе
речь идет о нелегальном секторе экономики, связанном с оборотом запрещенных
к распространению на территории нашего государства предметов, в частности
порнографии. Распространение порнографических материалов становится более
удобным и коммерчески выгодным для их создателей с приходом «информационной
эры», так как большая часть такого контента потребляется с помощью информаци-
онно-телекоммуникационной сети Интернет.
Так, например, по данным глобальной платформы Statista, на конец 2022 г.
Pornhub являлся четвертым по количеству посещений сайтом в мире: в месяц его
посещали более 10,2 млрд человек [8]. Сеть Интернет позволяет лицам осущест-
влять распространение, публичную демонстрацию и рекламирование порнографии
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
163
в упрощенном формате из-за чего стала основным путем трафика порнографии,
что отображается также и на данных официальной статистики, в соответствии с ко-
торыми число осужденных лиц за преступления, предусмотренные ст. 242–242.2
УК РФ [5], совершенные с использованием Сети в разы превышает иные способы
совершения (рис. 1).
Рис. 1. Данные Судебного департамента при Верховном суде Российской
Федерации о количестве осужденных лиц за преступления, предусмотренные
ст. 242–242.2 УК РФ за 2017–2022 г.
Источник: URL: http://cdep.ru/?id=79
Важно также учитывать, что, помимо созданной с помощью реальных актеров
порнографии, в секс-индустрии появляется новый вид синтетического контен-
та
–
DeepFake, полностью или в части сгенерированный машинным интеллектом,
также влияющий на общественную нравственность и нормальное психическое
развитие населения в области сексуальных отношений. Данные материалы, хотя
и могут создаваться без привлечения реальных людей для фото- и видео- съемок,
имеют воздействие подобное традиционным формам порнографии, к примеру, из-
за невозможности без специализированных программ по распознаванию отличить
настоящее видео от сфабрикованного.
Иначе говоря, для лица, потребляющего DeepFake порнографию, не будет иметь
значение способ ее создания. Виртуальная копия любого человека, чье изображение
загружено в приложение или иной инструмент, работающий с технологиями искус-
ственного интеллекта, может быть использована для изготовления порнографических
материалов, в том числе с применением воссозданных индивидуальных характеристик
мимики, движений и голоса, что повышает степень их негативного влияния.
Итак, погружение зрителей в синтезированный виртуальный контент может
вызывать серьезные негативные последствия, такие как отрицательное влияние
на межличностные отношения, укрепление стереотипов гендерного неравенства
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
164
и объективизации [8. С. 11], нормализацию психических парафилий и перверсий,
и даже повышенную вероятность совершения в отношение других лиц преступле-
ний против половой свободы.
Следовательно, DeepFake порнография способна нанести вред разными спосо-
бами, но ее основная негативная направленность определяется причинением вреда
общественной нравственности. Указанный термин имеет множество трактовок, опре-
деляющих моральные ценности господствующие в конкретном обществе [2. С. 4],
особую форму общественного сознания, основанную на нормах, обы чаях, взглядах
на основные категории этики [1. С. 481], однако любая из названных позиций требует
конкретизации через определение в том числе границ половой свободы и половой
неприкосновенности как области охраны уголовного закона. Нейронные сети в рассма-
триваемой сфере служат инструментом, реконструирующим идентичность человека,
либо моделирующим несуществующую в реальности ситуацию, что создает также
угрозу безопасности и благополучия, через создание материалов с изображением
сексуального насилия и преждевременную сексуализацию несовершеннолетних.
В связи с усилением за последние десятилетия «культа» искаженных пред-
ставлений о сексуальности в общественном поле негативное влияние порнографии
становится более отчетливым через формирование у людей самообъективации,
психологических расстройств, неразвитой и ограниченной сексуальной самооценки,
влияющей в том числе на формирование психических отклонений.
Сдерживающий характер от совершения преступлений в реальности или насту-
пление ремиссии половых парафилий после просмотра порнографии, в настоящее
время не доказаны, а с учетом выводов некоторых исследователей и вовсе отвергаются
[8. С. 26], что наводит на мысль об увеличении потенциальной угрозы стать жертвой
преступления в реальной жизни для лиц, явившихся прообразами DeepFake изобра-
жений. Помимо прочего доступность и неограниченное потребление порнографии,
в том числе из-за ее быстрой генерации с помощью нейросетей, становится «под-
готовкой» индивида к ассоциированию девиантных форм сексуальной стимуляции.
Учитывая описанный выше вред, который могут нанести DeepFake материалы
особенно в отношении несовершеннолетних, в науке высказана позиция к урегу-
лированию применения такой формы машинного обучения [3. С. 115], в том числе
через принятие конвенции о регулировании DeepFake технологий на международ-
ном уровне [4. С. 63–64].
Подводя итог сказанному, хотелось бы отметить, что повсеместное и регуляр-
ное потребление порнографического контента, упрощенное производство которого
обусловлено применением искусственного интеллекта, вызывает серьезные опасения
о последствиях таких действий, связанных с ухудшением физического и психиче-
ского здоровья зрителей, в особенности несовершеннолетних.
Технология, которой посвящена данная работа, являясь достижением в мето-
дах глубокого обучения, сделала возможным генерирование реалистичных образов
в злонамеренных целях. Опора на ранее существовавшие данные и проведенные
исследования позволила нам обнаружить закономерности между злоупотребле-
нием технологией DeepFake и ее влиянием на общественную нравственность,
а также прийти к выводу о необходимости не только саморегулирования нейро-
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
Цифровые технологии в системе уголовно-правовых отношений
Digital Technologies in the System Criminal Legal Relations
165
сетей, но и государственного вмешательства, чтобы попытаться восстановить до-
верие к рассматриваемой технологии. Использование постоянно развивающихся
и совершенствующихся автоматизированных систем искусственного интеллекта
представляет в некоторой части угрозу охраняемым уголовным законом интересам
ведь даже несмотря на отсутствие уголовной ответственности за их применение,
тем не менее должны быть учтены при квалификации деяния ввиду их широких
возможностей, порой опережающих человеческие.
Список литературы
1. Готчина Л. В. Глава 12. Преступления против здоровья населения и обще-
ственной нравственности // Уголовное право. Особенная часть: учебник. СПб., 2020.
2. Гусарова М. В. Преступления в сфере незаконного оборота порнографиче-
ской продукции: анализ уголовно-правовых норм с учетом последних изменений
в уголовном кодексе Российской Федерации // Вестник Казанского юридического
института МВД России. 2013. № 13.
С. 1–5.
3. Добробаба М. Б. Дипфейки как угроза правам человека // Lex Russica (Русский
закон). 2022.
Т. 75, № 11(192).
С. 112–119.
4. Киселев А. С. О необходимости правового регулирования в сфере искус-
ственного интеллекта: дипфейк как угроза национальной безопасности // Вестник
Московского государственного областного университета. Серия: Юриспруденция.
2021. № 3.
С. 54–64.
5. Уголовный кодекс Российской Федерации от 13 июня 1996 г. № 63-ФЗ // СПС
«КонсультантПлюс».
URL: https://www.consultant.ru/document/cons_doc_LAW_10699
6. Al-Alosi, Hadeel. The criminalisation of fantasy material: law and sexually
explicit representations of fictional children // London and New York: Routledge. 2018.
URL: https://doi.org/10.4324/9780203701829
7. Most popular websites worldwide as of November 2022, by unique
visitors // Statista.
URL: https://www.statista.com/statistics/1201889/most-visited-
websites-worldwide-unique-visits
8. Zheng R., Stear N.-H. Imagining in Oppressive Contexts, or What’s Wrong with
Blackface? Ethics. 2023. № 133(3).
Р. Н. Малышкин,
кандидат юридических наук,
Казанский инновационный университет имени В. Г. Тимирясова
О ЦИФРОВИЗАЦИИ УГОЛОВНОГО ПРОЦЕССА: АКТУАЛЬНЫЕ
ПРОБЛЕМЫ ВНЕДРЕНИЯ ЭЛЕКТРОННОГО УГОЛОВНОГО ДЕЛА
Аннотация.
В статье поднимаются дискуссионные вопросы о цифровизации
производства по уголовному делу на стадии предварительного расследования.
Приведены мнения некоторых авторов о проблемах, способных препятствовать
внедрению цифровых технологий в данный этап уголовного процесса на совре-
менном этапе, проведен анализ некоторых опасений по применению цифровых
