Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
360
А. А. Ткалина
,
студент,
Санкт-Петербургский государственный университет
ПРАВОВОЕ РЕГУЛИРОВАНИЕ
ЦИФРОВОЙ ТЕХНОЛОГИИ «ДИПФЕЙК»
Аннотация.
Все больше людей сталкиваются с возможностью использова-
ния технологии «дипфейк», которая позволяет создавать и изменять видео-, фото-
или аудиозаписи. С одной стороны, эта технология является полезным инструмен-
том в медиапространстве и медицине, однако, «дипфейк» может быть использован
для создания фальшивых видео-, фото- и аудиоматериалов, которые могут нанести
вред лицам, персональные данные которых были использованы в качестве введен-
ной информации. Правовое регулирование технологии «дипфейк» становится все
более актуальной проблемой и вызовом для современных юристов. В статье рас-
смотрены различные аспекты правового регулирования использования техноло-
гии «дипфейк». Поскольку «дипфейк» – не юридическое, а техническое понятие,
целью статьи является рассмотрение правовых режимов, применимых к «дипфей-
кам» в нескольких плоскостях, а именно в отношении к «классическим» право-
вым институтам, таким как персональные данные, авторское право, нематериаль-
ные блага и информации.
Ключевые слова
: право, цифровые технологии, информация, дипфейки, не-
материальные блага, интеллектуальная собственность, искусственный интеллект,
персональные данные, авторское право
LEGAL REGULATION OF DEEPFAKE TECHNOLOGY
Abstract.
More and more people are encountering the possibility of using
“deepfake” technology, which allows for the creation and modification of video, photo,
or audio recordings. On one hand, this technology serves as a valuable tool in the media
space and medicine. However, “deepfake” can be used to produce counterfeit video,
photo, and audio materials that can harm individuals whose personal data has been
used as input information. As a result, the legal regulation of “deepfake” technology
is becoming an increasingly relevant issue and challenge for contemporary legal
professionals. This article will explore various aspects of the legal regulation of the use
of “deepfake” technology. Since “deepfake” is not a legal but a conditional technical
concept, the aim is to examine the legal frameworks applicable to “deepfakes” on
multiple parallel fronts, in relation to “classic” legal institutions such as personal data,
copyright, nonmaterial values, and information.
Keywords
: law, digital technologies, information, deepfakes, nonmaterial values,
intellectual property, artificial intelligence, personal data, copyright
Использование искусственного интеллекта (далее – «ИИ») в некото-
рых сферах общественной жизни стало обыденным явлением. Мир наполнен
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
361
технологическими системами и инструментами, приводимыми в движение тех-
нологиями искусственного интеллекта, которые все больше овладевают нашей
повседневной жизнью. Современные технологии ИИ имеют ряд преимуществ,
которые выражаются в повышении экономической производительности, сниже-
нии издержек, эффективности государственного управления и оптимизации адми-
нистративно-распорядительных функций [8. С. 91–104]. Однако, несмотря на эти
преимущества, существуют и опасности. Высокая распространенность техноло-
гий ИИ среди широкой публики, а также простота их применения открывают воз-
можности для использования достижений технологического прогресса не только
во благо, но и в неправомерных и преступных целях.
Дипфейки – это одна из таких инноваций, основанных на ИИ, которая вы-
зывает огромные опасения среди юридических и научных экспертов. Поскольку
создание этих синтетических материалов, называемых дипфейками, становится
все более общедоступным, и каждый человек, даже не имеющий специальных на-
выков, способен создать некую «глубокую подделку», растут опасения, связанные
с недобросовестным использованием технологии, требующие немедленного вни-
мания и реагирования. Дипфейки могут иметь серьезные последствия для обще-
ства. Обман и манипуляция, нарушение конфиденциальности и авторских прав,
провоцирование ненависти, угроза национальной безопасности – только некото-
рые из проблем, которые может вызвать технология дипфейк. В связи с этим необ-
ходимо не только развивать технологии, которые могут помочь в борьбе с дип-
фейками, но и обеспечить данную технологию правовым регулированиям, чтобы
избежать негативных последствий для общества.
Дипфейки – это технология искусственного интеллекта, которая использует
нейронные сети для создания ложных видео, аудио или изображений. Эти техноло-
гии могут создавать очень реалистичные «подделки», которые могут быть исполь-
зованы, в том числе, для обмана и манипуляции. В самом широком смысле под
«дипфейком» обычно понимают создание фото-, видео- или аудиозаписей, ими-
тирующих реальность. Технически это осуществляется путем наложения суще-
ствующих изображений и видео на исходные изображения или видеоролики с по-
мощью так называемой генеративно-состязательной сети [5. С. 87–103]. Проще
говоря, технология «дипфейк» позволяет создавать поддельные видео и фото, на
которых лица одних людей подменяются лицами других. Это делается при помо-
щи алгоритмов машинного обучения, которые обрабатывают огромные объемы
данных, чтобы создать подобные «фейки». Дипфейки имеют тесную связь с ис-
следованиями в области криминалистики цифровых изображений. Оригинальные
лица, выражения и даже голоса копируются, изменяются и заменяются «фейко-
выми», нарушая тем самым социальное доверие и создавая проблемы с конфи-
денциальностью и другие правовые проблемы. Генеративно-состязательные сети
(далее – GAN) используется для морфинга оригинального контента. Роль GAN
заключается в том, чтобы обучать две архитектуры нейронных сетей – генератор
(декодер) и дискриминатор – в адверсариальных отношениях. Как только коди-
ровщик извлекает латентные характеристики оригинальных изображений лиц,
генератор (декодер) восстанавливает изображения, а дискриминатор определяет,
насколько реалистично изображение, созданное генератором [18. С. 25].
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
362
Как упоминалось ранее, существует несколько видов дипфейков. Видео-
дипфейки – это наиболее известный тип дипфейков. С их помощью можно созда-
вать ложные видеозаписи, в которых лица людей могут быть заменены на другие.
Аудио-дипфейки могут быть использованы для создания ложных аудиозаписей,
в которых голоса людей могут быть скомпонованы из разных фрагментов речи.
Фото-дипфейки могут быть использованы для создания ложных фотографий, ко-
торые могут быть изменены таким образом, чтобы лица людей выглядели иначе,
чем на самом деле. Текстовые дипфейки могут быть использованы для создания
ложных новостей, комментариев, сообщений в социальных сетях и других тексто-
вых сообщений.
Согласно исследованию, проведенному компанией Sentinel, которая разраба-
тывает платформу, оснащенную ИИ для защиты от дипфейков, количество таких
видео выросло с 14 678 в 2019 г. до 145 277 в 2021 [19. С. 1].
Технология синтезированных видео нельзя назвать новыми. Они начинают
свой путь с конца девяностых годов двадцатого века. Так, в 1997 г. компания Video
Rewrite представила технологию, которая позволяла сформировать видео, где ар-
тикуляция лица совпадала с синтезированной аудиодорожкой. В 1997 г. три иссле-
дователя Google – Кристоф Бреглер, Мишель Коувелл и Малколм Слейни – со-
здали инновационную программу Video Rewrite Program [17. С. 1]. Специалисты
впервые использовали технологию лицевой анимации. Но это было только на-
чало, уже через десять лет подобная технология использовалась в кинокартине
Джеймса Кэмерона «Аватар», тем самым продемонстрировав специалистам ки-
ноиндустрии возможность искусственно заменять с помощью современных тех-
нологий лица актеров. Он стал одним из первых фильмов, где большая часть пер-
сонажей была создана с помощью компьютерной графики и технологии захвата
движений актеров. История же технологии дипфейк в современном виде началась
в 2014 г. с появления нескольких исследовательских групп, которые занимались
разработкой алгоритмов машинного обучения и нейронных сетей. Эти группы на-
чали работу над новыми методами для создания фальшивых изображений и ви-
део. Затем в 2017 г. компания NVIDIA представила новый тип алгоритма машин-
ного обучения, основанный на глубинном обучении. Этот алгоритм был назван
GAN (Generative Adversarial Networks), и он начал использоваться для создания
дипфейка. Он позволяет создавать реалистичные фотографии людей, которых на
самом деле не существует. Также в 2017 г. на GitHub появился открытый исход-
ный код программы FakeApp, которая позволяет создавать дипфейки изображений
и видео. Эта программа была создана на основе библиотеки TensorFlow, которую
разработала компания Google. Вскоре после выпуска FakeApp, другие разработчи-
ки начали создавать свои собственные программы для генерирования дипфейков
[8. С. 1]. В этом же году появился термин «дипфейк». Одноименный пользова-
тель платформы Reddit заполнил сайт-агрегатор онлайн-новостей видеороликами
порнографического содержания, в которых применялась технология замены лица
(англ. face-swap) с открытым исходным кодом. Этот метод он и назвал deepfake.
Также в 2017 г. были запущены проекты «Face2Face» (Мюнхенский универси-
тет) и «Synthesizing Obama» (Вашингтонский университет). Однако в 2018 году
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
363
технология «дипфейк» стала гораздо более сложной и утонченной благодаря по-
явлению системы Deep Voice 2. Эта система создана компанией Baidu Research,
и она представляет собой набор алгоритмов для создания легко узнаваемых голо-
сов с помощью машинного обучения.
Сейчас существуют три поколения программ «дипфейк». Первое поколение
основывалось на большой базе данных тестовых изображений и обучалось бла-
годаря им. Второе поколение преодолело барьер публичности путем внедрения
нейронной сети «GAN». Третье поколение является усовершенствованной и не-
много дополненной версией второго поколения. Именно в нем несколько нейрон-
ных сетей объединяются в одну модель, что позволяет работать непосредственно
с лицом, а не в пространстве 2D-кадра.
Так в чем же заключается основная проблема пробела законодательства от-
носительно дипфейков. Вопрос заключается в том, насколько необходимо защи-
щать общество от возможных вредоносных последствий создания фальшивых
изображений. Хотя искусство и литература часто создают вымышленные миры,
авторы произведений всегда стараются убедить зрителей или читателей в ре-
альности описываемых событий. Даже если произведение заведомо является
вымыслом, оно может восприниматься публикой как изображение реальности.
Так, например, И. Левитан изобразил в своей картине «Над вечным покоем» пей-
заж около озера Удомля, а церковь – из окрестностей города Плес. В литературе
отмечалось, что эта картина – «перенесение мотива, увиденного на одном озере,
на изображение другого, сходного». Но для зрителей реальность изображенного
не вызывает сомнений, пусть даже они и понимают, что изображенное на картине
место в действительности нигде не существует [5. С. 87-103]. Как писал Федор
Шаляпин в своей книге «Маска и душа»: «Убедить публику – значит, в сущно-
сти, хорошо ее обмануть, вернее, создать в ней такое настроение, при котором она
сама охотно поддается обману, сживается с вымыслом и переживает его как некую
высшую правду» [18. С. 117]. Так что проблема связана скорее не с самим фак-
том «подделывания» данных и введения потребителя информации в заблуждение,
так как «фальшивки» известны правовой среде уже достаточно давно, с ними бо-
ролись, но колоссальной правовой проблемой они не являлись.
Проблема же заключается в тех возможностях, которые создает техноло-
гия, оснащенная генеративно-состязательной сетью, для лица, использующего
ее. Ведь создание дипфейков не всегда сопряжено с противоправными мотивами.
Важно понимать, что создание искусственной реальности возможно и вовсе не
связано с недобросовестными намерениями лица и преследует цель реализации
творческих намерений автора. Однако, так или иначе, это создает серьезные угро-
зы для общественных интересов, а значит и для интересов государства. В таких
обстоятельствах право не может оставаться безразличным к расширению исполь-
зования ИИ при создании результатов интеллектуальной деятельности. Поэтому,
считаю необходимым сделать акцент на противодействие недобросовестному
использованию такого инструмента, рассмотрев его в призме различных «арха-
ичных» правовых институтов, таких как персональные данные, авторское право,
нематериальные блага и информация.
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
364
Как было сказано ранее, дипфейки позволяют синтезировать видео, аудио
и изображения, в которых реальные люди появляются в контексте, не связанном
с их действительной деятельностью и сферой занятости. Подобные продукты со-
вместной деятельности человека и ИИ вызывают серьезную обеспокоенность в свя-
зи с возможными нарушениями в том числе прав на защиту персональных данных.
В контексте персональных данных применительно к дипфейкам, в Российской
Федерации возможно рассмотреть в рамках существующего законодательства, в част-
ности, Федерального закона «О персональных данных» № 152-ФЗ и Гражданского
кодекса Российской Федерации косвенно связанные с ними вопросы.
Согласно Закону «О персональных данных», голос и внешность человека
относятся к его биометрическим данным, которые представляют собой сведения,
характеризующие физиологические и биологические особенности человека, на
основании которых можно установить его личность. В соответствии с разъясне-
ниями Роскомнадзора, к биометрическим персональным данным относятся физи-
ологические данные (дактилоскопические данные, радужная оболочка глаз, ана-
лизы ДНК, рост, вес и другие), а также иные физиологические или биологические
характеристики человека, в том числе изображение человека (фотография и виде-
озапись), которые позволяют установить его личность и используются операто-
ром для установления личности субъекта [11. С. 7].
Согласно пункту 3 статьи 3 Федерального закона № 152-ФЗ, под обработкой
персональных данных понимается «любое действие (операция) или совокупность
действий (операций), совершаемых с использованием средств автоматизации или
без использования таких средств с персональными данными, включая сбор, за-
пись, систематизацию, накопление, хранение, уточнение (обновление, измене-
ние), извлечение, использование, передачу (распространение, предоставление,
доступ), обезличивание, блокирование, удаление, уничтожение персональных
данных» [15. С. 4]. Дипфейки, в которых используются изображения или другие
идентифицирующие признаки реальных лиц, могут рассматриваться как обработ-
ка персональных данных. Это означает, что для их создания и распространения
необходимо получить согласие субъектов персональных данных (лиц, чьи данные
используются) или их законных представителей. Это вытекает из п. 1 ч. 1 ст. 6 вы-
шеуказанного Закона «О персональных данных». Данный закон также предусмат-
ривает случаи, когда согласие субъекта не требуется, среди которых: реализа ция
международных договоров Российской Федерации, в связи с осуществлением
правосудия и исполнением судебных актов, проведение обязательной дактило-
скопической регистрации и иные, среди которых, естественно, не прописано ис-
пользование персональных данных для создания дипфейка. Соответственно при
создании подобного рода материалов, необходимо заручиться согласием субъекта
персональных данных. В противном случае, ответственность может возникнуть
в соответствии со статьей 13.11 КоАП РФ, предусматривающей администра-
тивную ответственность за нарушение правил обработки персональных данных
[6. С. 193].
Важно отметить, что существует точка зрения, согласно которой используе-
мые в дипфейке данные нельзя считать персональными. Приверженцы данной
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
365
теории оперируют тем, что поддельные изображения или видео не могут рас-
сматриваться как личные (персональные) данные, поскольку после изменения их
нельзя больше отождествлять с исходными данными субъекта, лицо, тело, голос,
действия или имитация на самом деле ему не принадлежат. Таким образом, содер-
жимое в некотором смысле является искусственной анимацией или графикой, со-
зданной разработчиком [7. С. 396–400]. Однако я исхожу из того, что сам дипфейк
является искусственно созданной информацией, содержащей изображение лично-
сти, ее или сходный с ней голос. Таким образом, получается, что в любом случае
имеет место биометрика субъекта персональных данных. Как было указано ранее,
под обработкой персональных данных понимается не только изменение, но и сбор
данных для обучения ИИ. Таким образом, вывод напрашивается сам, изготовле-
ние дипфейков без согласия субъекта персональных данных – грубое нарушение
действующего законодательства «О персональных данных», ответственность за
которое предусмотрена административным законодательством.
Также важно отметить, что Гражданский кодекс РФ предоставляет каждому
гражданину право на неприкосновенность частной жизни, включая неприкосно-
венность его изображения. Статья 152.1 ГК РФ устанавливает, что использова-
ние изображения гражданина без его согласия влечет за собой ответственность.
В случае дипфейков, где используются изображения без разрешения, возможна
гражданско-правовая ответственность, в том числе возмещение морального вре-
да. Но этот подход будет детально раскрыт далее.
Однако стоит учитывать, что законодательство по-прежнему не является
исчерпывающим в регулировании «дипфейков» и связанных с ними вопросов.
Текущее законодательство не содержит специфических положений, касающихся
дипфейков, и в некоторых случаях может оказаться недостаточным для решения
возникающих проблем и споров. В связи с этим, возможно, потребуется приня-
тие специализированных нормативных актов или дополнений к существующим
законам для более четкого определения правовых рамок, касающихся создания
и распространения дипфейков.
В целом, дипфейки и персональные данные по российскому законодатель-
ству находятся в поле зрения правовых регуляторов. Несмотря на то, что теку-
щее законодательство Российской Федерации уже обеспечивает определенный
уровень защиты персональных данных и прав на неприкосновенность частной
жизни, существует потребность в более точном и всестороннем регулировании
дипфейков для предотвращения их негативного воздействия на права и свободы
граждан.
Важным аспектом, связанным с дипфейками, является вопрос авторских
прав и охраны интеллектуальной собственности. Создание «дипфейков» может
затрагивать как права авторов оригинальных произведений, так и права лиц, чьи
изображения и материалы используются для синтеза «дипфейков».
В Российской Федерации авторские права и интеллектуальная собственность
регулируются Гражданским кодексом РФ (часть IV), который определяет прави-
ла и условия использования произведений и охраняемых объектов. Согласно ста-
тье 1257 Гражданского кодекса РФ автором произведения признается гражданин,
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
366
творческим трудом которого оно создано [2. С. 48]. В соответствии с законода-
тельством, автор произведения обладает исключительными правами на свое тво-
рение, что включает право на использование и распространение произведения,
а также право на авторство и интегритет (целостность) произведения.
Создание дипфейков может нарушать авторские права различными способами.
Во-первых, использование оригинальных произведений (например, видео,
фотографий или аудиозаписей) без согласия автора или законных правообладате-
лей может рассматриваться как нарушение авторских прав. Согласно п. 1 ст. 1229
ГК РФ, использование результата интеллектуальной деятельности или средства
индивидуализации (в том числе их использование способами, предусмотренны-
ми указанным кодексом), если такое использование осуществляется без согласия
правообладателя, является незаконным и влечет ответственность, за исключени-
ем случаев, когда использование результата интеллектуальной деятельности или
средства индивидуализации лицами иными, чем правообладатель, без его согла-
сия допускается ГК РФ [2. С. 5]. А допускается оно в случаях свободного исполь-
зования в целях, указанных в ст. 1274 ГК РФ, а именно в целях информационных,
научных, учебных или культурных.
Во-вторых, в ряде случаев «дипфейки» могут рассматриваться как произве-
дения, созданные на основе оригинальных материалов, и в качестве таковых могут
пользоваться авторским правом. Однако для признания дипфейка произведением,
оно должно обладать необходимой степенью творческого вклада и оригинально-
сти, что в каждом конкретном случае определяется судебной практикой. Однако,
даже при условии того, что переработка произведения предполагает создание но-
вого (производного) произведения на основе уже существующего, право на пере-
работку произведения является одним из способов использования результата ин-
теллектуальной деятельности и как таковое принадлежит правообладателю, в том
числе не являющемуся автором первоначального произведения, который вправе
перерабатывать произведение [10. С. 33]. При этом необходимо заручиться согла-
сием правообладателя исходного произведения.
Важно отметить, что существующее законодательство предусматривает
исключения и ограничения авторского права, такие как цитирование, пародия
и сатира, которые могут быть применимы к дипфейкам в определенных обстоя-
тельствах. Однако использование этих исключений требует строгого соблюдения
условий и ограничений, установленных законом, и не должно приводить к необо-
снованному ущемлению законных интересов авторов и правообладателей ориги-
нальных произведений.
В целом, если рассматривать право авторства на дипфейк как результат ин-
теллектуальной деятельности, созданной программой, то по российскому законо-
дательству автором может быть только гражданин, творческим трудом которого
создан этот результат (ст. 1228 ГК РФ). А правообладателем может быть лишь фи-
зическое или юридическое лицо, обладающее исключительным правом на резуль-
тат интеллектуальной деятельности или на средство индивидуализации (ст. 1229
ГК РФ). Так что за любой машиной должно стоять физическое или юридическое
лицо, в противном случае не будет создан объект авторского права [3. С. 1].
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
367
В целом, вопрос дипфейков и авторских прав в России находится в зоне ак-
тивного правового дискурса. Существующее законодательство охраняет интере-
сы авторов и правообладателей, однако не является полностью адаптированным
для регулирования специфических особенностей дипфейков. В связи с этим по-
требуется дополнительное законодательное развитие и судебная практика для
более четкого определения правовых рамок, касающихся создания и использова-
ния «дипфейков» в контексте авторских прав и интеллектуальной собственности.
Возможно, потребуется разработка новых норм и подходов, специально направ-
ленных на решение вопросов, связанных с дипфейками и охраной авторских прав.
Нематериальные блага представляют собой ценности, не имеющие физиче-
ской формы, но оказывающие значительное влияние на жизнь и благосостояние
людей. В контексте дипфейков стоит рассмотреть взаимосвязь между этими тех-
нологиями и нематериальными благами, такими как репутация, честь, достоин-
ство, личная жизнь и авторские права.
Очевидно, что дипфейки могут негативно сказываться на нематериальных
благах как отдельных личностей, так и общества в целом. Использование техно-
логии дипфейк может привести к нарушению права на неприкосновенность част-
ной жизни, доброго имени, чести и достоинства личности, деловой репутации
и других. Создание и распространение поддельных изображений и видео может
нанести серьезный моральный вред, дискредитировать людей и повредить их ре-
путации. Также дипфейки могут стать средством манипуляции общественным мне-
нием и искажением фактов, что подрывает доверие к информации и массмедийным
источникам. В особенности это касается политической сферы. Неоднократно техно-
логия «дипфейк» использовалась как метод «грязной игры» на политической арене.
Жертвами «дипфейков» становились такие мировые личности, как Дональд Трамп,
Владимир Путин, Барак Обама, Нэнси Пелоси, Ким Чен Ын и другие [4. С. 1].
В России защита нематериальных благ осуществляется на основе
Гражданского кодекса РФ, законов «О СМИ» и «О персональных данных», а также
Конституции РФ и международных договоров. Например, статья 23 Конституции
РФ гарантирует право на неприкосновенность частной жизни, а статья 152.1
ГК РФ устанавливает право на неприкосновенность изображения.
Однако в контексте дипфейков существующее законодательство может ока-
заться недостаточным для обеспечения полноценной защиты нематериальных
благ. В частности, может возникать сложность в определении и доказывании мо-
рального вреда, причиненного дипфейками, а также в определении степени ответ-
ственности за их создание и распространение.
В связи с этим для эффективной защиты нематериальных благ в условиях
распространения дипфейков потребуется развитие правовых механизмов и зако-
нодательства. Потребуется введение специальных норм, учитывающих особенно-
сти дипфейков и устанавливающих четкие критерии ответственности за их созда-
ние и использование. Также важным направлением является развитие судебной
практики по делам, связанным с дипфейками, которая поможет определить рамки
применения существующих норм и выработать новые подходы к регулированию
этой проблематики.
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
368
Кроме того, для минимизации негативных последствий дипфейков на не-
материальные блага необходимо привлечение усилий всех заинтересованных
сторон: государства, общества, компаний-разработчиков технологий и пользо-
вателей. Важными мерами могут стать просветительская деятельность, инфор-
мирование общественности о рисках и последствиях использования дипфейков,
а также разработка и применение технических средств для обнаружения и бло-
кирования поддельных медиаматериалов. Так, к примеру 17 августа 2022 г. ком-
пания «Сбер» получила два патента Федеральной службы по интеллектуальной
собственности на технологии, созданные в рамках исследования по выявлению
дипфейков. Результатом работы является повышение точности и эффективности
обнаружения синтетического изменения изображений лиц людей в видео. Основу
технологий составляет ряд ансамблей нейросетевых моделей класса EfficientNet
(патент № 2768797) и метод амплификации и анализа средствами ИИ микроизме-
нений в цветах объектов на кадрах (патент № 2774624). Объединенные в одну си-
стему, они позволяют с высокой точностью определить синтетически измененные
изображения лиц на видео [11. С. 1].
В целом, дипфейки и нематериальные блага представляют сложную пробле-
матику, требующую комплексного подхода и учета многочисленных факторов.
Развитие законодательства и правоприменительной практики, совместные усилия
всех участников и использование инновационных технологий могут способство-
вать обеспечению защиты нематериальных благ в эпоху «дипфейков».
Дипфейки оказывают значительное воздействие на сферу информации, по-
скольку они могут искажать и манипулировать данными, приводя к распростра-
нению ложных сведений и подрывая доверие к источникам информации. В связи
с этим важно разобраться в том, как дипфейки взаимодействуют с информацией,
и какие меры могут быть предприняты для минимизации негативных последствий.
Проблема дипфейков актуальна не только для личной жизни и деловых от-
ношений, но и для общественного дискурса и политического процесса. Создание
поддельных видео- и аудиозаписей с участием политических деятелей, знаме-
нитостей и других общественных персон может стать инструментом дезинфор-
мации, манипуляции общественным мнением и дестабилизации мировой обста-
новки. Такие случаи могут приводить к недоверию к официальным источникам
информации, массмедийным компаниям и представителям власти.
В России вопросам дипфейков и информации уделяется повышенное внима-
ние на различных уровнях. Законодательство в сфере информации включает такие
акты, как Федеральный закон «О СМИ», «О связи», «О персональных данных»,
конечно же «Об информации, информационных технологиях и о защите инфор-
мации» и другие, определяющие правила обработки и распространения информа-
ции, ответственность за нарушения и ограничения. Однако специфика дипфейков
требует дополнительного регулирования и разработки новых, эффективных меха-
низмов контроля и противодействия.
Действующие законы РФ неэффективны в борьбе с распространением лож-
ной информации, по сравнению с законами Китая или США, но о них мы пого-
ворим далее. В законодательстве Российской Федерации в ст. 15.3 ФЗ № 149-ФЗ
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
369
запрещается распространение в Интернете недостоверной общественно значимой
информации [14. С. 13], что, конечно, может относиться к дипфейкам. Но ведь не-
достоверность информации еще нужно установить, к тому же данная норма в лю-
бом случае применяется только в ограниченной сфере [4. С. 87–103]. Публичное
распространение заведомо ложной информации об обстоятельствах, представля-
ющих угрозу жизни и безопасности граждан, и публичное распространение за-
ведомо ложной общественно значимой информации, повлекшее тяжкие послед-
ствия, наказываются согласно ст. 207.1-2 УК РФ [13. С. 152–153].
Важным направлением в борьбе с негативным влиянием дипфейков на ин-
формацию является разработка и применение технологий, позволяющих обнару-
живать и блокировать поддельные изображения и видео. Исследовательские груп-
пы и IT-компании активно работают над созданием таких инструментов, которые
могут быть интегрированы в социальные сети, мессенджеры и другие платформы
для автоматического выявления и фильтрации дипфейков.
Кроме того, для обеспечения информационной безопасности и противодей-
ствия «дипфейкам» необходимо проводить просветительскую работу среди насе-
ления и развивать культуру медиаграмотности [1]. Люди должны быть информи-
рованы о рисках, связанных с дипфейками, и уметь распознавать их при встрече
с подозрительными материалами. Государству необходимо помочь обществу
сформировать критический подход к информации и снизить уровень восприим-
чивости к манипуляциям и дезинформации.
Сотрудничество между государством, медиа, IT-компаниями и гражданским
обществом также является ключевым фактором в борьбе с «дипфейками» и их влия-
нием на информацию. Вместе эти стороны могут разрабатывать стратегии, направ-
ленные на предотвращение распространения поддельных материалов, обеспечение
информационной прозрачности и поддержание доверия к источникам информации.
В целом, дипфейки и информация представляют сложную и актуальную про-
блему, требующую комплексного подхода и применения инновационных решений.
Анализ показал, что данная область является самой незащищенной с правовой
точки зрения. Развитие законодательства, использование технологий обнаружения
дипфейков, просветительская деятельность и сотрудничество всех заинтересован-
ных сторон могут сыграть решающую роль в борьбе с негативными последствия-
ми дипфейков и обеспечении информационной безопасности.
Безусловно, правовое регулирование дипфейков в зарубежных странах раз-
личается в зависимости от конкретной страны и ее законодательства. Однако не-
которые страны уже приняли и активно пользуются законами, направленными на
борьбу с использованием дипфейков, в то время как в других странах законода-
тельство менее развито или отсутствует вовсе.
По моему мнению, наибольшую эффективность в части правового регули-
рования дипфейков показала Китайская Народная Республика. Согласно анализу,
китайский законодатель отказался от полного запрета дипфейков, однако устано-
вил ряд специальных правил для их использования. Одними из таких правил яв-
ляются обязательная маркировка сгенерированных искусственным интеллектом
материалов, а также дополнительные обязанности для операторов и поставщиков
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
370
информационных услуг. Целью данных положений является предотвращение ис-
пользования дипфейков в неправомерных целях, таких как подрыв обществен-
ного порядка и государственного строя, а также нарушение прав граждан на изо-
бражение, честь и достоинство, а также на неприкосновенность частной жизни.
Китайский законодатель также установил ответственность за неправомерное
создание и распространение поддельных аудиовизуальных материалов, включая
гражданско-правовую и уголовную ответственность. Такой подход к регулирова-
нию «дипфейков» является наиболее оптимальным и соответствует требованиям
современности, что может стать примером для других стран при разработке наци-
онального правового регулирования в этой области [9. С. 91–104]. Также в Китае
полностью запрещена публикация ложных новостей, созданных с использовани-
ем искусственного интеллекта и виртуальной реальности.
В США существует законодательство, которое запрещает использование
дипфейков в целях нарушения избирательных прав, мошенничества и других пре-
ступлений. Также в США действует Digital Millennium Copyright Act (DMCA), ко-
торый регулирует использование технологий для защиты авторских прав и пресе-
кает нарушения в этой области (как пример, законы штатов Калифорния и Техас
о признании незаконными определенных дипфейков в политических целях).
В Калифорнии запрещается создавать и распространять дипфейки в пределах
60 дней до выборов. Также в некоторых штатах приняты законы, запрещающие
«реалистичные фейковые видео и фото, включая сгенерированные на компьютере
дипфейки в целях распространения видео сексуального характера [5. С. 87–103].
В Европейском союзе (ЕС) существует Общая регламентация по защите пер-
сональных данных (GDPR), которая может быть использована для пресечения рас-
пространения дипфейков, если они содержат персональные данные людей без их
согласия. В ЕС также действует Директива о некоторых аспектах авторских прав
и смежных прав в цифровом рынке, которая регулирует использование авторских
прав на цифровые контент.
Важно отметить, что некоторые компании, такие как Facebook (признана
экстре мистской, ее деятельность запрещена на территории Российской Федерации),
Google и Twitter (социальная сеть, заблокированная на территории Российской
Федерации за распространение незаконной информации), также разработали свои
политики по борьбе с дипфейками и проводят работу по выявлению и удалению де-
зинформации, в том числе созданной с помощью ИИ.
В целом, правовое регулирование дипфейков в зарубежных странах продол-
жает развиваться вместе с появлением новых технологий и применением дипфей-
ков в различных сферах жизни.
Подытожив, хотелось бы указать на недостаточность правового регулирова-
ния технологии дипфейк в Российской Федерации. Однако, многие страны, в том
числе и «дружественный» для нас Китай, уже успешно применяют на практике
специализированное законодательство относительно данной технологии. Хотя
в РФ уже обсуждалось внесение на законодательном уровне регуляции подмены
в роликах голоса и внешности человека, на практике на сегодняшний день данный
закон отсутствует. Так 2 февраля 2022 г. заместитель главы комитета Госдумы по
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
371
информационной политике, информационным технологиям и связи Антон Горелкин
заявил о необходимости регулирования обсуждаемой индустрии. Он подчеркнул,
что в этом вопросе стоит ориентироваться на китайский опыт. Т. е., вполне возмож-
но, что в ближайшее время мы получим законопроект, содержащий норму об обя-
зательстве маркировать весь материал, который производится при помощи искус-
ственного интеллекта. Данный законопроект будет касаться не только технологии
«замены лица», но и произведений, созданных с помощью уже многим известных
нейронных сетей. Однако вопрос правообладателей таких произведений до сих пор
является актуальной проблемой современной юридической науки.
Подводя итоги, с точки зрения законодательства, регулирование дипфейков мо-
жет включать несколько аспектов. Первый из них – защита частной жизни. Законы
о защите частной жизни должны быть усилены, чтобы предотвратить использова-
ние дипфейков для нарушения частной жизни людей. Это может включать запрет на
создание и распространение дипфейков без согласия всех участников, чьи лица ис-
пользуются. Второй – защита от мошенничества. Законы о мошенничестве должны
быть обновлены, чтобы включить дипфейки как форму мошенничества. Это под-
ведет недобросовестных лиц к уголовной ответственности за создание и распро-
странение дипфейков с целью обмана. Третий – авторские права. Законы об автор-
ском праве должны быть обновлены, чтобы включить дипфейки и определить, кому
принадлежат права на создание и распространение таких материалов. Четвертый
аспект – образование и информирование. Вероятно, наиболее важным является ин-
формирование общественности о дипфейках и их потенциальных последствиях,
чтобы предотвратить риски нарушения прав граждан.
В целом, регулирование дипфейков должно быть сбалансированным, чтобы
предотвратить их злоупотребление, но при этом не ограничивать свободу выраже-
ния и творчества.
Список литературы
1. Анненкова И. В., Залоило М. В. Новая культура коммуникаций в условиях
цифровой и социокультурной глобализации: право, медиа и национальная иден-
тичность // Журнал зарубежного законодательства и сравнительного правоведения.
2019. № 3. С. 140–155.
2. Гражданский кодекс Российской Федерации (часть четвертая) от 18.12.2006
№ 230-ФЗ // СПС «КонсультантПлюс.
3. Дипфейки: как трансформируется авторское право на контент // РБК URL:
https://trends.rbc.ru/trends/industry/5fc688fe9a79473e6ff9b82a
4. Как создаются дипфейки и почему они опасны // Dev.BY. URL: https://devby.
io/news
5. Калятин, В. О. Дипфейк как правовая проблема: новые угрозы или новые
возможности? // Закон. 2022. № 7. С. 87-103. DOI: 10.37239/0869-4400-2022-19-7-
87-103. EDN: FENGGS
6. Кодекс Российской Федерации об административных правонарушениях от
30.12.2001 № 195-ФЗ // СПС «КонсультантПлюс.
7. Масликова Я. А. Дипфейки как угроза персональным данным // Грядущим
поколениям завещаем: творить добро в защиту права: материалы Всероссийской
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Digital technologies in the system of legal relations (youth space of science)
372
научно-практической конференции с международным участием, Оренбург, 29 марта
2021 года. Ногинск: Аналитика родис, 2021. С. 396-400. EDN: FHUXMS
8. Научно-технический центр ФГУП «ГРЧЦ» // Обзор технологий создания
Deepfake и методов его выявлениям: Татьяна Корешкова. URL: https://rdc.grfc.
ru/2020/06/research-deepfake
9. Национальное правовое регулирование использования и распростране-
ния реалистичных аудиовизуальных поддельных материалов (deepfake): опыт
Китая / Р. И. Дремлюга, В. В. Моисейцев, Д. В. Парин, Л. И. Романова // Азиатско-
тихоокеанский регион: экономика, политика, право. 2022. Т. 24, № 4. С. 91-104.
DOI: 10.24866/1813-3274/2022-4/91-104. EDN: WYXDSB
10. Постановление Пленума Верховного Суда РФ от 23.04.2019 № 10
«О применении части четвертой Гражданского кодекса Российской Федерации» //
СПС «КонсультантПлюс.
11. Разъяснения Роскомнадзора «О вопросах отнесения фото- и видео-изо-
бражения, дактилоскопических данных и иной информации к биометрическим
персональным данным и особенности их обработки» // «Экономика и жизнь»
(Бухгалтерское приложение). № 36, 13.09.2013.
12. Сбер запатентовал технологии по распознаванию дипфейков // Роспатент.
URL: https://rospatent.gov.ru/ru/news/sber-dipfeyk-17082022.
13. Уголовный кодекс Российской Федерации от 13.06.1996 № 63-ФЗ // СПС
«КонсультантПлюс.
14. Федеральный закон «Об информации, информационных технологиях
и о защите информации» от 27.07.2006 № 149-ФЗ // СПС «КонсультантПлюс.
15. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» //
СПС «КонсультантПлюс.
16. Шаляпин Ф. И. Маска и душа. СПб., 2017. С. 117.
17. Laba // Эволюция технологии deepfake: почему она опасна, автор: Яна Ягори.
URL: https://l-a-b-a.com/blog/2579-evolyuciya-tehnologii-deepfake-pochemu-ona-opasna
18. Purva Kaushik Privacy and Other Legal Concerns in the Wake of Deepfake
Technology: Comparative Study of India, US, and China // Handbook of Research
on Cyber Law, Data Protection, and Privacy. New York: IGI Global, 2022. С. 25.
19. Sentinel // Defending Against Deepfakes and Information Warfare. URL: https://
thesentinel.ai
Д. С. Федоров
,
студент,
Московский государственный университет
имени М. В. Ломоносова
ПРЕСТУПЛЕНИЯ В СФЕРЕ ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ
Аннотация.
В статье предпринята попытка выявить правовую сущность пре-
ступлений в сфере информационных технологий, установить особенности в ходе
их совершения, проанализировать акты высших судебных инстанций и судебных
