Цифровые технологии в системе правовых отношений (молодежное пространство науки)
8.
Цифровая криминалистика: учебник для вузов / В. Б. Вехов [и др.]. – 2-е
изд., перераб. и доп. М.: Юрайт, 2024. 490 с.
9.
Число киберпреступлений в России. 2024: Доля киберпреступлений в
России за год достигла 38 % в общем количестве: сайт. URL:
https://www.tadviser.ru
10.
Шаповалова Г. М. Возможность использования информационных сле-
дов в криминалистике: Вопросы теории и практики: дис … канд. юрид. наук. Вла-
дивосток, 2006. 21 с.
11.
Бегишев И. Р., Хисамова З. И. Искусственный интеллект и робототех-
ника: глоссарий понятий. М.: Проспект, 2021. 64 с. EDN: HQELSK
12.
Motives and Objectives of Crime Commission Against Information Security
/ A. Yu. Bokovnya [et al.] // Ad Alta. 2020. Vol. 10, № 2 S13. Pp. 7–9. EDN: SCSEBN
У. В. Жук,
студент,
Иркутский государственный университет
ТЕХНОЛОГИЯ DEEPFAKE:
ЛАНДШАФТ СОВРЕМЕННОСТИ ИЛИ НОВАЯ СФЕРА,
ТРЕБУЮЩАЯ ПРАВОВОГО РЕГУЛИРОВАНИЯ?
Аннотация.
В статье рассматривается феномен deepfake-технологии, поз-
воляющей создавать фальшивые видео- и аудиозаписи с помощью искусственного
интеллекта. Анализируется влияние deepfake на современное общество и подчер-
кивается необходимость разработки правовых механизмов для борьбы с возмож-
ным злоупотреблением этой технологией. Основная цель статьи заключается в
обосновании того, что deepfake представляет собой новую сферу, требующую вни-
мания законодателей и общественности, регулирование которой необходимо для
того, чтобы защитить персональные данные, приватность и общественную без-
опасность.
Ключевые слова
: искусственный интеллект, цифровое право, цифровиза-
ция общества, deepfake, современные технологии, дополненная реальность, пра-
вовое регулирование
DEEPFAKE TECHNOLOGY: A LANDSCAPE OF MODERNITY
OR A NEW SPHERE REQUIRING LEGAL REGULATION?
Abstract.
The article discusses the phenomenon of deepfake-technology, which
allows creating fake video and audio recordings with the help of artificial intelligence.
The author analyzes the impact of deepfake on modern society and emphasizes the need
to develop legal mechanisms to combat the possible abuse of this technology. The main
goal of the article is to prove that deepfake is a new sphere that requires attention of
legislators and the public, regulation of which is necessary in order to protect personal
data, privacy and public safety.
Keywords
: artificial intelligence, digital law, digitalization of society, deepfake,
modern technologies, augmented reality, legal regulation
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Введение.
На современном этапе развития активной цифровизации обще-
ства понятие «искусственный интеллект» ежедневно дополняется, обрастая все
новыми и новыми разновидностями и сферами, в которых технологические до-
стижения прогресса могут использоваться.
В настоящий момент активные попытки внедрения искусственного интел-
лекта можно наблюдать в медицине [1, 2], образовании, юриспруденции, а также
во многих иных областях общественной жизни. Искусственный интеллект [3, 4]
обрабатывает огромное количество информации за короткий промежуток вре-
мени, генерирует тексты, изображения, видео, осуществляет поиск и подбор реле-
вантных предложений по запросам пользователей, генерирует идеи и ответы на
сложные вопросы и казусы на основе данных, вложенных в него человеком.
Несмотря на позитивные возможности и открывающиеся перспективы ис-
пользования искусственного интеллекта, в настоящий момент отсутствует четкое
правовое регулирование такой разновидности искусственного интеллекта, как,
например, deepfake-технология (далее – дипфейк), поэтому в контексте настоя-
щего исследования автор считает необходимым проанализировать с точки зрения
права само по себе существование дипфейка, его использование при создании
и распространении вышеупомянутого контента, а также высказать авторскую
точку зрения относительно вопроса привлечения к ответственности за неправо-
мерное использование дипфейка или злоупотребление данной технологией.
Основная часть.
Для более четкого понимания сущности комментируе-
мого явления необходимо унифицировать дефиницию дипфейка, через призму ко-
торой он и будет рассматриваться в контексте настоящего исследования.
Дипфейк – это технология, основанная на искусственном интеллекте, це-
лью которой является создание аудиовизуального и голосового контента на основе
данных, которым «обучить» дипфейк сможет только человек.
Так, например, с помощью неправомерного использования и злоупотребле-
ния данной современной технологией может совершаться множество правонару-
шений (преступлений), влекущих определенный уровень общественной опасно-
сти как для отдельно взятого человека, так и для общества в целом:
1. Финансовое вымогательство: фальсификация фотографий или видео
в изобличающей или позорящей манере в ситуациях, когда преступники вымо-
гают деньги у своей жертвы; обход аутентификации Face ID на веб-сайтах и/или
в мобильных банковских приложениях для получения несанкционированного до-
ступа и т. д.
2. По сути, данная технология предполагает использование искусственного
интеллекта для «снятия» одежды с изображения человека и создания приблизи-
тельной картины его обнаженного тела.
Преступники часто используют вышеупомянутую технологию, чтобы ма-
нипулировать ничего не подозревающими жертвами. Этот метод чрезвычайно без-
жалостен с точки зрения человечности и может оказать глубокое негативное вли-
яние на психоэмоциональное состояние и социальную жизнь жертвы. Как пра-
вило, в отношении жертвы создается фейковое откровенное изображение или ви-
део, собирается информация обо всех ее социальных контактах и взаимодей-
ствиях, а затем фейковый откровенный контент используется, чтобы шантажиро-
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
вать жертву для цели получения денег, имущества или ее принуждения к соверше-
нию определенных действий. Если жертва отказывается выполнять требования
преступника, фейковый контент обычно распространяется среди ее окружения,
а вымогательство продолжается с использованием более жестоких форм насилия.
С точки зрения автора, именно deepnudes, вероятно, должно стать одним из основ-
ных направлений будущего законодательства о дипфейках.
3. Политические манипуляции: все, что касается политической сферы лю-
бого государства, обычно связано с прямым и очень сильным влиянием деятель-
ности какого-либо лица на сознание электората, в связи с чем воссоздание вирту-
альной копии харизматичного политического лидера (особенно в странах с харак-
терно выраженным культом личности) – еще одно направление неправомерного
использования дипфейк-технологии. В преддверии американских президентских
выборов – в социальных сетях бурные общественные волнения вызвало видео
с якобы пьяной Нэнси Пелоси – спикером Палаты представителей Конгресса и од-
ной из самых авторитетных персон Демократической партии США. После выше-
приведенных прецедентов крупнейшие американские социальные сети добавили
в свои правила запреты на дипфейки, которые используются для дезинформации,
а в 2019–2020 ггг. четыре американских штата ввели уголовное наказание за ис-
пользование дипфейков в политической рекламе [5].
Кроме того, еще одним беспрецедентным случаем использования дипфейка
является мошенничество с помощью применения так называемого группового ди-
пфейка – данный метод использовали мошенники, чтобы обмануть гонконгскую
компанию на сумму в почти 26 миллионов долларов. В СМИ появилась информа-
ция о том, что транснациональная компания (название которой не разглашается)
понесла значительные финансовые потери из-за действий сотрудника финансо-
вого отдела, который получил на свой рабочий аккаунт электронное письмо якобы
от старшего менеджера из британского головного офиса. В письме содержалось
приглашение присоединиться к видеоконференции. Финансист перешел по
ссылке и оказался лицом к лицу не только со своим непосредственным руководи-
телем, но и с несколькими другими коллегами. Спустя некоторое время оказалось,
что на этой видеовстрече был настоящим только сам обманутый сотрудник.
Остальные участники были сгенерированы с помощью дипфейка – их внешность
и голоса были подделаны, однако настолько качественно, что у сотрудника не воз-
никло подозрений, поэтому он перевел на указанные ими счета около 26 миллио-
нов долларов и заподозрил неладное только спустя неделю [6].
По мнению автора, наличие вышеупомянутых случаев и потенциальная воз-
можность совершения различных правонарушений с помощью дипфейка, заставляет
задуматься о создании регулирования данной технологии с точки зрения различных
отраслей права: конституционного, гражданского, административного и, безусловно,
уголовного, о котором автор предпримет попытку порассуждать ниже.
Говоря о привлечении к уголовной ответственности за неправомерное ис-
пользование дипфейка в контексте системы права Российской Федерации, возни-
кает резонное предложение о введении в Уголовный кодекс РФ нового состава
преступления, в соответствии с которым виновное лицо будет привлекаться к уго-
ловной ответственности.
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Введение отдельного состава преступления, который закреплял бы уголов-
ную ответственность за использование дипфейка – действие весьма преждевре-
менное в условиях современных российских реалий, которое может привести
к избыточному правовому регулированию и созданию в уголовном законодатель-
стве еще одной «мертвой» правовой нормы. Такое излишнее регулирование по-
влечет за собой возникновение квалификационных ошибок, вызванных сложно-
стями при разграничении смежных составов преступлений, которые также могут
быть совершены с использованием дипфейка (например, мошенничество, вымо-
гательство, клевета и т. д.).
Кроме того, при введении уголовной ответственности за злоупотребление
дипфейк-технологиями, законодатель и правоприменитель могут столкнуться
и с иными проблемными аспектами, например, такими как установление возраста
привлечения к уголовной ответственности; наличие/отсутствие умысла; зачастую
полная анонимность лиц, совершающих подобные преступления; а также труд-
ность сбора так называемых цифровых следов преступления с процессуальной
точки зрения.
В контексте правового регулирования дипфейков через призму российского
уголовного законодательства наиболее предпочтительным вариантом, по мнению
автора, считается внесение изменений в ст. 63 Уголовного кодекса РФ в виде ее
дополнения новым отягчающим обстоятельством, которое может звучать следую-
щим образом: «совершение преступления посредством неправомерного использо-
вания технологий искусственного интеллекта». Данная мера, вероятнее всего, бу-
дет не так радикально смотреться в тексте уголовного законодательства РФ, од-
нако однозначно будет носить превентивный характер, подразумевающий под со-
бой осознание преступником факта применения к нему как к виновному лицу бо-
лее серьезной санкции, чем могла бы быть.
В качестве «рационализаторских предложений» по разработке первоначаль-
ного правового регулирования дипфейков автором могут быть предложены следу-
ющие способы снижения неправомерного использования дипфейк-технологии,
направленные на приобретение и накопление положительного опыта применения
возможностей искусственного интеллекта, например:
1. Создание и разработка первичной нормативно-правовой базы в данной
области.
2. Законодательное закрепление за создателями программного обеспече-
ния/программного кода, на основе которого написан дипфейк, обязанности полу-
чения лицензии в соответствующем ведомственном органе, дающей права поль-
зования, владения и распространения технологий искусственного интеллекта, це-
лью которых является правомерное создание дипфейк-контента для личных, про-
фессиональных, развлекательных, научно-исследовательских и иных целей. Дан-
ная мера будет направлена на отслеживание оборота приложений/сайтов/про-
грамм, которые с завидной периодичностью выпускаются под эгидой развития
технологического прогресса. По мнению автора, в данной связи целесообразным
видится дополнение ст. 12 Федерального закона «О лицензировании отдельных
видов деятельности» еще одним видом деятельности, на который будет требо-
ваться лицензия.
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
3. Создание системы контроля за интернет-ресурсами, целевое назначение
которых направлено на возможность использования дипфейка в различных целях
посредством закрепления за такими ресурсами официальных сертифицированных
доменных адресов, посещая которые можно будет только правомерно воспользо-
ваться дипфейк-нейросетями, с соблюдением при этом баланса между пользова-
тельской регистрацией и конфиденциальностью информации, включающей в себя
в том числе и персональные данные зарегистрированных пользователей.
4. Закрепление за соответствующими органами исполнительной власти
(например, за Роскомнадзором) обязанности по мониторингу и принудительному
удалению со всех доступных интернет-ресурсов программного обеспечения, ис-
пользующего дипфейк для генерации изображений обнаженного человеческого
тела (Deepnudes).
Заключение.
Таким образом, опираясь на все вышеизложенное и завершая
раскрытие вопроса относительно необходимости правового регулирования ди-
пфейков, автор приходит к следующим выводам. Развитие современной дипфейк-
технологии – это, безусловно, новая и малоизученная сфера, требующая наличия
соответствующего законодательного регулирования (как в РФ, так и в любом дру-
гом государстве). Помимо всего прочего, необходимо также помнить и о том, что
контент, создаваемый дипфейком, абсолютно всегда является поддельным, однако
его влияние на конкретного человека или общественность может быть вполне ре-
альным, в связи с чем российская система права в общем и целом нуждается в ор-
ганизации принятия определенных мер, направленных на поддержание правомер-
ного оборота использования дипфейков.
Однако вместе с тем принимать излишне радикальные меры, например, та-
кие, как введение в Уголовный кодекс РФ состава преступления за неправомерное
использование технологий искусственного интеллекта, не является принципи-
ально верным и оправданным выходом из ситуации, так как конечная цель право-
вого регулирования дипфейков – не запретить их использование в императивном
порядке, препятствуя тем самым закономерному развитию достижений техноло-
гического прогресса, а принять все возможные превентивные меры для недопу-
щения нарушения прав человека при использовании данной технологии, обеспе-
чив их защиту с точки зрения законодательства Российской Федерации.
Список литературы
1. Bioprinting Medical Devices: Criminal Evaluation Issues / D. V. Kirpichnikov
[et al.] // AIP Conference Proceedings: VII International Conference “Safety Problems
of Civil Engineering Critical Infrastructures” (SPCECI2021), Yekaterinburg, 2023.
Vol. 2701. P. 020032. EDN: STBLEX
2. Motives and Objectives of Crime Commission Against Information Security /
A. Yu. Bokovnya [et al.] // Ad Alta. 2020. Vol. 10, № 2 S13. Pp. 7–9. EDN: SCSEBN
3. Бегишев И. Р., Хисамова З. И. Искусственный интеллект и робототехника:
глоссарий понятий. М.: Проспект, 2021. 64 с. EDN: HQELSK
4. Бегишев И. Р. Об обороте роботов, их составных частей (модулей) (ини-
циативный проект федерального закона): Препринт № 1 за 2021 г. Казань: Позна-
ние, 2021. EDN: FTFKAN.
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
5. Эксперты рассказали, кто может стать жертвой дипфейков. URL:
https://ria.ru/20210814/dipfeyk-1745306675.html
(дата обращения: 10.07.2024).
6. Компанию из Гонконга обманули почти на 26 млн долларов. Мошенники
применили групповой дипфейк. URL:
https://www.bfm.ru/news/543637
(дата обра-
щения: 10.07.2024).
У. И. Зенович,
студент,
Полоцкий государственный университет
имени Евфросинии Полоцкой
ПРАВОВЫЕ И ТЕХНОЛОГИЧЕСКИЕ ОСНОВЫ
ЦИФРОВИЗАЦИИ ЗАКОНОДАТЕЛЬНЫХ ОРГАНОВ
Аннотация.
В представленной статье поднимается вопрос модернизации
парламентов посредством использования новых цифровых технологий. При этом
модернизация становится все более распространенным явлением. Рассматрива-
ются различные аспекты внедрения цифровых технологий в деятельность законо-
дательных органов, с критической стороны оценивая ее. Проводzтся анализ
и оценка состояния электронного парламентаризма в Республике Беларусь, фор-
мулируются выводы и предложения.
Ключевые слова
: парламент, цифровизация, трансформация, граждане,
право, законодательство, информационно-коммуникационные технологии, ин-
формационное общество
LEGAL AND TECHNOLOGICAL BASIS
FOR DIGITALIZATION OF LEGISLATIVE BODIES
Abstract.
This article raises the issue of modernizing parliaments through the use
of new digital technologies. At the same time, modernization is becoming increasingly
common. The author examines various aspects of the introduction of digital
technologies into the activities of legislative bodies, evaluating it from a critical
perspective. An analysis and assessment of the state of electronic parliamentarism in
the Republic of Belarus is carried out, conclusions and proposals are formulated.
Keywords
: Parliament, digitalization, transformation, citizens, law, legislation,
technology, information
Введение.
Цифровая трансформация – неизбежный и важный процесс, по-
скольку технологии внедряются во все аспекты современной жизни, включая дея-
тельность государственных органов. Однако она несет с собой риски и сложности,
решение которых требует руководства, управления и значительного планирования.
Основная часть.
Цифровая трансформация не является в первую очередь
технологически обусловленной; это скорее рефлексивный процесс в состоянии
постоянного изменения. Для изучения этой трансформации в основу должны лечь
исследования в области управления, анализа дискурса, социологии технологий
