Цифровые технологии в системе теоретико-исторических правовых наук
4.
Евразийский экономический союз. Официальный сайт. 2024. URL:
http://www.eaeunion.org
(дата обращения: 16.08.2024).
5.
Краткая характеристика состояния преступности в Российской Федера-
ции за январь – декабрь 2023 года [Электронный ресурс]. URL:
https://мвд.рф/reports/item/47055751/?ysclid=m0oaq7qak6659947758
(дата обраще-
ния: 02.09.2024).
6.
Национальный стандарт РФ ГОСТ 59709 – 2022 Защита информации.
Управление компьютерными инцидентами. Термины и определения. Утв. При-
казом Федерального агенства по техническому регулированию и метрологии.
URL:
https://base.garant.ru/406006283
(дата обращения: 02.09.2024).
7.
Пучков Д. В. Объективные признаки преступлений по законодательству
РФ, совершаемых в сфере реализации кибернетических технологий // Гумани-
тарные и юридические исследования. 2019. № 4.
8.
Рафиков И. Н., Алышев Ю. В. Преступления в сфере компьютерной
информации // E-Scio. 2020. № 2 (41).
9.
Теппеев А. А. Способы совершения и проблемы квалификации пре-
ступлений, совершаемых с использованием сети интернет // Право и управление.
2023. № 3.
10.
Шульга А В., Галиакбаров Р. Р. Уголовная ответственность за непра-
вомерное воздействие на критическую информационную инфраструктуру Рос-
сийской Федерации (ст. 274.1 УК РФ) // Гуманитарные, социально-
экономические и общественные науки. 2018. № 5.
11.
IEEE Standard for Software and System Test Documentation // IEEE Std
829-2008. 2008. Pр. 1–150. (дата обращения:18.02.2023).
12.
ISO/IEC 2382:2015 Information technology – Vocabulary. 29.11.2022.
URL:
https://www.iso.org/ standard/63598.html
(дата обращения: 18.02.2023).
13.
Understanding
malware
&
other
threats.
29.11.2023.
URL:
https://learn.microsoft.com/en-us/
microsoft-365/security/intelligence/understanding-
malware
(дата обращения: 20.01.2024).
14.
Русскевич Е.А. Нарушение правил централизованного управления
техническими средствами противодействия угрозам информационной безопас-
ности // Journal of Digital Technologies and Law. 2023. Т. 1, № 3. С. 650–672.
https://doi.org/10.21202/jdtl.2023.28
. EDN: fiseet
А. Ф. Реховский,
кандидат юридический наук, доцент,
Дальневосточный федеральный университет
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В УГОЛОВНОМ ПРАВОСУДИИ:
АНАЛИЗ ОГРАНИЧЕНИЙ И ЭТИЧЕСКИХ ВЫЗОВОВ В СВЕТЕ
ЕВРОПЕЙСКОГО ЗАКОНА ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ
Аннотация.
В статье исследуется влияние цифровизации на уголовную
юстицию, с акцентом на использование искусственного интеллекта (ИИ). Цель
работы заключается в анализе ограничений и этических вызовов, связанных
с внедрением ИИ, в свете принятия Европейского закона об искусственном ин-
Цифровые технологии в системе теоретико-исторических правовых наук
теллекте от 2024 года. Рассматриваются ключевые положения закона, включая
категоризацию ИИ-систем по уровням риска и ограничения на их использование
в сфере уголовного правосудия. Особое внимание уделено вопросам прогнози-
рования преступного поведения, биометрической идентификации, а также со-
блюдению прав человека и этических стандартов.
Ключевые слова:
искусственный интеллект, уголовное правосудие, Евро-
пейский регламент об ИИ, этические вызовы, правовое регулирование
ARTIFICIAL INTELLIGENCE IN CRIMINAL JUSTICE: ANALYSIS
OF LIMITATIONS AND ETHICAL CHALLENGES IN THE CONTEXT
OF THE EUROPEAN ARTIFICIAL INTELLIGENCE ACT
Abstract.
The article examines the impact of digitalization on criminal justice,
with a focus on the use of artificial intelligence (AI). The objective of the study is to
analyze the limitations and ethical challenges related to the implementation of AI in
light of the adoption of the European Artificial Intelligence Act of 2024. The key
provisions of the law are reviewed, including the categorization of AI systems based
on risk levels and the restrictions on their use in criminal justice. Special attention is
given to issues such as crime prediction, biometric identification, and the protection of
human rights and ethical standards.
Keywords:
artificial intelligence, criminal justice, European AI regulation,
ethical challenges, legal regulation
Введение.
Цифровизация правосудия и внедрение передовых технологий,
таких как искусственный интеллект (ИИ), становятся неотъемлемой частью мо-
дернизации судебных систем во всем мире. Особое значение этот процесс при-
обретает в контексте уголовного правосудия, где возможности ИИ могут суще-
ственно повлиять на правоприменение, принятие решений и соблюдение прав
граждан. В уголовном процессе возможности применения ИИ безграничны: воз-
можно применение технологий в целях профилактики и выявления преступле-
ний, организация предварительного расследования, криминалистическое сопро-
вождение расследования преступлений, оценка доказательств на досудебной
и судебной стадиях [7. С. 490]. Тем не менее широкое использование ИИ в дан-
ной сфере связано с рядом этических и правовых вызовов, включая вопросы
прозрачности, дискриминации и защиты прав человека. В свете принятия Евро-
пейского закона об искусственном интеллекте 2024 года особенно остро встает
необходимость анализа ограничений и рисков, связанных с применением ИИ
в уголовной юстиции. Настоящая статья посвящена рассмотрению ключевых по-
ложений этого закона, влиянию его на судебные практики и этическим аспектам,
связанным с внедрением ИИ в правоохранительные органы.
Основная часть.
С методологической точки зрения справедливо отмече-
но, что «… особые трудности проектировщики цифровизации уголовного судо-
производства испытывают в связи с тем, что сегодня ни в области теоретической
физики, ни в области социальных и гуманитарных наук нет единых господству-
ющих теорий – каждая отрасль знания представлена множеством теорий и кон-
цепций, а в использовании теоретического знания растут рефлексивно-
Цифровые технологии в системе теоретико-исторических правовых наук
методологическая и критико-рефлексивная составляющие» [1. С. 6]. Сходную
мысль высказал и Ядун Цуй «Не существует готового пути для реформирования
и инноваций судебной системы Китая» [4. С. 11].
Европейский Союз продемонстрировал прогрессивный подход к регули-
рованию цифровизации в сфере уголовной юстиции, что наглядно иллюстриру-
ется принятием Регламента об искусственном интеллекте (далее – «Регламент»)
от 13 марта 2024 года [3]. Данный нормативный акт представляет собой первую в
мире комплексную правовую базу, регулирующую использование ИИ во всех
сферах, включая уголовное правосудие.
Основная цель Регламента заключается в обеспечении этичного и без-
опасного использования ИИ с минимизацией рисков для прав человека и фунда-
ментальных свобод. Документ вводит категоризацию систем ИИ по уровням
риска (низкий, средний, высокий и неприемлемый) и устанавливает соответ-
ствующие требования к их применению.
В контексте уголовной юстиции Регламент предусматривает строгие тре-
бования и ограничения для систем ИИ, используемых в предсказательной анали-
тике преступлений, распознавании лиц и биометрической идентификации. Для
высокорисковых ИИ-систем предписывается проведение обязательных оценок
риска, обеспечение прозрачности алгоритмов, защита данных и независимый
аудит.
Особое внимание в Регламенте уделяется запретам и ограничениям на ис-
пользование определенных типов ИИ в уголовной юстиции. В частности, вво-
дятся строгие ограничения на применение «социального скоринга» и дистанци-
онного биометрического распознавания в реальном времени в общественных ме-
стах, за исключением четко определенных чрезвычайных ситуаций, таких как
угроза терроризма.
Таким образом, Регламент об искусственном интеллекте демонстрирует
комплексный подход Европейского Союза к регулированию ИИ, направленный
на достижение баланса между инновационным развитием и защитой фундамен-
тальных прав граждан, а также на обеспечение использования ИИ в уголовной
юстиции в строгом соответствии с высокими стандартами безопасности, этики и
прозрачности.
Более глубокий анализ данного нормативного акта позволяет выделить не-
сколько ключевых аспектов, представляющих значительный интерес для иссле-
дования.
Во-первых, важным является определение понятия «системы искусствен-
ного интеллекта». Согласно пункту 12 Регламента, система искусственного ин-
теллекта определяется как машинная система, отличительной характеристикой
которой является способность делать умозаключения. Эта способность позволя-
ет системе генерировать результаты в виде прогнозов, содержания, рекоменда-
ций или решений, оказывающих влияние на физическую или виртуальную среду,
а также создавать модели и алгоритмы на основе исходных данных. Такие систе-
мы применяют методы, выходящие за пределы стандартной обработки данных,
включая машинное обучение и подходы, основанные на логике и знаниях. Они
могут функционировать с различными уровнями автономности и адаптивности,
действуя как автономно, так и в составе других изделий.
Цифровые технологии в системе теоретико-исторических правовых наук
Во-вторых, требования к искусственному интеллекту, разработанные Ев-
ропейской комиссией как основа для разработки, внедрения и эксплуатации
надежных и этически обоснованных ИИ-систем, включая их применение в сфере
уголовного правосудия, можно свести к следующим критериям:
1. Превосходство человека и надзор: ИИ-системы обязаны поддерживать
автономию человека, предоставлять возможности для вмешательства и контроля
со стороны людей, а также соблюдать основные права личности.
2. Техническая надежность и безопасность: ИИ-системы должны гарантиро-
вать безопасность пользователей, быть защищенными от внешних угроз и включать
механизмы защиты, способные срабатывать в непредвиденных ситуациях.
3. Разнообразие, недискриминация и справедливость: разработка ИИ-
систем должна учитывать принципы равенства и недопущения дискриминации,
гарантируя справедливое отношение ко всем социальным группам.
4. Прозрачность: системы ИИ должны быть максимально прозрачными,
предусматривая наличие полной документации на всех этапах – от сбора данных
до процессов разработки, чтобы обеспечить аудит и понимание их функцио-
нирования.
5. Конфиденциальность и управление данными: ИИ-системы обязаны
уважать право на конфиденциальность, обеспечивая надежную защиту персо-
нальных данных, с доступом исключительно для уполномоченных лиц.
6. Социальное и экологическое благополучие: ИИ-системы должны содей-
ствовать улучшению общественного благосостояния и экологической безопасно-
сти, исключая негативное воздействие на окружающую среду и общество [5].
Эти критерии отражают стремление Европейской комиссии к обеспечению
баланса между технологическим прогрессом и защитой прав человека, что осо-
бенно важно при внедрении ИИ в такие чувствительные сферы, как уголовное
правосудие.
В-третьих, Регламент относит ИИ-системы, применяемые в уголовной юс-
тиции стран Европейского Союза, к категории высокорисковых систем. В эту ка-
тегорию входят системы, предназначенные для использования правоохранитель-
ными органами, а также связанные с управлением миграцией, предоставлением
убежища и пограничным контролем. Кроме того, к высокорисковым относятся
ИИ-системы, применяемые в отправлении правосудия и поддержке демократи-
ческих процессов, включая системы, которые используются судебными органами
или по их поручению для анализа и интерпретации фактов и норм права, а также
при принятии правовых решений в отношении конкретных дел [2]. Эти системы
также могут применяться для альтернативных методов разрешения споров.
Таким образом, высокая степень риска обусловлена прямым воздействием
ИИ-систем на фундаментальные права человека, правоприменительную практи-
ку и процесс принятия решений, что требует строгого регулирования и контроля
их использования.
В-четвертых, Регламент устанавливает запрет на использование предска-
зательной аналитики в деятельности полиции, в том числе для прогнозирования
вероятности рецидивов преступлений. Это положение ограничивает возможно-
сти предиктивных технологий и может оказать негативное влияние на развитие
таких инновационных дисциплин, как киберкриминология и кибервиктимология.
Цифровые технологии в системе теоретико-исторических правовых наук
В пункте 42 Регламента подчеркивается: «В соответствии с принципом презумп-
ции невиновности лица в Европейском Союзе должны оцениваться исключи-
тельно на основе их фактического поведения. Оценка людей не может основы-
ваться на прогнозах, полученных с использованием ИИ, если они опираются
только на профилирование, личные характеристики или черты характера». Таким
образом, проведение оценки риска совершения преступлений или прогнозирова-
ние криминальных действий, опираясь исключительно на профилирование или
анализ личностных черт, категорически запрещается.
Это положение отражает стремление Европейского союза к защите прав
и свобод граждан, исключая возможность предвзятого отношения к физическим
лицам на основе автоматизированных прогнозов, что ограничивает использова-
ние ИИ в данной сфере и требует пересмотра методов работы с преступными
рисками.
Мы солидарны с мнением современных исследователей о том, что пред-
ложенный Европейской Комиссией «Закон об ИИ», который стремится регули-
ровать использование ИИ во всех системах уголовного правосудия ЕС, а также
аналогичные инициативы в Совете Европы, обещают стать важным шагом впе-
ред, хотя многие аспекты его содержания еще требуют дальнейшего обсуждения
[6. С. 68].
Европейский закон об искусственном интеллекте 2024 года представляет
собой амбициозную попытку установить стандарты для применения ИИ в раз-
личных сферах, включая уголовное правосудие.
Европейский Регламент об искусственном интеллекте вводит строгие
ограничения на использование ИИ в уголовном правосудии, фактически исклю-
чая его широкое применение для прогнозирования преступного поведения и ре-
цидива в странах Европейского Союза. Регламент делает акцент на защите фун-
даментальных прав человека и предотвращении дискриминации, что предпола-
гает минимизацию рисков, связанных с внедрением ИИ в судебные процессы,
а также требует соблюдения строгих стандартов этики и правовых норм.
Эти ограничения отражают необходимость учета этических и правовых
аспектов использования ИИ, что, с одной стороны, снижает риски дискримина-
ции и несправедливости, а с другой – создает вызовы для технологических инно-
ваций в области правосудия. Закон может оказывать значительное влияние на
глобальные подходы к регулированию ИИ, способствуя международной гармо-
низации стандартов и развитию более ответственного использования ИИ.
Будущие исследования и эмпирические данные о применении Европейско-
го закона об ИИ позволят более точно оценить его влияние на судебную систему,
выявить возможные улучшения и определить направления для дальнейшего раз-
вития законодательства.
Заключение.
Европейский закон об искусственном интеллекте представ-
ляет собой важный шаг на пути к созданию ответственного и безопасного ис-
пользования ИИ в различных сферах, включая уголовное правосудие. Введение
строгих стандартов для ИИ-систем направлено на защиту фундаментальных
прав человека, предотвращение дискриминации и обеспечение прозрачности ал-
горитмов. Тем не менее, внедрение таких ограничений также создает определен-
ные вызовы для дальнейшего развития технологий, в частности, в области пред-
Цифровые технологии в системе теоретико-исторических правовых наук
сказательной аналитики и криминологии. Будущее использование ИИ
в правосудии будет требовать тщательного баланса между инновационными воз-
можностями и необходимостью соблюдения этических норм и стандартов прав
человека, что в итоге будет способствовать более справедливому и прозрачному
правоприменению.
Список литературы
1. Воскобитова Л. А. Уголовное судопроизводство: трансформация теоре-
тических представлений и регулирования в условиях цифровизации: монография
/ отв. ред. Л. А. Воскобитова, В. И. Пржиленский. – Москва: НОРМА: ИНФРА-
М, 2022. – 288 с. – DOI 10.12737/1893198. Текст : электронный. URL:
https://znanium.ru/catalog/product/1893198
(дата обращения: 21.08.2024).
2. Регламент Европейского союза об искусственном интеллекте. Анализ
основных положений и принципов регулирования. АНО «Цифровая экономика»,
2024.
URL:
https://ai.gov.ru/knowledgebase/dokumenty-po-razvitiyu-ii-v-drugikh-
stranakh/2024_reglament_evropeyskogo_soyuza_ob_iskusstvennom_intellekte_ano_cifro
vaya_ekonomika_/
3. Artificial Intelligence Act European Parliament legislative resolution of 13
March 2024 on the proposal for a regulation of the European Parliament and of the
Council on laying down harmonised rules on Artificial Intelligence (Artificial Intel-
ligence Act) and amending certain Union Legislative Acts (COM(2021)0206 – C9-
0146/2021 – 2021/0106(COD)). – URL:
https://www.europarl.europa.eu/doceo/document/TA-9-2024-03-3_EN.html#sdocta2.
4. Cui, Yadong. Artificial Intelligence and Judicial Modernization. Singapore:
Springer Singapore, 2020. https://doi.org/10.1007/978-981-32-9880-4.
5. Farayola, Michael Mayowa, Irina Tal, Regina Connolly, Takfarinas Saber,
and Malika Bendechache. «Ethics and Trustworthiness of AI for Predicting the Risk of
Recidivism: A Systematic Literature Review». Information 14, вып. 8 (27 июль 2023
г.): 426.
https://doi.org/10.3390/info14080426
6. Sprenger, J. M., Brodowski, D. Predictive policing, predictive justice, and the
use of artificial intelligence in the administration of criminal justice in Germany //
Journal of Legal Studies. – 2023. – № 5. – С. 45–68.
7. Spiridonov M. S. Artificial Intelligence Technologies in Criminal Procedural
Proving // Journal of Digital Technologies and Law. 2023. Т. 1, № 2. С. 481–497.
https://doi.org/10.21202/jdtl.2023.20
. EDN: acsqxh
