Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
92
А. С. Даниелян,
кандидат юридических наук,
Центр правовой поддержки “Веритас»
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В СУДЕ: ПОМОЩНИК ИЛИ СУДЬЯ?
Аннотация.
В исследовании рассматривается использование искусствен-
ного интеллекта в отечественном судопроизводстве. Отмечается, что технологии
искусственного интеллекта могут ускорить принятие решений, повысить точ-
ность и объективность, а также улучшить доступность правосудия. Однако так-
же отмечается, что есть некоторые потенциальные риски, такие как нарушение
конфиденциальности данных и возможность ошибок в алгоритмах. Итоговый
вывод исследования заключается в том, что использование информационных
технологий и системы искусственного интеллекта необходимо рассматривать не
в качестве самоцели, а как одно из первостепенных задач в срезе стратегии со-
вершенствования правовой системы и повышения эффективности защиты и вос-
становления прав участников правоотношений с учетом социальных и этических
аспектов судопроизводства.
Ключевые слова
: искусственный интеллект, судопроизводство, правосудие,
судебная система, правовая аналитика, электронное правосудие, цифровизация,
машинное обучение, цифровые технологии
ARTIFICIAL INTELLIGENCE IN COURT: ASSISTANT OR JUDGE?
Abstract.
The study examines the use of artificial intelligence in domestic civil
proceedings. It is noted that artificial intelligence technologies can speed up decision-
making, increase accuracy and objectivity, and improve access to justice. However,
it also notes that there are some potential risks, such as data privacy violations and
the possibility of algorithmic errors. The final conclusion of the study is that the use
of information technology and artificial intelligence systems should not be considered
an end in itself but should be introduced as part of a strategy to improve the legal system
and increase the effectiveness of the protection and restoration of the rights of subjects
of legal relations, taking into account the social and ethical aspects of legal proceedings.
Keywords
: artificial intelligence, legal proceedings, justice, judicial system, legal
analytics, e-justice, digitalization, machine learning, digital technologies
В последнее время решения на основе искусственного интеллекта (далее –
ИИ) все чаще используются в различных сферах деятельности, включая судопро-
изводство. Эти системы могут применяться для протоколирования хода судебных
разбирательств, систематизации процессуальных документов и даже для катего-
ризации подсудимых [9].
Основными причинами внедрения систем ИИ в судопроизводство являются:
– сокращение расходов и времени на судопроизводство;
– устранение субъективных факторов при принятии судебных решений;
– содействие в более эффективной реализации принципов судопроизводства.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
93
Однако использование систем ИИ в судопроизводстве сопряжено с опреде-
ленными рисками, в том числе:
1. Формирование эффекта объективности. Люди склонны считать решения,
принятые автоматизированной системой, более объективными, чем решения, при-
нятые человеком. Это может привести к тому, что решения системы будут подвер-
гаться меньшему сомнению и критике.
2. Стереотипизация. Системы ИИ могут усиливать стереотипы, присутствую-
щие в данных, на которых они обучаются. Это может привести к тому, что решения
системы будут дискриминационными в отношении определенных групп людей.
В некоторых отраслях, включая судопроизводство, компьютерные системы
и системы ИИ могут заменять людей на рабочих местах, например, для система-
тизации информации по делу в заданных критериях и внесения предложений или
советов на основе имеющихся данных. При этом для адекватного применения си-
стем с поддержкой ИИ судьям необходимо понимать, как они работают [18].
Вдобавок, существует точка зрения, что ни одна автоматизированная систе-
ма не может функционировать без человеческого сопровождения [11]. Считаем,
что в настоящий момент компьютерные системы и системы ИИ преимущественно
дополняют людей на рабочих местах, упрощая выполнение отдельных операций
и сокращая время на выполнение других. Это вариант этичного применения ИИ
на рабочем месте, который следует поощрять.
В качестве примера применения ИИ можно привести сервис Google Scholar,
в котором встроенный ИИ помогает быстро находить и систематизировать мате-
риалы. Это существенно упрощает работу исследователей и уменьшает уровень
их нагрузки [13].
Вот несколько возможных способов использования системы ИИ в правовой
сфере:
1. Организация информации о судебных делах. Система ИИ может использо-
ваться для распознавания шаблонов в текстовых документах и файлах при сорти-
ровке большого количества дел или в сложных делах, содержащих большой объем
информации. Это может ускорить поиск и анализ информации, необходимой для
принятия решений.
2. Консультативный ИИ. Система ИИ может анализировать информацию
и предоставлять рекомендации в режиме «вопрос-ответ». Это может быть полезно
судьям и участникам судебного процесса для принятия решений.
3. Юридическая аналитика. Система ИИ может предоставлять данные из су-
дебной практики, которые юристы могут использовать при подготовке к текущим
судебным процессам. Это может повысить эффективность и точность юридиче-
ских исследований.
4. Автоматизация документооборота. Система ИИ может использоваться для
автоматического составления и подачи юридических документов. Это может сэко-
номить время и усилия юристов.
5. Интеллектуальная собственность. Система ИИ может использоваться для
поиска и регистрации товарных знаков, патентов, авторских прав и других объек-
тов интеллектуальной собственности. Это может упростить и ускорить процесс
регистрации интеллектуальной собственности.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
94
ИИ все чаще используется в судопроизводстве во всем мире [1, 2, 7, 14].
В Китае, например, с 2014 г. разрабатывается система умного суда, которая к 2025 г.
должна охватить все суды страны. Главные цели этой системы – ускорить рассмо-
трение дел, повысить доверие к судам и сделать процессы более удобными [3].
В Индии в марте 2023 г. суд одного из штатов использовал чат-бот с ИИ при
принятии решения по делу об освобождении под залог [17].
В России полномасштабное применение ИИ планируется посредством введе-
ния суперсервиса «Правосудие онлайн». Основная задача ИИ в этом сервисе будет
заключаться в автоматизированном составлении проектов судебных актов, рас-
шифровке аудиопротоколов и создании интеллектуальной поисковой системы [5].
Использование ИИ в организационной деятельности суда позволяет умень-
шить рутинную работу судей и работников аппарата суда. Уже сейчас с помощью
ИИ можно автоматизировать ввод и обработку информации при осуществлении
делопроизводства, рассмотрение поступающих в суд процессуальных документов,
идентификацию личности и полномочий для участия в судебном разбирательстве.
В Колумбии судья использовал нейросеть ChatGPT для консультации перед
вынесением приговора. Решение суда совпало с ответом чат-бота, но окончатель-
ное решение принял судья самостоятельно. Отметим, что в 2022 г. в Колумбии
приняли закон, который обязывает государственных юристов использовать совре-
менные технологии для более эффективной работы [10].
Применение технологии слабого искусственного интеллекта в организаци-
онной деятельности суда позволит уменьшить рутинную работу судей и работ-
ников аппарата суда. Уже сейчас с помощью данной технологии можно решать
задачи по автоматизированному вводу и обработке информации при осуществле-
нии делопроизводства, рассмотрению поступающих в суд процессуальных доку-
ментов с целью выявления их несоответствия требованиям процессуального за-
конодательства, идентификации личности и полномочий для участия в судебном
разбирательстве [4].
ИИ может быть использован для рассмотрения гражданских и администра-
тивных дел по бесспорным требованиям, т. е. там, где принятие решения не свя-
зано с анализом правоотношений сторон и в большей степени имеет технический
характер. Например, ИИ может быть использован для расчета размера алиментов,
компенсации морального вреда или штрафа.
Правоведы отмечают, что для эффективного использования ИИ в судопро-
изводстве необходимо провести дополнительную работу как в доктринальной,
так и в технической областях. Необходимо найти способы имитации юридиче-
ского мышления с помощью ИИ, а также адаптировать математические расчеты
к правовой сфере [16, p. 313].
Бразильскими учеными было проведено исследование, посвященное труд-
ностям обеспечения справедливости и отсутствия предубеждений при принятии
решений моделями ИИ. В исследовании были использованы различные методы,
техники и инструменты для обнаружения и устранения алгоритмической неспра-
ведливости и предубеждений.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
95
Авторы исследования рассмотрели три основных формы предвзятостей:
1. Предвзятость данных: Предвзятость в обучающих данных может привести
к тому, что модель будет выдавать несправедливые или предвзятые решения.
2. Предвзятость алгоритмов: Предвзятость в алгоритмах может привести
к тому, что модель будет выдавать несправедливые или предвзятые решения, даже
если обучающие данные не являются предвзятыми.
3. Предвзятость пользователей: Предвзятость пользователей может приве-
сти к тому, что люди будут злоупотреблять моделями ИИ или использовать их для
принятия несправедливых или предвзятых решений.
Для устранения предвзятостей в моделях ИИ авторы исследования предлага-
ют использовать следующие подходы:
1. Предобработка данных: Предобработка данных может помочь устранить
предвзятость в обучающих данных, например, путем удаления чувствительных
атрибутов.
2. Внутренняя обработка: Внутренняя обработка может помочь устранить
предвзятость в алгоритмах, например, путем использования алгоритмов машин-
ного обучения, устойчивых к предвзятости.
3. Постобработка: Постобработка может помочь устранить предвзятость
в решениях модели, например, путем корректировки результатов модели с учетом
известных предубеждений.
Авторы исследования отмечают, что текущие исследования в области устра-
нения предвзятости в моделях ИИ имеют ряд ограничений. Во-первых, многие ис-
следования сосредоточены на одноклассовых задачах, тогда как в реальном мире
часто требуется решать многоклассовые задачи. Во-вторых, результаты различных
метрик справедливости могут быть неоднородными для одного и того же случая.
В-третьих, необходимо проводить более широкие исследования с использовани-
ем различных архитектур моделей и различных метрик, чтобы стандартизировать
подходы и определить, какие метрики являются более подходящими в конкретных
контекстах.
В заключение авторы исследования отмечают, что внедрение решений на ос-
нове ИИ в судопроизводство может существенно сэкономить время и средства на
рассмотрение и разрешение дела. Однако внедрение таких решений несет с собой
существенные риски, связанные с предвзятостью моделей ИИ.
Люди склонны доверять решениям ИИ, даже если они ошибочны. Это связа-
но с тем, что люди часто не понимают, как работают алгоритмы ИИ и как они мо-
гут быть предвзятыми [9]. Однако алгоритмы ИИ часто отражают предубеждения,
которые присутствуют в обучающих данных. Это может привести к тому, что ИИ
принимает несправедливые решения, например, на основании расовой или этни-
ческой принадлежности. Это особенно опасно в сфере правосудия, где ошибки
могут иметь серьезные последствия.
Типичную модель машинного обучения можно образно представить в виде
«плохого отличника» – заучивает то, что ей демонстрируют в источнике информа-
ции (обучающие данные) и при этом ничего не понимает.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
96
Алгоритмы машинного обучения часто отражают существующие преду-
беждения в обществе. Это может привести к тому, что они принимают несправед-
ливые решения, например, на основании расы или этнической принадлежности.
В качестве примера можно привести алгоритмы прогнозирования арестов. Такие
алгоритмы часто обучаются на данных, которые отражают расовую дискримина-
цию в системе правосудия. В результате эти алгоритмы могут предсказывать, что
чернокожие люди более склонны к совершению преступлений, чем белые, даже
если это не так [12]. Данный пример показывает, что важно учитывать предвзя-
тость данных при разработке и использовании алгоритмов машинного обуче-
ния. Необходимо использовать методы, которые помогают выявлять и устранять
предвзятость в данных.
В настоящее время существует несколько методов для обнаружения предвзя-
тости в обучающих данных. Один из таких методов заключается в использовании
метрик, которые измеряют разницу в предсказаниях, сделанных на основе дан-
ных, отражающих существующие предубеждения, и данных, отражающих идеа-
лизированный мир [19]. Однако этот метод не является универсальным, так как
он может давать ложные результаты в случае наличия ошибок в тестовых данных.
Другой подход заключается в использовании метода предсказания следую-
щего действия. Этот метод позволяет выявлять аномалии в данных, которые могут
указывать на наличие предвзятости [15]. Например, если система предсказывает,
что следующий документ в деле будет иск, но вместо этого поступает ходатай-
ство, это может указывать на то, что данные были предвзяты в пользу исков.
Помимо того, для минимизации предвзятости в алгоритмах машинного обу-
чения можно использовать концепцию групповой справедливости. Эта концепция
предполагает, что решения, принимаемые алгоритмом, должны быть справедли-
выми для всех групп населения. Для этого алгоритм может быть модифицирован
таким образом, чтобы он учитывал статистические данные о различных группах
населения [8].
Важно также уделять внимание этическим аспектам использования машин-
ного обучения в судопроизводстве. К этим аспектам относятся: прозрачность,
объек тивность, недискриминация, защита персональных данных и отслеживае-
мость принимаемых алгоритмом решений. В контексте судопроизводства эти
проб лемы могут быть особенно актуальными, так как правильность и справедли-
вость принимаемых судом решений зависят от того, какие данные используются
для принятия этих решений и как они интерпретируются алгоритмами машинного
обучения. Поэтому важно обеспечить прозрачность и объективность принимае-
мых алгоритмом решений, а также учитывать факторы групповой справедливости
при работе с данными и принятии решений.
Проанализировав способы использования системы ИИ в правовой сфере
и потенциальные риски внедрения решений на его основе, предлагаем методоло-
гические принципы для внедрения решений на основе ИИ в судопроизводство.
Эти принципы основаны на трехэтапном подходе:
Этап 1. Ручной процесс. На этом этапе решение на основе ИИ использует-
ся в качестве ассистента, а окончательные решения принимаются участниками
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
97
судебного процесса. Это позволяет выявить и устранить потенциальные ошибки
в алгоритме.
Этап 2. Ограниченное развертывание. На этом этапе решение на основе ИИ
используется для принятия решений самостоятельно, но только в ограниченном
масштабе. Это позволяет выявить ошибки в системе, которые могут возникнуть
в результате увеличения масштаба применения.
Этап 3. Постепенное расширение. На этом этапе решение на основе ИИ ис-
пользуется в полном масштабе. Однако участникам судебного процесса предо-
ставляется возможность обжаловать решения системы [6].
Эти принципы позволяют снизить риски, связанные с внедрением решений
на основе ИИ в судопроизводство. Они также обеспечивают прозрачность и по-
дотчетность системы, что важно для обеспечения справедливого правосудия.
Резюмируем, что применение ИИ в судопроизводстве может ускорить про-
цесс принятия решений и повысить их объективность, но также несет с собой ри-
ски, такие как предвзятость алгоритмов и нарушение конфиденциальности дан-
ных. Чтобы снизить эти риски, необходимо соблюдать следующие принципы:
– системы ИИ должны быть прозрачными и подотчетными;
– их алгоритмы должны быть разработаны с учетом социальных и этических
норм;
– данные, на которых обучаются системы, должны быть репрезентативными
и непредвзятыми.
Кроме того, необходимо учитывать, что качество работы систем ИИ зависит
от архитектуры данных и качества обучающей выборки.
Список литературы
1. Бирюков П. Н. Искусственный интеллект и «предсказанное правосудие»:
зарубежный опыт // Lex russica. 2019. № 11. С. 79–87.
2. Бирюков П. Н. Цифровизация правосудия по гражданским делам: опыт ЕС
// Арбитражный и гражданский процесс. 2022. № 2. С. 3–7.
3. Интернет-суд: новый проект в действии. URL: https://www.obwbip.
com/04D540/assets/files/News/Internet-Court-On-the-Fly-RU.pdf
4. Крисько В. С. К вопросу о реализации принципа доступности правосу-
дия и создания единого информационного пространства судебной системы //
Администратор суда. 2019. № 1. С. 54–56.
5. Момотов В. В. Искусственный интеллект в судопроизводстве: состояние,
перспективы использования // Вестник университета имени О. Е. Кутафина (МГЮА).
2021. № 5. С. 188–191.
6. Ховард Д., Гуггер С. Глубокое обучение с fastai и PyTorch: минимум формул,
минимум кода, максимум эффективности. СПб., 2022.
7. Чудиновская Н. А. Некоторые направления цифровизации правосудия
в России и странах Евросоюза // Арбитражный и гражданский процесс. 2022. № 7.
С. 7–9.
8. Araujo M., Pagano T. P., Loureiro R., Lisboa F, Peixoto R. M., Guimarães G.,
Cruz G., Santos L., Cruz M., Oliveira E., Winkler I., Nascimento E. Bias and Unfairness
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
98
in Machine Learning Models: A Systematic Review on Datasets, Tools, Fairness Metrics,
and Identification and Mitigation Methods // Big Data and Cognitive Computing. 2023.
№ 7(1). P. 15.
9. Bogert E., Schecter A. & Watson R. T. Humans rely more on algorithms than
social influence as a task becomes more difficult // Science Reports. 2021. № 11. P. 8028.
10. Colombian judge says he used ChatGPT in ruling. URL: https://www.theguardian.
com/technology/2023/feb/03/colombia-judge-chatgpt-ruling
11. Godwin J. Position of Artificial Intelligence in Justice System: Justice of the
Future. URL: https://nji.gov.ng/wp-content/uploads/2021/12/Position-of-Artificial-
Intelligence-in-Justice-System-Justice-of-the-Future-by-Joel-Gogwim.pdf
12. Heaven W. D. Predictive policing algorithms are racist. They need to be
dismantled // MIT Technology Review. 2020. № 3.
13. Jones N. AI science search engines expand their reach [Электронный ресурс]
// Nature News. 2016. № 11.
14. Khan A. AI-powered Indian judiciary: A step forward or cause for
concern? URL: https://www.barandbench.com/columns/litigation-columns/
ai-powered-indian-judiciary-a-step-forward-cause-concern
15. Lee S., Lu X., Reijers Hajo A. The Analysis of Online Event Streams: Predicting
the Next Activity for Anomaly Detection // arXiv. 2022. № 03. Pp. 1–10.
16. Lim S. Judicial Decision-Making and Explainable Artificial Intelligence //
Singapore Academy of Law Journal. 2021. № 33. P. 280–314.
17. Punjab and Haryana High Court uses ChatGPT in bail order. URL: https://www.
barandbench.com/news/litigation/punjab-haryana-high-court-uses-chatgpt-bailorder
18. Reiling A. D. Courts and Artificial Intelligence // International Journal for Court
Administration. 2020. № 11. Pp. 1–8.
19. Yu Z., Xi X. A Pilot Study on Detecting Unfairness in Human Decisions with
Machine Learning Algorithmic Bias Detection // arXiv. 2021. № 12. Pp. 1–9.
Д. Э. Демин,
студент,
Сибирский федеральный университет
Н. В. Шапран,
старший преподаватель,
Сибирский федеральный университет
ГРАЖДАНСКО-ПРАВОВАЯ ДИФФАМАЦИЯ
ДЕЛОВОЙ РЕПУТАЦИИ МЕДИЦИНСКИХ РАБОТНИКОВ
В ЦИФРОВОМ ПРОСТРАНСТВЕ
Аннотация.
Целью исследования выступает анализ деликта в цифровом
пространстве на примере гражданско-правовой диффамации деловой репута-
ции медицинских работников. Раскрываются правовая природа и особенности
