Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
30.
Электронное гражданское судопроизводство в России: штрихи концеп-
ции: монография. М.: Проспект, 2015. 185 с.
31.
Василькова С. В. Электронное правосудие в цивилистическом процессе
: автореферат дис. ... канд. юрид. наук: 12.00.15. Саратов, 2018. 25 с.
32.
Ярков В. В. Электронное правосудие // ЭЖ-Юрист. 2006. № 41. С. 25.
А. Е. Парфентьева,
аспирант,
Российский университет дружбы народов
имени Патриса Лумумбы
ПРАВОВОЕ РЕГУЛИРОВАНИЕ РАЗРАБОТКИ И ПРИМЕНЕНИЯ
ТЕХНОЛОГИЙ ИИ В СФЕРЕ ГОСУДАРСТВЕННОЙ ОБОРОНЫ
Аннотация.
Цель данного исследования – рассмотреть текущее состояние
правового регулирования технологий искусственного интеллекта, применяемых
в военных целях. В статье представлен обзор предпосылок развития и использо-
вания данных технологий, проанализирован опыт зарубежных стран и России в
части правового регулирования искусственного интеллекта, применяемого в во-
енных целях, а также доктринальная концепция «ответственного ИИ». На основе
проведенного анализа сделаны выводы и предложения о дальнейших перспекти-
вах регулирования рассмотренной сферы правоотношений в целом и администра-
тивно-правовых механизмах регламентации данной сферы в Российской Федера-
ции.
Ключевые слова:
право, цифровые технологии, искусственный интеллект,
оборона, автономные системы вооружения, ответственный ИИ, сравнительно-
правовое исследование военного ИИ
LEGAL REGULATION OF THE DEVELOPMENT AND APPLICATION
OF AI TECHNOLOGIES IN THE SPHERE OF NATIONAL DEFENSE
Abstract.
The purpose of this study is to examine the current state of legal
regulation of artificial intelligence technologies used for military purposes. The article
presents an overview of the prerequisites for the development and use of these
technologies. The article contains analysis of the experience of foreign countries and
Russia in terms of legal regulation of artificial intelligence used for military purposes,
as well as the doctrinal concept of “responsible AI”. The article provides suggestions for
further prospects of regulation of the considered sphere of legal relations in general and
administrative and legal mechanisms of regulation of this sphere in the Russian
Federation.
Keywords:
law, digital technologies, artificial intelligence, defense, autonomous
weapon systems, responsible AI, comparative legal research of military AI
Введение.
Стремительное развитие технологий искусственного интеллекта
(ИИ) обуславливает интерес законодателя и исследователей к вопросу правового
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
регулирования данных технологий. На сегодняшний день ИИ внедряется практи-
чески во все сферы общественной жизни, и сфера обороны не является исключе-
нием.
Более того, история развития технологий ИИ неразрывно связана с потреб-
ностями государства в обеспечении безопасности, неотъемлемой частью которой
является оборонная функция. Так, согласно позиции оксфордской научной школы,
история развития ИИ берет свое начало в период Второй мировой войны,
с 1944 года, когда Алан Тьюринг и Дональд Мичи рассматривали возможность со-
здания машины, обладающей интеллектом, что в последующем стало основой для
дальнейших разработок в сфере ИИ [13].
Основная часть.
На сегодняшний день не оспаривается, что ИИ стал ча-
стью гонки вооружений. Еще в 2016 году политический аналитик RAND
Corporation Эдвард Мур Гейст отметил, что гонку вооружений в области ИИ не-
возможно остановить, однако возможно регламентировать [8. C. 318]. Аналогич-
ную позицию позже высказал Маттейс Маас (Центр управления ИИ, Оксфордский
университет), проводя аналогию с опытом контроля над ядерным оружием
[10, 285].
Действительно, на сегодняшний день использование технологии ИИ для
осуществления военных функций довольно распространено. Еще в 90-х годах
США задает новую тенденцию развития военных технологий, разрабатывая кон-
цепцию «сетецентрической войны», суть которой заключается в том, что во время
военных действий все боевые единицы (участники) объединены в единую инфор-
мационную сеть, что повышает эффективность ведения войны и предполагает ис-
пользование высокотехнологичного оборудования и защищенных каналов обмена
информацией [11]. Таким образом, применение указанной концепции напрямую
связано с технологиями ИИ.
Как следствие, другие страны, в том числе Российская Федерация, также
восприняли данную концепцию, что не могло не повлиять на правовое регулиро-
вание в данной области.
Исторически предпосылки правового регулирования технологий ИИ
в сфере обороны можно обнаружить еще в конце ХХ – начале ХХI века. Так,
в «Дорожной карте беспилотных летательных аппаратов (БПЛА) за 2000–2025 гг.»
Министерства Обороны США, опубликованной в апреле 2001 года, уже была обо-
значена возрастающая роль БПЛА в том числе в сфере военных действий и обо-
роны, а также упомянуты рекомендательные циркуляры Федерального управле-
ния гражданской авиации США, разработанные в 1996 году. Указанные рекомен-
дательные циркуляры затрагивали сферу гражданского, военного и коммерческого
применения БПЛА и определяли проблемы и рекомендательные решения, хотя по
своей юридической природе не являлись нормативными правовыми актами [19].
В дальнейшем использование ИИ в сфере обороны становится все более
распространенным, а используемые технологии – все более автономными.
Сегодня многие страны мира стремятся использовать в качестве оружия ав-
тономное вооружение на основе ИИ, которое действует с помощью ИИ и после
активации может выбирать и поражать цели без участия человека-оператора [22]
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
На сегодняшний день существуют такие технологии, как дроны с системой
распознавания лиц, беспилотные боевые роботы, беспилотные летательные аппа-
раты и другие технологии, возможности которых во много раз превосходят чело-
веческие, но которым чужды присущие человеку взгляды на такие категории как
право, мораль и справедливость, которые до сегодняшнего дня являлись основ-
ными социальными регуляторами, определяющими границы допустимого поведе-
ния, не создающего угрозу общественной безопасности.
Одновременно с этим, для государств ИИ превратился в одну из ключевых
областей стратегического соперничества. По утверждению директора Централь-
ной военной комиссии по науке и технологической комиссии генерал-лейтенанта
Лю Гочжи «Искусственный интеллект... приведет к глубокой военной револю-
ции» [5].
Так, еще в 2015 году руководство США дало понять, что ИИ является одним
из основных компонентов стратегии Министерства обороны, направленной на
укрепление американского военно-технологического доминирования [14]. В ок-
тябре 2016 года правительство США опубликовало «Национальный стратегиче-
ский план исследований и разработок в области искусственного интеллекта» [17].
Немного позже, в июле 2017 года, Китай также опубликовал свой собствен-
ный план развития ИИ на национальном уровне [16], обозначив в нем цель стать
мировым лидером в сфере ИИ к 2030 году.
Как следствие, и США, и Китай активно занимаются развитием технологий
ИИ как для гражданской, так и для военной сферы. Зачастую, подобные техноло-
гии имеют двойное назначение. Так, в 2014 году Китайская корпорация North
Industries (NORINCO) создала Центр исследований и разработок беспилотных
наземных платформ, который был предназначен для разработки беспилотных
платформ двойного назначения в сотрудничестве между несколькими подразделе-
ниями NORINCO и немецкой компанией RoboWatch [7]. Аналогичными разработ-
ками в США занимается DARPA (Управление перспективных исследовательских
проектов Министерства обороны).
Помимо США и Китая, активно занимается разработкой военного ИИ Из-
раиль. Среди разработок данного государства можно назвать продукцию Элбит
Системс (Elbit systems), IAI (с системой вооружения «Гарпия», БПЛА «Guardium»
и др.), и ряд иных компаний, специализирующихся на военно-промышленном
комплексе.
Данные государства (США, Китай и Израиль) являются наиболее яркими
примерами разработки технологий ИИ в оборонном секторе и приведены в каче-
стве примеров, однако не являются единственными, кто ведет разработки в дан-
ном направлении. К примеру, в России был создан Фонд перспективных исследо-
ваний (ФПИ), по аналогии с американским DARPA.
Особенностью подобных технологий является их полная или частичная ав-
тономность, то есть наличие функционала, позволяющего действовать без вмеша-
тельства человека. При этом, чем более автономной является технология, тем
больше вопросов, как правового, так и этического характера, она вызывает.
Так, в США был проведен эксперимент, в котором перед военным дроном в
рамках симуляции была поставлена задача по уничтожению систем ПВО против-
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
ника. В результате дроном было принято решение «убить» своего оператора, ко-
торый управлял данной симуляцией ввиду того, что именно оператор выводил но-
вые цели, подлежащие уничтожению. Логика машины заключалась в том, что опе-
ратор «мешал» выполнить задачу по полному уничтожению всех ПВО, запуская
новые, в связи с чем ею и было принято такое решение [20].
В нормативных правовых актах, посвященных ИИ в сфере оборонного ком-
плекса, зачастую упоминается термин «автономное оружие» (AWS) или «смерто-
носная автономная система вооружений» (LAWS).
Так, в инициативах Европейского Парламента содержатся разработки стра-
тегии ЕС по запрету смертоносных автономных систем оружия (LAWS) [15].
В США Министерством Обороны разработана директива, посвященная авто-
номной системе вооружения. В указанном документе отмечены собственно автоном-
ная система вооружения, автономная система вооружения, контролируемая челове-
ком и полуавтономная система вооружения [4, c. 23]. Отличия данных систем заклю-
чаются в степени вмешательства и влияния человека на работу данных систем. Ос-
новная идея данной директивы заключается в том, что любая система как автоном-
ная, так и полуавтономная, должна предусматривать возможность вмешательства че-
ловека в том числе в случае возникновения непредвиденных ситуаций.
Китай в 2021 году представил в ООН позицию по применению ИИ в военной
сфере. На основе данной позиции ООН был подготовлен рабочий доклад, в котором
было рекомендовано государствам-участникам рассмотреть возможность классифи-
кации автономных систем вооружений на две категории: неприемлемые и приемле-
мые с целью запрета применения неприемлемых автономных систем.
В качестве характеристик неприемлемых автономных систем вооружений
в документе отмечены: летальность; автономность на протяжении всего процесса
выполнения задачи; невозможность прекращения операции после ее начала; неиз-
бирательное уничтожение, означающее, что устройство будет выполнять задание
по убийству и нанесению увечий независимо от условий, сценариев и целей; эво-
люция, означающая, что благодаря взаимодействию с окружающей средой
устройство может автономно обучаться, расширять свои функции и возможности
в степени, превосходящей человеческие ожидания [21, с. 3].
В июле 2024 года Министерство обороны Японии опубликовало первую
в истории базовую политику по продвижению использования ИИ, как реакцию на
изменения в оборонных операциях, вызванные технологическим прогрессом [9].
Данный документ охватывает семь областей, таких как обнаружение и идентифи-
кация военных целей, командование и управление, а также логистическая под-
держка.
В США также разрабатывают масштабный указ об ИИ, который, как плани-
руется, должен увеличить роль ИИ в разработке военных технологий [18]. Однако
на данный момент документ является проектом и перспективы его принятия неиз-
вестны.
В Российской Федерации на сегодняшний день нет документа, регламенти-
рующего применение технологий ИИ в сфере обороны. При этом в отдельных
нормативных правовых актах встречаются упоминания о возможности их исполь-
зования. Например, Морская доктрина РФ определяет в качестве одного из прио-
ритетных направлений развития судостроительного корпуса РФ формирование,
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
разработку и внедрение в том числе морских роботизированных комплексов раз-
личного назначения на базе ИИ [3].
Одновременно с этим существующий российский Кодекс этики в сфере ИИ
прямо указывает на то, что сфера его применения не распространяется на военные
цели [2].
Таким образом, в РФ (как и во многих других государствах) сложилась си-
туация, когда применения военного ИИ допускается, однако правила его примене-
ния не установлены.
Проблемой также является и то, что существующее в законодательстве РФ
определение ИИ для военной сферы также малоприменимо, поскольку в указан-
ной сфере рассуждения о технологиях ИИ уходят в плоскость автономных систем
вооружения, где имитация человеческого интеллекта не является определяющим
признаком [1, с. 111].
Тем не менее, в последние годы намечается тенденция выхода дискуссии о
применении ИИ в военной сфере за пределы применения только лишь автоном-
ных систем вооружения. Возникает так называемая концепция «ответственного
ИИ».
Термин «ответственный ИИ» не означает, что сам ИИ должен нести за что-
то ответственность (на сегодняшний день за ИИ не признается какой-либо право-
субъектности, чтобы это было юридически реализовано). Как отмечает профессор
Вирджиния Дигнум «Ответственный ИИ – это ответственность человека за разви-
тие интеллектуальных систем в соответствии с фундаментальными человече-
скими принципами и ценностями. Ответственный ИИ – это нечто большее, чем
проставление галочек в отчете о соблюдении этики ИИ или разработка некоторых
дополнительных функций или кнопок отключения в системах ИИ» [6].
В контексте такого подхода, когда речь идет о военном применении ИИ,
неизбежно возникают такие вопросы, как:
Как возможно обеспечить юридическую ответственность машин, «прини-
мающих решение» о выборе объекта воздействия?
Каким образом человек может проверить алгоритмы и данные в системах
ИИ, являющихся «черным ящиком»?
Каков минимально допустимый уровень человеческого контроля для обес-
печения законных военных операций?
В итоге все подобные вопросы упираются в один глобальный: каким обра-
зом следует регулировать применение технологий ИИ в военной сфере?
Ответ на этот вопрос, предлагаемый некоторыми исследователями, указы-
вает на необходимость выработки на международном уровне единообразного
определения «ответственного ИИ», а также правил-критериев, соблюдение кото-
рых позволит определить то, насколько государство соответствует концепции «от-
ветственного ИИ» в военной сфере [12].
Указанный вариант звучит логично в контексте того, что на сегодняшний
день уже есть ряд международных договоров, формирующих международное гу-
манитарное право. Однако сложность возникает в том, что международное право,
в отличие от национального, предполагает необходимость договоренности между
государствами, а также конкретных действий с их стороны в части принятия на
себя каких-либо международных обязательств.
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
Между тем, как показывает практика, на сегодняшний день этот процесс
движется крайне медленно, а приведенные примеры попыток регламентации при-
менения ИИ в сфере обороны только подтверждают то, что среди государств нет
единого понимания, каким образом такие технологии должны регулироваться пра-
вом и в какой степени. Показательно, к примеру, то, что ряд государств, среди ко-
торых Российская Федерация, выступили против полного запрета применения по-
добных технологий [12].
Заключение.
На основании изложенного можно сделать следующие вы-
воды и предложения относительно рассматриваемого вопроса.
1.
Единой позиции относительно регламентации и порядка применения
технологий ИИ в военной сфере среди государств на сегодняшний день не сложи-
лось. Вместе с тем, в перспективе представляется логичным использование кон-
цепции «ответственного ИИ» с выработкой единого среди государств подхода от-
носительно того, что следует понимать под таким ИИ.
2.
Применительно к Российской Федерации необходимым представля-
ется выработка как дефиниции технологий ИИ, применяемых в оборонной сфере,
так и соответствующих «правил» (административно-правовых механизмов) раз-
работки и применения таких технологий.
Список литературы
1.
Атабеков А. Р. Применение искусственного интеллекта в военных целях:
проблемы теоретизации и правового регулирования // Общество: политика, эконо-
мика, право. 2023. № 4. С. 107–114.
2.
Кодекс этики в сфере искусственного интеллекта // СПС «Консультант-
Плюс»
[Электронный
ресурс].
–
URL:
https://cloud.consultant.ru/cloud/cgi/online.cgi?req=doc&base=LAW&n=470682&cachei
d=CF61983541BEB03AA60EC487D863C8A6&mode=splus&rnd=Rwwow#pJNw1NU
1jVh6KC6U
(дата обращения: 30.08.2024).
3.
Об утверждении Морской доктрины Российской Федерации: Указ Прези-
дента РФ от 31.07.2022 № 512 (ред. от 13.08.2024) // СПС «КонсультантПлюс» [Элек-
тронный
ресурс].
–
URL:
https://cloud.consultant.ru/cloud/cgi/online.cgi?req=doc&base=LAW&n=483222&cachei
d=DC0AA4CC322037451AF05D907E9F9582&mode=splus&rnd=Rwwow#HC2x1NUe
qHv9gSGu
(дата обращения: 30.08.2024).
4.
Autonomy in Weapon Systems: Directive 3000.09, November 21, 2012
[Электронный ресурс] // Department of Defense United States of America. – URL:
https://media.defense.gov/2023/Jan/25/2003149928/-1/-1/0/DOD-DIRECTIVE-3000.09-
AUTONOMY-IN-WEAPON-SYSTEMS.PDF
(дата обращения: 27.08.2024).
5.
Chinese military innovation in emerging technologies. Government of Canada. –
URL:
https://www.canada.ca/en/security-intelligence-service/corporate/publica-
tions/china-and-the-age-of-strategic-rivalry/chinese-military-innovation-in-emerging-tech-
nologies.html
(дата обращения: 19.08.2024).
6.
Dignum V. Ethics in artificial intelligence: introduction to the special issue // Eth-
ics Inf Technol 20, 2018. – doi: 10.1007/s10676-018-9450-z.
7.
Elsa B. Kania. Battlefield Singularity: Artificial Intelligence, Military Revolution,
and China’s Future Military Power // Center for a New American Security, November 2017.
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
– URL:
https://www.cnas.org/publications/reports/battlefield-singularity-artificial-intelli-
gence-military-revolution-and-chinas-future-military-power
(дата
обращения:
20.08.2024).
8.
Geist E. M. It’s already too late to stop the AI arms race–We must manage it
instead // Bulletin of the Atomic Scientists. – 2016. – Vol. 72(5). – Pp. 318–321. doi:
10.1080/00963402.2016.1216672.
9.
Japan Defense Ministry rolls out 1st policy to promote AI use // KYODO NEWS,
02.07.2024. – URL:
https://english.kyodonews.net/news/2024/07/ac20dc12fb98-japan-de-
fense-ministry-rolls-out-1st-policy-to-promote-ai-use.html
(дата обращения: 19.08.2024).
10.
Maas M. M. How viable is international arms control for military artificial in-
telligence? Three lessons from nuclear weapons // Contemporary Security Policy. – 2019. –
Vol. 40(3). – Pp. 285–311. doi: 10.1080/13523260.2019.1576464.
11.
McConoly R. What is Network-Centric Warfare? // Naval Post. June
21.06.2021. – URL:
https://navalpost.com/what-is-network-centric-warfare
(дата обраще-
ния: 19.08.2024).
12.
Nadibaidze A. «Responsible AI» in the Military Domain: Implications for Reg-
ulation // OpinioJuris. – 31.03.2023. – URL:
https://opiniojuris.org/2023/03/31/responsi-
ble-ai-in-the-military-domain-implications-for-regulation
(дата обращения: 30.08.2024).
13.
Osborne M. A history of AI // Department of Engineering Science, Oxford Uni-
versity. – URL:
https://oxford.shorthandstories.com/ai-a-history/index.html
(дата обраще-
ния: 19.08.2024).
14.
Robert O. Work. Remarks by Defense Deputy Secretary Robert Work at the
CNAS Inaugural National Security Forum, Speech // CNAS Inaugural National Security
Forum, Washington, D.C. – 2015. – December 14. – URL:
https://www.cnas.org/publica-
tions/transcript/remarks-by-defense-deputy-secretary-robert-work-at-the-cnasinaugural-
national-security-forum
(дата обращения: 19.08.2024).
15.
SEDE Activity Report 2014–2019 [Электронный ресурс] // Committee.
European Parliament. – URL:
http://www.europarl.europa.eu/committees/en/sede/publica-
tions.html
(дата обращения: 27.08.2024).
16.
State Council Notice on the Issuance of the New Generation AI Development
Plan // State Council. – July 20. – 2017. – URL:
http://www.gov.cn/zhengce/content/2017-
07/20/content_5211996.htm
(дата обращения: 19.08.2024).
17.
The National Artificial Intelligence Research and Development Strategic Plan
// National Science and Technology Council, Executive Office of the President of the United
States, Washington, D.C. – October 2016. – URL:
https://www.nitrd.gov/PUBS/na-
tional_ai_rd_strategic_plan.pdf
(дата обращения: 19.08.2024).
18.
Trump allies draft AI order to launch ‘Manhattan Projects’ for defense // The
Washington
Post.
–
URL:
https://www.washingtonpost.com/technol-
ogy/2024/07/16/trump-ai-executive-order-regulations-military
(дата
обращения:
19.08.2024).
19.
Unmanned aerial vehicles roadmap 2000-2025 // Office of the Secretary of De-
fense 1000 Defense Pentagon Washington, DC 20301-1000, 01.04.2001. – URL:
https://www.govinfo.gov/content/pkg/GOVPUB-D-PURL-gpo140963/pdf/GOVPUB-D-
PURL-gpo140963.pdf
(дата обращения: 19.08.2024).
20.
US air force denies running simulation in which AI drone “killed” operator //
The
Guradian.
–
02.06.2023.
–
URL:
https://www.theguardian.com/us-
Цифровые технологии в системе публично-правовых (государственно-правовых) отношений
news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test
(дата обращения:
21.08.2024).
21.
Working Paper of the People’s Republic of China on Lethal Autonomous Weap-
ons Systems, July 2022). – URL:
https://documents.unoda.org/wp-content/up-
loads/2022/07/Working-Paper-of-the-Peoples-Republic-of-China-on-Lethal-Autonomous-
Weapons-Systems%EF%BC%88English%EF%BC%89.pdf
(дата
обращения:
27.08.2024).
22.
Hassan F. M., Osman N. D. AI-Based Autonomous Weapons and Individual
Criminal Responsibility Under the Rome Statute // Journal of Digital Technologies and
Law. 2023. № 1(2). Pp. 464–480. EDN: mgreoy
Н. О. Сабанина,
кандидат исторических наук, доцент,
Московский инновационный университет
(Новомосковский институт)
С. А. Попов,
кандидат технических наук, доцент,
Московский инновационный университет
(Новомосковский институт)
ОРГАНИЗАЦИОННЫЕ И ТЕХНОЛОГИЧЕСКИЕ ПРОБЛЕМЫ
ОБЕСПЕЧЕНИЯ ДОСТУПА ГРАЖДАН К ПРАВОСУДИЮ
В УСЛОВИЯХ ПРОДОЛЖАЮЩЕГОСЯ ПРОЦЕССА ЦИФРОВИЗАЦИИ
ПРОЦЕССУАЛЬНОЙ ДЕЯТЕЛЬНОСТИ СУДОВ
Аннотация.
Доступ к правосудию является необходимым условием, кото-
рое гарантирует право на судебную защиту и, как следствие, формирует состояние
правовой защищенности индивидов и их объединений. Кроме того, доступ к пра-
восудию характеризуется возможностью предоставления со стороны государства
лицу широких конституционных прав и эффективного механизма их правовой за-
щиты. Полагаем, что одним из способов решения данных проблем является акти-
визация внедрения в деятельность отечественных судебных органов информаци-
онных технологий.
Ключевые слова:
правосудие, информационные технологии, граждане,
права, законодательство, защита, государство, суд
ORGANIZATIONAL AND TECHNOLOGICAL PROBLEMS OF ENSURING
CITIZENS' ACCESS TO JUSTICE IN THE CONTEXT OF THE ONGOING
PROCESS OF DIGITALIZATION OF THE PROCEDURAL ACTIVITIES
OF THE COURTS
Abstract.
Access to justice is a necessary condition that guarantees the right to
judicial protection and, as a result, forms the state of legal protection of individuals and
their associations. In addition, access to justice is characterized by the possibility for the
State to grant a person broad constitutional rights and an effective mechanism for their
legal protection. We believe that one of the ways to solve these problems is to intensify
