Цифровые технологии в системе правовых отношений (молодежное пространство науки)
URL:
https://www.eurofound.europa.eu/sites/default/files/ef_publicatio
/field_ef_document/ ef1461en.pdf
23.
Framework Agreement on Telework, between the ETUC, UNICE/UEAPME
and CEEP 2002.
24.
Information economy report 2017: Digitalization, trade and development.
United Nations Conference on trade and development. Sales No. E.17. II. D.8. October
2017. P. 62.
25.
What the future of work will mean for jobs, skills, and wages. Report
McKinsey Global Institute, November 2017. URL:
https://www.mckinsey.com/global-
themes/future-of-organizations-and-work/what-the-future-of-work-will-mean-for-jobs-
skillsand-wages
(дата обращения: 01.09.2024).
Е. Т. Борисенко,
студент,
Уральский государственный юридический университет
имени В. Ф. Яковлева
ОТВЕТСТВЕННОСТЬ ЗА РЕШЕНИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: СРАВНИТЕЛЬНЫЙ АНАЛИЗ
ЗАРУБЕЖНОГО ОПЫТА И ПЕРСПЕКТИВЫ ДЛЯ РОССИИ
Аннотация.
В условиях стремительного развития и внедрения искусствен-
ного интеллекта (далее – ИИ) во все сферы жизни общества остро встает вопрос
о юридической ответственности за решения, принятые алгоритмами. ИИ способен
на действия, которые ранее были исключительной прерогативой человека, однако
он не обладает правосубъектностью в традиционном понимании. Это создает
сложную юридическую ситуацию, когда вред, причиненный решением ИИ, может
остаться некомпенсированным. Особое внимание уделяется необходимости раз-
работки новых правовых механизмов, адаптированных к специфике ИИ и обеспе-
чивающих баланс между стимулированием инноваций и защитой прав и интере-
сов человека.
Ключевые слова
: цифровые технологии, искусственный интеллект, ответ-
ственность, правовое регулирование, автономные системы, Европейский союз,
США
LIABILITY FOR ARTIFICIAL INTELLIGENCE DECISIONS:
A COMPARATIVE ANALYSIS OF FOREIGN EXPERIENCE
AND PROSPECTS FOR RUSSIA
Abstract.
In the context of the rapid development and implementation
of artificial intelligence (AI) across all spheres of society, the issue of legal
responsibility for decisions made by algorithms becomes increasingly pressing. AI is
capable of actions that were previously the exclusive prerogative of humans; however,
it does not possess legal personality in the traditional sense. This creates a complex legal
situation where harm caused by AI decisions may go uncompensated. Special attention
is given to the need to develop new legal mechanisms that are adapted to the specifics
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
of AI and that ensure a balance between promoting innovation and protecting human
rights and interests.
Keywords
: digital technologies, artificial intelligence, liability, legal regulation,
autonomous systems, European Union, United States
Введение.
Стремительное развитие технологий искусственного интеллекта
(далее – ИИ) и его активное внедрение в различные сферы человеческой деятель-
ности предъявляют новые требования к системе права. Одной из наиболее акту-
альных проблем становится вопрос об ответственности за решения, принятые ИИ,
которые могут причинить вред правам и интересам человека.
Основная часть.
Исследователи отмечают: «Развитие технологий требует
переосмысления многих юридических механизмов обеспечения безопасности
применения искусственного интеллекта на основе баланса в части поддержания и
стимулирования инновационных отраслей» [1. С. 683–708]. Это означает, что
необходимо разрабатывать новые правовые механизмы, которые учитывали бы
специфику ИИ и не позволяли уклониться от ответственности, ссылаясь на авто-
номность системы.
Цель настоящей статьи – проанализировать существующую проблему от-
ветственности ИИ, существующие подходы, опыт других стран, а также предло-
жить рекомендации по совершенствованию российского правового регулирования
в этой сфере.
Для начала следует определиться с центральным понятием данной работы –
искусственным интеллектом. Наиболее подходящим мы считаем определение,
данное в проекте Закона штата Калифорния SB 1047, который определяет «искус-
ственный интеллект как созданную человеком или машинную систему, которая
может варьироваться в уровне автономности и которая для достижения явных или
неявных целей способна на основе полученных данных определять, какие дей-
ствия необходимо выполнить для воздействия на физическую или виртуальную
среду» [3].
Определение ответственности за решения, принятые искусственным интел-
лектом, представляет собой сложную задачу, обусловленную рядом факторов, ко-
торые коренным образом отличают ИИ от традиционных субъектов права – физи-
ческих и юридических лиц. Эти факторы можно разделить на две основные
группы: особенности самого ИИ и пробелы в существующем законодательстве.
Искусственный интеллект, в отличие от человека, не обладает рядом клю-
чевых характеристик, которые традиционно лежат в основе юридической ответ-
ственности.
ИИ и роботы не являются самостоятельным субъектом права, не обладают
правами и обязанностями, не могут нести юридическую ответственность за свои
действия в том же смысле, что и человек или организация [6, 11].
Следующей проблемой выступает так называемый черный ящик. Процессы
принятия решений ИИ, особенно в системах, основанных на глубоком обучении,
могут быть непрозрачными и непонятными даже для самих разработчиков. Явле-
ние, известное как «черный ящик», создает серьезные трудности в доказывании
вины и причинно-следственной связи между действием ИИ и наступившим вре-
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
дом. Если приводить в пример аварию беспилотного транспорта, который управ-
ляется ИИ с непрослеживаемыми внутренними процессами, то мы попросту не
сможем объяснить «мотивацию» программы, мы будем лишь видеть результат, ко-
торый привел к последствиям. Безусловно, ведутся исследования, как нам понять
внутренние «размышления» ИИ, но пока что такого инструмента не существует.
И главной проблемой в вопросе ответственности стоит динамичность раз-
вития ИИ. Технологии ИИ постоянно развиваются, совершенствуются алгоритмы,
появляются новые подходы к обучению ИИ [8–10, 12].
Важно учитывать, что применение единых правовых норм ко всем системам
ИИ без учета их специфики нецелесообразно. Такой подход может необоснованно
затруднить развитие перспективных технологий или, наоборот, создать угрозу
правам и интересам человека из-за недостаточной правовой защиты.
Для решения этой проблемы предлагается использовать дифференциро-
ванный подход к регулированию ответственности, основанный на классифика-
ции систем ИИ по степени их потенциальной опасности [5. С. 19]. В качестве
основных критериев классификации можно предложить рискованность и мас-
штаб систем ИИ.
Первый критерий – рискованность – отражает степень возможного вреда,
который система ИИ может причинить в случае сбоя или непредвиденных по-
следствий. Здесь можно провести условную границу между высокорисковыми
и низкорисковыми системами. Европейская комиссия в своем проекте Регла-
мента об ИИ использует аналогичную логику, фокусируясь на регулировании
именно высокорисковых систем, об этом пишут ученые в своей работе: «В этом
отношении приложение ИИ следует считать высокорисковым, когда выполня-
ются два совокупных критерия: (1) ИИ используется в секторе, где вероятно
возникновение значительных рисков, таких как здравоохранение или транс-
порт. Эти сектора должны быть исчерпывающе перечислены в будущем право-
вом документе, и этот список должен регулярно пересматриваться и допол-
няться. (2) Способ использования приложения делает вероятным возникнове-
ние значительных рисков» [7; 4. С. 1–34].
Это, например, ИИ, используемый для персонализации рекомендаций в он-
лайн-магазинах или для автоматизации рутинных офисных задач. Для таких си-
стем предлагается более мягкий подход к регулированию ответственности, воз-
можно, достаточно будет общих норм гражданского права, исключающих строгую
ответственность.
Однако следует учитывать, что развитие и масштабирование низкориско-
вых систем со временем может привести к появлению новых рисков, требующих
пересмотра первоначальной оценки их опасности.
Второй критерий – масштаб системы ИИ – отражает ее сложность и мощ-
ность и влияет на оценку риска. Чем больше объем данных для обучения, сложнее
алгоритмы и шире сфера применения, тем мощнее система ИИ и тем шире спектр
потенциальных рисков. Законодательство штата Калифорния демонстрирует под-
ход, основанный на оценке этого критерия, а именно он касается только моделей,
обучение которых стоит более 100 миллионов долларов – этот порог заложен
в определении «покрываемой модели», предусмотренном законопроектом, и не
может быть изменен, кроме как в результате будущего законодательного акта [3].
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
Аналогичный подход может быть применен и в российском законодатель-
стве.
Еще одной группой факторов, осложняющих определение ответственности
за решения ИИ, являются пробелы в существующем законодательстве.
В большинстве стран, в том числе в России, отсутствует специальное зако-
нодательство, регулирующее разработку, применение и ответственность за дей-
ствия ИИ. Это значит, что при решении споров, связанных с ИИ, приходится опи-
раться на общие нормы гражданского, уголовного и административного права, ко-
торые не всегда адекватны специфике ИИ.
Таким образом, определение ответственности за решения, принятые ИИ,
представляет собой сложную юридическую проблему, обусловленную как особен-
ностями самого ИИ, так и несовершенством существующего законодательства.
Решение этой проблемы требует комплексного подхода, включающего разработку
новых правовых норм, адаптированных к специфике ИИ, и уточнения традицион-
ных юридических концепций применительно к действиям ИИ.
Здесь наиболее показателен опыт Европейского союза и Соединенных Шта-
тов Америки как регионов, активно внедряющих ИИ и предпринимающих шаги
по его правовому регулированию.
Европейский союз выступает пионером в области правового регулирования
ИИ, стремясь к выработке единого подхода на уровне всего союза. В 2021 году
Европейская комиссия представила проект Регламента ЕС об ИИ (Artificial
Intelligence Act). В основе этого документа лежит рискориентированный подход:
вводятся специальные требования к разработчикам, поставщикам и пользовате-
лям систем ИИ в зависимости от уровня риска, присущего конкретной системе [2].
Проект регламента предусматривает запрет на использование ИИ в целях,
противоречащих ценностям ЕС, например, для манипулирования людьми или со-
циального скоринга. Особое внимание уделяется высокорисковым системам ИИ,
применение которых может угрожать безопасности, здоровью или основным пра-
вам человека. Такие системы (например, в сфере здравоохранения, транспорта,
правоохранительной деятельности) подлежат обязательной оценке соответствия
перед выходом на рынок ЕС. Кроме того, предусматриваются механизмы надзора
и контроля за рынком ИИ.
Однако проект Регламента ЕС об ИИ подвергся критике со стороны ряда пред-
ставителей технологической индустрии и экспертов. Высказываются опасения, что
регламент может создать избыточную административную нагрузку на компании и за-
медлить развитие технологий. Также выражаются сомнения в эффективности пред-
лагаемых мер по обеспечению безопасности и защите прав человека.
В США регулирование ИИ находится на более ранней стадии. Федеральное
законодательство в этой сфере отсутствует, и регулирование осуществляется в ос-
новном на уровне отдельных штатов. Одним из наиболее примечательных приме-
ров такого регулирования является законопроект SB 1047 в штате Калифорния.
Он предлагает ввести обязательные требования безопасности для компаний, раз-
рабатывающих мощные модели ИИ.
В частности, законопроект предусматривает обязательное тестирование та-
ких моделей на «критический вред», такой как кибератаки на критическую инфра-
структуру или разработка оружия массового поражения. Также компании будут
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
обязаны гарантировать возможность отключения систем ИИ в случае необходи-
мости и раскрывать информацию о своих мерах безопасности [3].
Анализ опыта ЕС и США показывает разные подходы к регулированию ИИ.
В ЕС делается упор на предотвращение вреда, а в США – на стимулирование ин-
новаций и саморегуляцию. Для России важно учитывать оба этих подхода при раз-
работке собственной стратегии правового регулирования ИИ.
Заключение.
Развитие технологий искусственного интеллекта ставит пе-
ред мировым сообществом новые вызовы, в том числе в сфере права. Вопрос об
ответственности за решения, принятые ИИ, особенно актуален в условиях его рас-
тущей автономности и внедрения во все большее число сфер человеческой дея-
тельности.
Как показал анализ международного опыта, единого подхода к регулирова-
нию ответственности за ИИ пока не существует. Разные страны и регионы выби-
рают свои стратегии, стремясь найти баланс между стимулированием инноваций
и обеспечением защиты прав и интересов граждан.
При разработке собственного подхода к регулированию ответственности за
ИИ необходимо внимательно изучить опыт других стран, учитывая как их дости-
жения, так и проблемы, возникшие при практической реализации разных моделей
регулирования.
Очевидно, что решение этой сложной проблемы требует взвешенного
и комплексного подхода, который учитывал бы как специфику технологий ИИ, так
и особенности национальной правовой системы.
Список литературы
1.
Харитонова Ю. С., Савина В. С., Паньини Ф. Гражданско-правовая от-
ветственность при разработке и применении систем искусственного интеллекта
и робототехники: основные подходы // Вестник Пермского университета. Юриди-
ческие науки. 2022. Вып. 58. C. 683–708.
2.
European Commission Proposal for a Regulation of the European Parliament
and of the Council laying down harmonised Rules on Artificial Intelligence (Artificial
Intelligence Act) 2021/0106 (COD) (‘Draft AI Act’). URL: h
ttps://eur-
lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
(дата обраще-
ния: 01.09.2023).
3.
SB 1047: Safe and Secure Innovation for Frontier Artificial Intelligence
Models Act. URL: https://digitaldemocracy.calmatters.org
4.
Schütte B., Majewski L., Havu K. Damages Liability for Harm Caused by
Artificial Intelligence – EU Law in Flux. Helsinki: University of Helsinki, Faculty of
Law, 2021. // Legal Studies Research Paper Series; Paper No 69. URL:
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3897839
(дата
обращения:
01.09.2024)
5.
Бегишев И. Р. Об обороте роботов, их составных частей (модулей) (ини-
циативный проект федерального закона): Препринт № 1 за 2021 г. Казань: Позна-
ние, 2021. 28 с. EDN: FTFKAN
6.
Бегишев И. Р. Криминологическая классификация роботов: риск-ориен-
тированный подход // Правоприменение. 2021. Т. 5, № 1. С. 185–201. EDN:
TBUVGY
Цифровые технологии в системе правовых отношений (молодежное пространство науки)
7.
Kirpichnikov D. V. et al. Bioprinting Medical Devices: Criminal Evaluation
Issues / // AIP Conference Proceedings: VII International Conference “Safety Problems
of Civil Engineering Critical Infrastructures” (SPCECI2021), Yekaterinburg, 2023.
Vol. 2701. P. 020032. EDN: STBLEX
8.
Бегишев И. Р., Хисамова З. И. Криминологические риски применения
искусственного интеллекта // Всероссийский криминологический журнал. 2018.
Т. 12, № 6. С. 767–775. EDN: YYSTVZ
9.
Бегишев И. Р. Хисамова З. И. Искусственный интеллект и робототех-
ника: глоссарий понятий. М.: Проспект, 2021. 64 с. EDN: HQELSK
10.
Хисамова З. И., Бегишев И. Р. Уголовная ответственность и искусствен-
ный интеллект: теоретические и прикладные аспекты // Всероссийский кримино-
логический журнал. 2019. Т. 13, № 4. С. 564–574. EDN: QOFRXQ
11.
Субъект права: стабильность и динамика правового статуса в условиях
цифровизации: сборник научных трудов / под общ. ред. Д. А. Пашенцева, М. В. За-
лоило. М.: Инфотропик Медиа, 2021.
12.
Черногор Н. Н., Емельянов А. С., Залоило М. В. Трансформация идей-
ной основы юридической ответственности: между архаикой и постмодерном //
Вопросы истории. 2021. № 11(2). С. 248–259.
А. Д. Бочкарева,
магистрант,
Казанский (Приволжский) федеральный университет
СИНЕРГИЯ ЦИФРОВОГО И ИНТЕЛЛЕКТУАЛЬНОГО ПРАВА:
ВОЗМОЖНАЯ РЕЦЕПЦИЯ ЗАРУБЕЖНОГО ОПЫТА
Аннотация.
В настоящей статье рассматриваются новейшие положения за-
рубежного законодательства, позиции судов иностранных государств, акты регио-
нальных правовых систем в части взаимодействия АI и IP с целью выявления
наиболее важных и актуальных вопросов, подлежащих решению на уровне наци-
онального законодательства. Дается оценка возможности использования новелл
зарубежного законодательства для совершенствования правового регулирования
в Российской Федерации.
Ключевые слова
: интеллектуальная собственность, искусственный интел-
лект, право, авторское право, синергия, результат интеллектуальной деятельности,
нейросеть, дипфейк
SYNERGY OF DIGITAL AND INTELLECTUAL PROPERTY LAW:
POSSIBLE RECEPTION OF FOREIGN EXPERIENCE
Abstract.
This article considers the latest provisions of foreign legislation,
positions of foreign courts, acts of regional legal systems in terms of interaction between
AI and IP in order to identify the most important and relevant issues to be resolved at the
level of national legislation. The assessment of the possibility of using novelties
of foreign legislation to improve legal regulation in the Russian Federation is given.
