Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
33
А. С. Киселев
,
кандидат юридических наук,
Государственный университет просвещения;
Финансовый университет при Правительстве Российской Федерации
СОЦИАЛЬНЫЕ И ПРАВОВЫЕ ПРОБЛЕМЫ КОНТРОЛЯ
НАД СИЛЬНЫМ ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ
И ВЗАИМОДЕЙСТВИЯ С НИМ
Аннотация.
Эпоха искусственного интеллекта для человечества означает
изменение во всех аспектах жизни, начиная с организации быта, и до технологиче-
ских инноваций, социальных, экономических и культурных перемен планетарного
масштаба. Прямо сейчас внедрение искусственного интеллекта ускоряет научные
и технологические процессы, переписывает правила труда и управления, изме-
няет общественные нормы и стандарты, создавая новые возможности и вызывая
все большее количество этических и социальных вопросов. Одной из основных
проблем развития любой стратегии, предполагающей развитие искусственного
интеллекта, является определение правового, социального, фактического статуса
искусственного интеллекта. В связи с этим уже сейчас стоит вопрос, как следует
выстраивать глобальную и национальную стратегии развития общества, в котором
будут доминировать технологии, основанные на искусственном интеллекте.
Ключевые слова
: искусственный интеллект, слабый искусственный интеллект,
сильный искусственный интеллект, развитие искусственного интеллекта, право
и искусственный интеллект, искусственный интеллект и общество
SOCIAL AND LEGAL PROBLEMS OF CONTROL OVER STRONG
ARTIFICIAL INTELLIGENCE AND INTERACTION WITH IT
Abstract.
The era of artificial intelligence (AI) for humanity means a change in
all aspects of life, from the organization of everyday life, to technological innovations,
social, economic and cultural changes on a planetary scale. Right now, the introduction
of AI accelerates scientific and technological processes, rewrites labor and management
rules, changes social norms and standards, creating new opportunities and causing an
increasing number of ethical and social issues. One of the main problems of the development
of any strategy involving the development of artificial intelligence is the determination
of the legal, social, and actual status of artificial intelligence. In this regard, there is already
a question of how to build a global and national strategy for the development of a society
in which technologies based on artificial intelligence will dominate.
Keywords
: artificial intelligence, weak artificial intelligence, strong artificial
intelligence, development of artificial intelligence, law and artificial intelligence, artificial
intelligence and society
Сильный искусственный интеллект (далее – ИИ), в отличие от слабого, обладает
полноценным самосознанием и не просто имитирует мышление, а действительно
мыслит. Создание такого сегодня ограничивается тем, что слабо изучено мышле-
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
34
ние самих людей и еще хуже
–
животных. Кроме того, мыслительная деятельность
включает не только формально-логические операции, но и ряд других психических
функций [4].
Одной из проблем создания сильного ИИ является вопрос об эмоциях. Машина
умеет мыслить с помощью математических методов, но в человеческом мышлении
также присутствуют и эмоции. Даже среди специалистов-психологов нет общепри-
нятой теории эмоциональной деятельности человека. А технические специалисты
часто склонны вообще отрицать полезность эмоций. Однако ИИ без эмоций не
будет восприниматься человеком как полноценный интеллект, и это будет вызывать
проблемы во взаимодействии человека и ИИ [6].
Часто эмоциями называют то, что ими не является, а связано с более долго-
срочным состоянием человека или социальными связями. Очевидно, что сегодня
робот не может проявлять чувства и эмоции, но вполне способен успешно их
имитировать и в некоторой степени понимать их причинно-следственную связь.
Именно такие параметры закладываются в современные чат-боты, основанные на
нейронно-сетевых технологиях [3. С. 389]. Изучив гигантский объем диалогов,
книг, историй любви и ненависти, дружбы и предательства, алгоритм вырабаты-
вает определенную способность понимать значение человеческих чувств. Однако,
нейросеть не является ИИ в полном смысле слова и строго ограничена алгоритмом.
Необученный ИИ можно представить как чистый лист или как ребенка, кото-
рый только начинает познавать окружающий мир. Какую модель поведения выберет
группа людей, ответственная за его обучение и развитие, какая функция изначально
будет заложена в ИИ, такой конечный эффект и будет достигнут [5].
В последние годы успехи в области статистических вычислений позволили
сделать настоящий скачок в развитии благодаря машинному обучению. Аналогичным
образом прогресс в области нейронных сетей привел к развитию дополнительной
области ИИ под названием «глубокое обучение».
В широком смысле подходы к машинному обучению разделяются на на-
правляемое и на произвольное обучение. В первом случае используются данные
с заданным результатом, а во втором – без него. Искусственный интеллект в узком
смысле
–
программирование машин для автономного удовлетворения конкретных
потребностей с помощью передовых вычислений. Принятие решений нейронных
сетей и глубокого обучения
–
это текущее состояние исследований ИИ, которые
помогают нам достичь высокой производительности, снизить затраты и улучшить
качество развития слабого ИИ.
К примеру, две программы искусственного интеллекта, разработанные и при-
меняемые компанией «Фейсбук»
(организация признана экстремистской, ее дея-
тельность запрещена на территории Российской Федерации), самостоятельно
развиваясь, смогли создать новый, неизвестный никому до этого язык, состоящий
из схематических символов, который лишь с виду напоминал английский. Ученые
изначально решили, что это программный сбой и ИИ передают друг другу набор
случайной информации, однако затем стало ясно, что эти символы имели закономер-
ность, то есть могли считаться языком, с помощью которого можно было передавать
информацию, которую не смог бы, по крайней мере быстро, расшифровать человек.
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
35
Летом 2017 г. руководство соцсети приказало отключить экспериментальную си-
стему [1]. Были и другие сообщения об изобретении искусственным интеллектом
новых языков для собственных нужд.
Такие случаи ставят перед исследователями более общий вопрос: что может
произойти, если в самообучающейся системе запустится совершенно незапланиро-
ванный процесс? Согласно позиции С. Рассела, ученого, занимающегося изучением
искусственного интеллекта, основная проблема кроется не в том, что искусствен-
ный интеллект станет разумным. Робот может прийти к выводу о необходимости
принимать жесткие, но практически оправданные решения, продиктованные ци-
ничной логикой [2. С. 2], то есть машины могут начать выполнять доверенные им
обязанности слишком рационально.
Предположим, что ИИ поставлена цель осуществить сугубо прикладную
функцию
–
поддерживать максимально пригодную среду для ботанического сада,
где содержатся различные виды уникальных тропических растений. С учетом
бесконечных возможностей постоянного обучения и отсутствия моральной кри-
тики, свойственной на данный момент исключительно человеку, искусственный
интеллект может сделать вывод о том, что наиболее пригодной среда может стать
лишь для отдельных видов растений. Таким образом, контролируя микроклимат
в помещении, ИИ фактически получает возможность уничтожить часть флоры для
наиболее продуктивного роста оставшихся образцов. Такая погрешность недо-
пустима, и по понятной причине человеку следует вводить множество ограниче-
ний, которые ИИ преодолеть в принципе не сможет из-за имеющихся алгоритмов
[7. С. 415–417]. Но возможно ли предусмотреть все риски и на каждый из них под-
готовить контрмеру? По всей очевидности, сделать это практически невозможно,
что дает основание предполагать наличие постоянной потенциальной угрозы со
стороны такого максимально эффективного хладнокровного создания, как искус-
ственный интеллект. Данный пример обнажает возможные угрозы со стороны ИИ
и в отношении человеческих жизней.
Правовые методы развития сильного ИИ такие же, как и для слабого, (описаны
выше). Но к ним добавляется также необходимость определить, зачем нам нужен
сильный ИИ, кто будет его контролировать и иметь к нему доступ. Здесь важной
проблемой становится справедливость и прозрачность общественного устройства,
международная конфликтность, существование организованной преступности и тер-
рористических организаций. Опасность попадания ИИ в руки злоумышленников
и даже просто недобросовестных политиков и предпринимателей должна быть
исключена, так как в противном случае сильный ИИ может быть использован для
создания проблем планетарного масштаба.
Список литературы
1. Официальный сайт «Москва 24» / Facebook заблокировал ботов: роботы
стали общаться между собой на новом языке.
URL: https://www.m24.ru/articles/
tehnologii/04082017/148209?utm_source=CopyBuf
2. Рассел С., Норвиг П. Искусственный интеллект: Современный подход.
М.:
Изд. дом «Вильямс», 2007. 108 с.
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
Цифровые технологии в системе теоретико-исторических правовых наук
Digital Technologies in the System Theoretical and Historical Legal Sciences
36
3. Шилова С. А., Крючкова А. А. Лингводидактический потенциал чат-бо-
тов // Иностранные языки в контексте межкультурной коммуникации. 2021.
№ XIII.
С. 389–393.
4. Escola S., Zador A., et al. Catalyzing next-generation Artificial Intelligence
through NeuroAI // Nature Communications. 2023.
Vol. 14.
Article number: 1597.
URL:
https://www.nature.com/articles/s41467–023–37180-x
5. Hammaad A., Aparna B., et al. Mitigating the impact of biased artificial intelligence
in emergency decision-making // Communications Medicine. 2022.
Vol. 2.
Article number:
149.
–
URL: https://www.nature.com/articles/s43856–022–00214–4
6. Savage N. Why artificial intelligence needs to understand consequences // Nature.
2023.
URL: https://www.nature.com/articles/d41586–023–00577–1
7. Silvestro D., Goria S., Sterner T., Antonelli A. Improving biodiversity protection
through artificial intelligence // Nature Sustainability. 2022.
Vol. 5.
Pp. 415–424.
Н. Е. Ладенков
,
Международный банковский институт имени Анатолия Собчака
ВЛИЯНИЕ ЦИФРОВИЗАЦИИ НА ПРАВОВУЮ КУЛЬТУРУ
Аннотация.
Цифровизация затрагивает не только жизнедеятельность человека,
но и его сознание, в том числе правовую культуру. Целью исследования выступает
определение основных тенденций изменения правовой культуры, которые протекают
относительно медленно. Среди основных тенденций можно выявить «раздвоение»
правовой культуры личности, переосмысление роли юриста в профессиональной
правовой культуре, косвенное влияние нечеловечьих сущностей на динамику мас-
совой правовой культуры, появление новых форм правовой коммуникации и форм
доминантного поведения. Поэтому со стороны государства необходим мягкий
контроль за соответствующими тенденциями.
Ключевые слова
: цифровые технологии, цифровизация, правовая культура,
правопорядок, среда взаимодействия, правовая коммуникация, модель поведения
IMPACT OF DIGITALIZATION ON LEGAL CULTURE
Abstract.
Digitalization affects not only human life, but also his consciousness,
including legal culture. The purpose of the study is to identify the main trends in changes
in legal culture, which are proceeding relatively slowly. Among the main trends one
can identify the “split” of the legal culture of the individual, the rethinking of the role
of the lawyer in the professional legal culture, the indirect influence of non-human
entities on the dynamics of mass legal culture, the emergence of new forms of legal
communication and forms of dominant behavior. Therefore, the state needs soft control
over relevant trends.
Keywords
: digital technologies, digitalization, legal culture, legal order, interaction
environment, legal communication, behavioral model
