Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
15
9. Аминев Ф. Г. О необходимости принятия федерального закона «О всеобщей
геномной регистрации в Российской Федерации» в целях улучшения качества рас-
крытия и расследования преступлений // Правовое государство: теория и практика.
Уфа, 2019. № 3(57). С. 94–98.
10. Кокушев А. Б. Организационно-правовые аспекты функционирования
современных информационных систем оперативно-криминалистических подраз-
делений МВД Республики Казахстан: дис. ... канд. юрид. наук: 5.1.4. Волгоград,
2023. 209 с.
11. Баринова О. А. Использование информационных технологий при кримина-
листическом исследовании реквизитов документов // Дискуссионные вопросы теории
и практики судебной экспертизы: материалы международной научно-практической
конференции, посвященной памяти Т. В. Аверьяновой. РГУП, 25–26 марта 2021 г.
М., РГУП, 2021. С. 93–96.
А. В. Антипов,
кандидат философских наук,
Институт философии Российской академии наук
ИСКУССТВЕННЫЕ МОРАЛЬНЫЕ АГЕНТЫ:
АНАЛИЗ АРГУМЕНТОВ ПРОТИВ
Аннотация.
Искусственные моральные агенты представляют собой роботов,
которые способны выстраивать решения исходя из моральных рассуждений и ре-
гулятивов. Существуют разные способы классификации искусственных мораль-
ных агентов, в рамках данной статьи будет использована классификация, данная
Дж. Муром. Человечество не может больше себя представить без искусственных
систем, они становятся все совершеннее, что ставит вопрос об этичности их дей-
ствий. При этом все ярче становятся голоса тех, кто видит угрозу в появлении ис-
кусственных моральных агентов. В статье рассматриваются некоторые аргументы
против их создания, такие как: отсутствие универсальной этической теории, от-
ветственность, потеря навыков, экзистенциальный аргумент.
Ключевые слова
: искусственные моральные агенты, этика, мораль, регули-
рование, ответственность, интеллектуальные системы, роботы
ARTIFICIAL MORAL AGENTS:
AN ANALYSIS OF THE ARGUMENT AGAINST THEM
Abstract.
Artificial moral agents are robots that are able to make decisions based
on moral reasoning and regulation. There are different ways of classifying artificial
moral agents, in this article we will use the classification given by J. Moore. Mankind
can no longer imagine itself without artificial systems, they are becoming more and
more perfect, which raises the question of the ethicality of their actions. At the same
time, the voices of those who see a threat in the emergence of artificial moral agents are
becoming more and more vivid. The article discusses some of the arguments against
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
16
their creation, such as: the lack of a universal ethical theory, responsibility, loss of skills,
and the existential argument.
Keywords
: Artificial moral agents, ethics, morality, regulation, responsibility,
intelligent systems, robots
Введение.
Современность все больше наполняет окружающий нас мир ис-
кусственными системами (далее – ИС), которые призваны выполнять различные
задачи: от регуляции температуры в помещении до социальных роботов, созда-
ваемых для заботы о тех, кто позаботиться о себе не в состоянии. Все это при-
водит к необходимости вовлечения искусственных агентов в человеческий мир
и сообщество. Для реализации этой цели мало только заданных алгоритмов, как
недостаточно и только правового регулирования, поскольку оно выполняет только
внешнюю задачу, в то время как нам необходимо ввести (встроить) определенный
уровень ответственности и автономии для этих систем. Поэтому встает пробле-
ма создания искусственных моральных агентов (далее – ИМА), которые были бы
способны выполнять те же задачи, что и люди, отвечать за принимаемые решения,
быть способными их объяснять и решать встающие перед ними дилеммы.
Основная часть.
Х. Сервантес, С. Лопез и соавторы указывают, что клю-
чевым моментом является гармоничное сосуществование искусственных аген-
тов с людьми и другими системами. То есть необходимо создать такую систему,
которая могла бы если не стать равной человеку, то, по крайней мере, действо-
вать в сложных ситуациях подобно людям. Однако это поднимает определенные
проблемы. Как сделать так, чтобы искусственной системе была предоставлена ав-
тономия для принятия собственных решений, в том числе восприятие, принятие
решений, планирование и обучение. Для решения этого вводится понятие регу-
лируемой автономии: это такая автономия, при которой механизмы, реализуемые
в ИС, позволяют людям вмешиваться в работу ИС, если последние не способ-
ны самостоятельно разрешить стоящие перед ними проблемы. В данном случае
цель состоит в избегании неадекватного поведения ИС и сохранении глобально
конт роль над ИС. В области машинной этики это означает наделение ИС этиче-
скими механизмами, которые позволяют взаимодействовать с людьми и решать
возникаю щие моральные дилеммы.
При этом глобальная цель: наделить искусственные агенты этическим по-
ведением, сделать так, чтобы они могли стать полноценной частью человечества
[4]. В случае регулируемой автономии остается также проблема злонамеренного
использования [1].
Вопрос об автономии ИС и ИМА является чрезвычайно сложным. Он также
состоит в том, что мы подразумеваем под определением ИМА. В отличие от ука-
занного выше представления о регулируемой автономии, П. Формоза и М. Райан
считают, что ИМА – это роботы, способные участвовать в автономном моральном
рассуждении без непосредственного участия со стороны человека в реальном вре-
мени. Такая автономия приближается к человеческой как способности самостоя-
тельно являться источником собственных решений и действий. ИМА направлены
на выход за пределы рассуждений только о безопасности, которые превалируют
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
17
в дискурсе об ИС. Определить автономность робота можно как его способность
следовать сложному алгоритму в ответ на поступающие данные извне, не зависи-
мо от участия человека. Так, автономным не может считаться робот, не способный
пройти определенный маршрут без помощи человека, а беспилотный автомобиль
является примером робота, обладающего автономией. Поэтому ИМА наделяет-
ся следующими качествами: интерактивность (восприятие окружающей среды),
автономность (способность выносить этические суждения), адаптивность (спо-
собность действовать на основании вынесенных этических суждений без участия
со –стороны человека) [5].
В таком случае поднимается следующий вопрос: об устройстве такого искус-
ственного агента. Аллен, Смит и Воллах предлагают устройство ИМА исходя из
архитектуры построения:
– Сверху вниз: этическая теория является основанием для принятия решений;
– Снизу вверх: использование механизмов обучения для принятия решений,
не навязывается какая-то модель принятия решений;
– Гибридная модель: сосуществование как восходящих, так и нисходящих ме-
ханизмов. Цель состоит в том, чтобы сделать моральное поведение адаптивным [3].
Архитектура построения ИМА предполагает различные способы выведения
моральных суждений в условиях, приближенных к человеческим. Следует рас-
смотреть также одну из самых известных классификаций ИМА, принадлежащей
Дж. Муру. Он выделяет четыре типа ИМА:
1) агенты этического воздействия: они не являются моральными агентами
в полном смысле, а представляют собой инструменты, которые в руках человека
способны быть источником морально оцениваемых последствий.
2) Неявные этические агенты: не способны различать хорошее и плохое по-
ведение. Но они могут действовать этично, поскольку заданный алгоритм поведе-
ния в определенных ситуациях выбирает только морально одобряемый поступок,
либо же они избегают поведения, которое может быть названо порицаемым (на-
пример, причинение вреда). Компьютеры являются неявными этическими агента-
ми в том случае, если конструкция машины позволяет решать проблемы безопас-
ности и надежности (например, системы управления самолетом). Они обладают
следующими характеристиками: не имеют механизмов, позволяющих отличить
этичное действие от неэтичного; их функциональная пригодность протестирова-
на и безопасность подтверждена; в них нет вредоносного кода. В данном случае
возникает проблема доверия этим системам (насколько можно доверять тому, что
банкомат отдаст деньги и вернет банковскую карту?).
3) Явные этические агенты: способные работать с этическими правилами
и способны просчитывать лучшее действие, используя этические подходы. В них
используется постепенное обучение через опыт.
4) Полные этические агенты: подобные человеческим существам, обла дают «убе-
ждениями, желаниями, намерениями, свободой воли и осознанием своих действий».
Считается, что только человек способен быть этичным. Их ключевые пара-
метры: a) способность использовать более одного подхода для принятия решений
и b) способность принимать решения на основании неполной информации [6].
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
18
Такая классификация позволяет разделить ИС по их способности принимать
этически релевантные решения. Однако в данном случае остается проблема до-
ступности ИМА феноменального опыта [2], т. е. вопрос в том, будет ли поведение
действительно этичным или только симулякром морального поведения?
Для анализа аргументов против создания ИМА будет использоваться схема,
предложенная П. Формозой и М. Райаном [5]. Кратко выделим и разберем некото-
рые из предлагаемых аргументов.
Первый аргумент состоит в не способности создать ИМА, а поэтому и не
нужно пытаться сделать невозможное. Действительно, сильный искусственный
интеллект в данный момент вызывает большие споры о своей достижимости.
Тем более, создать моральный искусственный интеллект некоторым не представ-
ляется возможным. А потому попытка его создания выглядит как бесплодное при-
ложение ресурсов и сил. С этим связан второй аргумент, согласно которому с точки
зрения нескольких этических теорий (утилитаризма, этики добродетелей и деон-
тологии) рассматривается возможность создания ИМА. С точки зрения утилитариз-
ма и его прагматической трактовки можно потратить деньги и лучше, поскольку пе-
ред человечеством и так стоит множество проблем, на которые стоило бы потратить
ограниченные ресурсы. А с точки зрения этики добродетелей и деонтологии звучит
более сильный аргумент, состоящий в том, что мы создаем рабов, которых попросту
плодим в угоду себе. Создание роботов, выполняющих работу, которая для человека
по каким-то причинам кажется неприемлемой или слишком тяжелой, само по себе
представляет собой морально неоднозначную практику. Наделение их возможно-
стью моральной рефлексии приводит скорее к негативным эффектам, выражаемым
в использовании по своей сути рабского труда.
Несмотря на это противоположное мнение рассматривается в качестве треть-
его аргумента против создания ИМА. Предполагается, что ИМА должны оста-
ваться в подчиненном состоянии (по сути, рабами). В таком случае наделение их
моральной рефлексией и способностью поступать согласно этическим предписа-
ниям ограничивает нашу возможность на их использование, поэтому они должны
оставаться морально неполноценными. Это позволит их использовать в качестве
средства для достижения наших целей. Этот аргумент звучит очень прагматично
и во многом может противоречить моральному чувству, поскольку, например со-
циальные роботы, призваны вызывать эмпатию у использующих их людей, что
исключает возможность использования ИМА только в качестве средства.
Следующий аргумент выстраивается на отсутствии универсального согласия
в этике. До тех пор, пока не существует установленного согласия в этике, создание
ИМА выглядит слишком претенциозной задачей. Разные этические теории – де-
онтология, утилитаризм, этика добродетелей, коммунитаризм и др. – конкурируют
друг с другом, по-разному отвечают на этические вопросы, дилеммы и затрудне-
ния, что делает невозможным условия, при которых возможно научить искус-
ственного агента какой-то из них и ожидать, что он будет поступать морально.
Человек обычно использует различные стратегии рассуждения в сложных ситу-
ациях морального выбора, поэтому создания полного ИМА встречает дополни-
тельную сложность.
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
19
Пятый аргумент выстраивается на необходимости сосредоточиться на соз-
дании безопасных машина, а не моральных. Действительно, создание безопасных
и надежных искусственных агентов выглядит первоочередной задачей. Следует
сосредоточить свое внимание на возможности использования машин и робо-
тов в динамичной среде реальности так, чтобы можно было на них положиться.
Не каждая деятельность требует моральных рассуждений, но любая должна ос-
новываться на принципах безопасности, надежности и способности положиться.
Шестое опасение связано с экзистенциальными переживаниями о выжива-
емости нас как вида. Научная фантастика и популярная культура рисуют образы
мрачного будущего, в котором машины восстают и уничтожают или порабощают
своих создателей. Это порождает определенные алармистские настроения в об-
ществе и общую настороженность по поводу создания сильного искусственного
интеллекта и технологической сингулярности. Однако можно отметить, что созда-
ние именно ИМА способно решить это затруднение, поскольку обучение морали
способно оказывать дополнительное сдерживающее влияние на роботов.
Гораздо более приближенным к реальности выглядит седьмой аргумент: пе-
рекладывание работы на другого приводит к потере навыка. Поэтому создание
и использование моральных машин приведет к тому, что человек потеряет свою
способность полноценно быть моральным существом. Мораль выступает в ка-
честве одного из существенных характеристик человека, поэтому наделение ее
искусственного агента способно приводить к потере человечеством собственной
моральности. Аргументация выстраивается по аналогии с уже существующими
проблемами: распространение навигаторов приводит к сильному ухудшению зна-
ния людей городов, а также люди слишком сильно полагаются на электронные
системы. Во время сбоя систем навигации в Москве многие водители попросту
не знали, куда ехать: их способность ориентации серьезно пострадала вследствие
чрезмерного использования искусственных помощников.
Следующий аргумент касается социальных роботов: осуществляющие заботу
машины могут использоваться не только для ухода за стариками и больными людь-
ми, но и участвовать в воспитании детей. Но в таком случае мы получаем проблему,
связанную с тем, что робот изменяет сообщество людей через воспитание новых
людей. А также это чревато тем, что дети могут нездорово привязываться к робо-
там. Такая привязанность связана с эмпатией, испытываемой человеком даже к ис-
кусственным агентам. Однако в условиях демографических кризисов и старения
населения индустрия социальных роботов, как можно предположить, будет только
развиваться и расти, и отказаться от их использования трудно.
Последний аргумент касается проблемы ответственности: a) неправильное
перекладывание ответственности на робота; b) невозможность обвинить робота.
Уже сейчас инциденты с беспилотными автомобилями порождают коллизии, для
которых не существует разделяемого большинством решения. Аргумент показы-
вает противоречивую природу ИМА: с одной стороны, встает проблема обвине-
ния и наказания робота, поскольку он не является в прямом смысле живым и не
обладает социальностью, традиционные концепты наказания для него не имеют
значения. Необходимо разработать абсолютно новый способ наказания, который
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
Специальные вопросы регулирования и охраны цифровых технологий
Special issues of regulation and protection of digital technologies
20
бы соответствовал иной природе ИМА. С другой стороны, возможны случаи, при
которых на робота будет накладываться ответственность, которой не соответство-
вали его действия, с целью избежать наказания.
Заключение.
Создание ИМА выглядит привлекательной и перспективной
областью исследований и инженерии. Однако оно несет с собой множество про-
блем, убедительных ответов на которые пока не предлагается. При этом это не
значит, что не следует их создавать. Прогресс и процесс разработки не остановим,
поэтому необходимо убедиться в их безопасности и возможности инкорпорации
в человеческий мир.
Список литературы
1. Клюева Н. Ю. Этическая экспертиза технологий искусственного интеллек-
та и робототехники // Философская аналитика цифровой эпохи: сб. науч. статей
/ отв. ред. Л. В. Шиповалова, С. И. Дудник. СПб: Изд-во С.-Петерб. ун-та, 2020.
С. 164–174.
2. Разин А. В. Этика искусственного интеллекта // Философия и общество.
2019. № 1(90). С. 57–73.
3. Allen C., Smit I., Wallach W. Artificial morality: Top-down, bottom-up, and
hybrid approaches // Ethics and Information Technology. 7(3). 2005. Pp. 149–155.
4. Cervantes J., López S. et al. Artificial Moral Agents: A Survey of the Current
Status // Science and Engineering Ethics. 26. 2020. Pp. 501–532.
5. Formosa P., Ryan M. Making moral machines: why we need artificial moral
agents // AI & SOCIETY. 36. 2021. Pp. 839–851.
6. Moor J. The nature, importance, and difficulty of machine ethics // IEEE Intell
Syst. 21(4). 2006. Pp. 18–21.
О. Г. Басалаева
,
кандидат философских наук, доцент,
Кемеровский государственный медицинский университет
Ю. М. Басалаев
,
доктор физико-математических наук, профессор,
Кемеровский государственный медицинский университет
ПРАВОВЫЕ ВОПРОСЫ И ПРОБЛЕМЫ ЗАЩИТЫ ДАННЫХ
В ИНТЕЛЛЕКТУАЛЬНЫХ УСТРОЙСТВАХ IOMT
Аннотация.
В работе определена роль интеллектуальных устройств на ос-
нове IoMT в улучшении системы здравоохранения, а также дано краткое пред-
ставление о технологиях, дополняющих IoMT, и проблемах, возникающих при
разработке интеллектуальной системы здравоохранения. Учитывая огромные по-
требности, здравоохранение рассматривается как наиболее сложная область для
приложения Интернета медицинских вещей (IoMT), с учетом обеспечения безо-
пасности устройств IoMT и данных, которые они собирают и передают.
