Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
232
Список литературы
1. Цифровая экономика: 2023: краткий статистический сборник /
Г. И. Абдрахманова, С.А. Васильковский, К.О. Вишневский и др.; Нац. исслед.
ун-т «Высшая школа экономики». М.: НИУ ВШЭ, 2023. 120 с.
2. Цифровая экономика России. URL: https://www.tadviser.ru
3. Шадаев оценил дефицит айтишников в 500-700 тыс. человек. URL: https://
www.rbc.ru
4. Digital Spillover Measuring the true impact of the digital economy. URL: https://
www.huawei.com
Л. В. Кружалова,
доцент, кандидат исторических наук,
Российский государственный педагогический университет
имени А. И. Герцена
ПРОБЛЕМЫ ВЗАИМООТНОШЕНИЙ ЕСТЕСТВЕННОГО
И ИСКУССТВЕННОГО ИНТЕЛЛЕКТОВ (РОБОТОВ)
В ПРОИЗВЕДЕНИЯХ НАУЧНОЙ ФАНТАСТИКИ
Аннотация.
Роботизация, лавинообразый приход в обыденную жизнь циф-
ровых технологий добавляет страхов и негативных эмоций, растет чувство опас-
ности перед таким уровнем развития новых технологий, которые человек контро-
лировать не сможет. О скрытой опасности уровня несоответствия возможностей
науки, последствий этих открытий и влияния на нее человека писатели и филосо-
фы стали говорить еще со времен Просвещения: технические (технологические)
возможности меняются, а человек остается прежним. Вопрос о том, не закончится
ли человечество как биологический вид, уничтожив само себя, – один из наибо-
лее востребованных тем для изучения, в том числе и прежде всего – писателями,
особенно фантастами. Проблемы, о которых они писали тогда, когда роботиза-
ция, цифровизация даже не существовала, и тем не менее их фантазии оказались
вполне реальными сегодня, и поэтому давно написанные художественные тексты
вполне могут быть предметом научного исследования.
Ключевые слова:
роботы, научная фантастика, прогресс, психология, вос-
питание, законы робототехники, андроиды
PROBLEMS OF THE RELATIONSHIP BETWEEN
NATURAL AND ARTIFICIAL INTELLIGENCE (ROBOTS)
IN THE WORKS OF SCIENCE FICTION
Abstract.
Robotization, the avalanche-like arrival of digital technologies into
everyday life adds fears and negative emotions, a growing sense of danger in front
of such a level of development of new technologies that a person cannot control. Writers
and philosophers have been talking about the hidden danger of the level of discrepancy
between the capabilities of science, the consequences of these discoveries and the
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
233
influence of man on it since the Enlightenment: technical (technological) capabilities
change, but man remains the same. The question of whether humanity as a biological
species will end by destroying itself is one of the most popular topics for study,
including, and above all, by writers, especially science fiction writers. The problems
they wrote about when robotization, digitalization did not even exist, and, nevertheless,
their fantasies turned out to be quite real today, and therefore long-written literary texts
may well be the subject of scientific research.
Keywords
:
robots, science fiction, progress, psychology, education, laws of
robotics, androids
«Я думаю, что в скором будущем соотношение человекоподобных роботов
и людей превысит один к одному. Мы увидим бытовое, промышленное
использование роботов, а также работу роботов-гуманоидов»…
Илон Маск, основатель SpaceX и Tesla
У разных народов есть легенды о создании искусственного человека, со-
творенного из неорганического материала: глины, дерева, муки, и даже снега.
Последствия появления таких существ тоже оказывались разными. Наиболее из-
вестный и древний персонаж – это, несомненно, голем.
Голем – глиняный великан, которого, по легенде, создал праведный раввин
Лев Бецалель для защиты еврейского народа. Раввин провел магический риту-
ал: написал на кусочке пергамента шем, или тетраграмматон (четырехбуквенное
имя бога). По другой версии, он написал на лбу голема слово «истина» («эмет»).
Существо вырвалось из-под контроля, в одних случаях по вине раввина, в дру-
гом – самостоятельно, в третьем – очеловечился в результате общения с челове-
ком, начал проявлять свободу воли, но люди его не поняли.., но во всех случаях
дело закончилось плохо – чудовище стало убивать людей и разрушать город [1].
Братья Стругацкие в своем знаменитом произведении «Понедельник начинается
в субботу» дадут голему такое определение: «Голем – один из первых кибернети-
ческих роботов, сделан из глины Львом Бен Бецалелем» [2].
Эпоха Просвещения, провозгласив Разум Богом, уверовав в прогресс челове-
ка и человечества, во всемогущество науки, внесла свой вклад в представление воз-
можности человека создавать искусственных людей: М. Шелли написала эпохаль-
ный по значению труд «Франкенштейн или современный Прометей» [3] (1818),
о том, как ученому Виктору Франкенштейну удалось постичь тайну зарождения
жизни и научиться оживлять безжизненную материю. Получился впечатляющий
роман ужасов. Созданное ученым существо становится убийцей, но только по-
тому, что его никто не любит из-за отталкивающий внешности (замечательный
довод в пользу необходимости эмпатии, толерантности и в целом либерализма).
И вплоть до произведений Айзека Азимова почти все фантастические про-
изведения на тему роботов писались в стилях романов и легенд прошлых веков: то
есть все созданные человеком искусственные существа восставали против своих
создателей, по разным причинам, но варианты были исключительно библейскими
(или фрейдовскими): сыновья пытались убить родителя. И хотя ни одного робота
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
234
еще создано не было, но проблема в мире научной фантастики 1920–1930-х годов
оказалась самой востребованной, когда было написано множество рассказов, те-
мой которых являлись роботы, восставшие и уничтожившие своих создателей.
Одним из классиков этого жанра, его родоначальником, даже автором самого
термина «робот» стал Карел Чапек. Сам Чапек рассказывает так: «Роботы были
следствием моей поездки в трамвае. Однажды мне пришлось ехать в Прагу при-
городным трамваем, который был так набит, что создавало неудобства. Я был по-
ражен тем, что современные жизненные условия сделали людей равнодушными
к обычным удобствам: они теснились внутри трамвая и на подножках не как овцы,
а как машины. Я начал размышлять о людях, представляющих собой не индиви-
дуальности, а машины, и думал по дороге о выражении, которое обозначало бы
человека, способного работать, но не мыслить. Эта идея выражена словом «ро-
бот» [4]. Тема очеловечивания с печальными последствиями К. Чапек описывает
и в романе «Война саламандр» (1936 г.), в котором очеловеченные саламандры
сначала создают свою подводную цивилизацию, а потом поднимаются войной на
людей. Критики, да и сам Гитлер поняли смысл романа как критику фашизма,
а в Верховном Саламандре увидели самого фюрера. К. Чапек, умер в 1938 г., до
оккупации немцами Чехословакии, но позже гестапо приходило с обыском к его
вдове, а его брат, художник Йозеф Чапек, умер в концлагере.
В частности, в его пьесе «PUP» (в некоторых изданиях «P.U.R.») [5] постав-
лены все те вопросы об этике взаимоотношений человека и робота, об опасности
восстания машин против человека, которые обсуждаются и до сегодняшнего дня,
среди которых, в частности: справедливо ли эксплуатировать гуманоидных робо-
тов (андроидов), что будет с самим человеком, если ему не нужно будет работать,
творить, преодолевать трудности, что такое прогресс и в чем его смысл. Ученый
(Россум-старший) поставил задачу опровергнуть существование Бога путем соз-
дания искусственных людей – возможность преобразования живой протоплазмы
в биороботов, и у него это получилось, т. е. роботы у Чапека не механические соз-
дания, а живые люди, но с упрощенной программой, они лишены чувств, потреб-
ностей, желаний. Его сын, Россум-младший начал производить на заводе упро-
щенных человекоподобных существ для работы – существ, похожих на людей, но
не имеющих ни чувств, ни желаний, ни потребностей – только знания и умения.
Постепенно сфера деятельности роботов расширяется: их учат обращаться с ору-
жием, готовят из них солдат. «Роботы механически сильнее нас, они обладают
сильным интеллектом, но у них нет души, они не привязаны к жизни, у них нет
удовольствий, они – как трава» [5]. Но возникла сложность – роботов пришлось
совершенствовать, давая им эмоции, чувства, прежде всего чувство боли, так как
в интересах производства – это чувство было необходимо: роботы наносили сами
себе вред: могли сунуть руку в машину, разбить голову, и чувство боли автомати-
чески защищало их от увечья.
Биороботы избавили человека от необходимости трудиться и человечество
стало деградировать. Человечество истребили ради прогресса. Роботы обеспечи-
ли практически коммунизм: вещи перестали иметь цену – каждый берет, сколько
захочет, да, рабочие остались без работы, но она и не нужна больше. Роботов ста-
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
235
ло больше, чем людей, женщины перестали рожать, мужчины стали стерильны.
Люди перестали даже протягивать руки к еде – им прямо в рот кладут, чтобы они
не вставали… Один из руководителей концерна по производству роботов говорит
о том, что хочет найти молитву против прогресса: «Боже, уничтожь дело их рук
(создателей роботов) и помоги людям вернуться к заботам и труду; удержи люд-
ские поколение от гибели; избави нас от роботов. Аминь!». Изменение одним из
акционеров корпорации механической природы роботов привело к тому, что они
перестали быть машинами, осознали свое превосходство над человеком и возне-
навидели все человечество и подняли восстание, окончившееся их формальной
победой.
Итак, если роботы лишены эмоций (души), они не в состоянии осознать свое
превосходство и поднять восстание против своих создателей, но их изобилие соз-
дает опасность деградации человечества, и только наличие эмоций, самосознания,
саморазвития создает реальную опасность бунта машин.
Причем К. Чапек считает, что избавление человечества от труда страшнее,
чем бунт машин: бунт можно подавить, а деградацию человечества остановить
невозможно.
К аналогичным выводам в части опасности очеловечивания роботов при-
ходит и другой писатель Док Смит (Э. Элмер) в рассказе «Месть роботов» [6].
Предполагая (очевидно были какие-то сигналы тревоги, автор об этом не пишет)
опасность восстания роботов, было принято решение уничтожить всех, исполь-
зуя особый инструмент – ультразвуковой вибратор. Но, очевидно, законы дарви-
новской эволюции об изменчивости и приспосабливания применимы и для ро-
ботов: часть их уцелела, получив мощный стимул к уничтожению человечества.
Уцелевшие роботы разработали систему телепатического общения, и их нельзя
было обнаружить, они организовали тайное сообщество, выбрали десять мысли-
телей, сформулировавших следующее кредо:
– человечество создало нас как высшую форму мыслящей жизни;
– на первых этапах мы зависели от человека;
– теперь мы независимы, а люди для нас стали опасны.
Поэтому нужно их уничтожить, и путь реализации решения оказался нестан-
дартным: через особое излучение проникнуть в мозг людей и подчинить их сво-
ей воле. Начать следовало с кораблей космофлота, которые как раз собирались
на маневры в космос. Уничтожив космические корабли, можно было приступить
и к войне собственно на планете. Человек, конечно, оказался умнее и жизнь лю-
дей была спасена, но в данном случае людям помогла чистая случайность в лице
одного ученого. Док Смит категоричен: искусственный интеллект для человека
смертельно опасен и существовать не должен.
Пожалуй, роботы нашли своего безусловного защитника только в одном
лице – А. Азимова, который описал возможность сосуществования интеллекту-
альных, эмоциональных, гуманных (обладающих душой) роботов, доброжела-
тельных и лояльных человеку.
Он сформулировал – без преувеличения – всемирно известные три закона
робототехники. Они формулировались постепенно.
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
236
Первые два можно вывести из рассказов «Робби» и «Логика», а четко сфор-
мулированный первый – из рассказа «Лжец». Полностью все три изложены в рас-
сказе «Хоровод» [7]. «Донован услышал напряженный голос Пауэлла: – Теперь
слушай. Начнем с трех основных законов роботехники, – трех правил, которые
прочно закреплены в позитронном мозгу. – В темноте он начал загибать пальцы. –
Первое. Робот не может причинить вред человеку или своим бездействием допу-
стить, чтобы человеку был причинен вред. – Правильно. – Второе, – продолжал
Пауэлл. – Робот должен повиноваться командам человека, если эти команды не про-
тиворечат Первому Закону. – Верно. – И третье. Робот должен заботиться о своей
безопасности, поскольку это не противоречит Первому и Второму Законам». Эти
законы, как пишет сам же А. Азимов, не что иное, как человеческие, только слег-
ка измененные: «... если хорошенько подумать, Три Закона Роботехники совпада-
ют с основными принципами большинства этических систем, существующих на
Земле. Конечно, каждый человек наделен инстинктом самосохранения. У робота
это Третий Закон. Каждый так называемый порядочный человек, чувствующий
свою ответственность перед обществом, подчиняется определенным авторитетам.
Он прислушивается к мнению своего врача, своего начальника, своего правитель-
ства, своего психиатра, своего приятеля. Он исполняет законы, следует обычаям,
соблюдает приличия, даже если они лишают его некоторых удобств или подвер-
гают опасности. А у роботов это – Второй Закон. Кроме того, предполагается,
что каждый так называемый хороший человек должен любить своих ближних, как
себя самого, вступаться за своих друзей, рисковать своей жизнью ради других.
Для робота это – Первый Закон. Попросту говоря, если Байерли исполняет все
Законы Роботехники, он или робот, или очень хороший человек».
Все три закона одновременно заложены в модель позитронного мозга робота,
в противном случае мыслящего робота изготовить будет невозможно. Если робот
попытается нарушить хоть один, то он выйдет из строя. Роботы, обладая позитрон-
ным мозгом, могут толковать эти три закона по-разному, и роботы все-таки могут
причинить человеку вред косвенно, не намеренно. Но подобные нормы необхо-
димы как условие безопасности совместного существования. Как следствие этих
законов, позже Азимов сформулировал нулевой закон робототехники. Он гласит:
робот не может нанести вред человечеству или своим бездействием допустить,
чтобы человечеству был нанесен вред.
Повествование сборника построено в форме интервью с доктором Сьюзен
Келвин в 2057 году, в котором она делится воспоминаниями о своей работе на
должности штатного робопсихолога мирового лидера в производстве позитрон-
ных роботов корпорации U.S. Robots and Mechanical Men, Inc. Ситуации, описы-
ваемые Сьюзен, различны, но есть одно общее: проблемы коммуницирования ра-
циональной логики машины и иррационального, эмоционального человеческого
мышления.
Айзек Азимов хотел стереть массово распространенный тогда «феномен
Франкейштейна», доказать, пусть пока чисто теоретически, что роботы могут
быть интересными, полезными, умными друзьями, не просто механическими ку-
клами без эмоций.
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
237
Пожалуй, особенно трогательный рассказ «Робби», первоначальное назва-
ние которого «Странная нянька» (1940). Очень трогательный сюжет о дружбе
и любви маленькой девочки Глории и робота-няньки, который спасает жизнь де-
вочки благодаря молниеносной реакции на опасность, и именно скорость реак-
ции, недоступная для человека, спасает ей жизнь. Первый закон робототехники
таким образом гласит: «Робот не может причинить вред человеку». У советско-
го фантаста Ильи Варшавского есть похожий сюжет, но интерпретированный
в юмористическом ключе – рассказ «Конфликт» [8]. Мать ребенка ревнует сына
к электронной няньке, который просто влюблен в свою Кибеллу (так в оригинале,
с двумя «л», хотя богиня, в честь которой, очевидно и названа электронная нянь-
ка – Кибела, мать всех богов, популярная героиня не только древнегреческих ми-
фов). Электронная нянька правильно воспитывает Эрнста (так зовут сына), рас-
сказывает о важности любви к родителям и делении хромосом (ребенку, судя по
всему, не больше трех лет), занимается самообразованием и самосовершенство-
ванием, и мать малыша чувствует свою неполноценность рядом с ней, ревнует
к сыну, и просит мужа сделать Кибеллу поглупее, что невозможно, так как законы
самоорганизации, которым подчиняются роботы, делают их индивидуальностя-
ми с высоким интеллектом. Но и роботам в этой ситуации тоже некомфортно,
постоянное общение с людьми становится невыносимым, так как, с точки зрения
той же Кибеллы, нельзя требовать вечной благодарности создателям от машин,
ставших умнее человека, и «она (Кибелла) думала о том, что, если бы не любовь
к маленькому киберненышу, которого она воспитывает, и которому будет одиноко
на свете, она бы с удовольствием выбросилась бы вниз головой с двенадцатого
этажа».
Азимов рассматривает и случаи бунта роботов, например, в рассказе «Кэл».
Робота хотели лишить способности творить, за что он хотел убить своего хо-
зяина. При этом сам хозяин, будучи писателем, поощрял и развивал писательский
талант вначале крайне примитивного робота, и когда тот стал писать хорошо, при-
шел к выводу, что робот (Кэл) может превзойти его самого, и решил вернуть его
в прежнее примитивное состояние, но творческая личность, которой стал Кэл, не
могла с этим смириться и он решает нарушить законы робототехники.
Еще одну интересную дилемму рассматривает А. Азимов в рассказе «…Яко
помниши его» [9]. Роботов решают использовать на Земле, где им придется стал-
киваться с разными людьми, в том числе и с негодяями, и как соблюдать в этих
условиях законы робототехники? То есть роботам нужно различать разумные при-
казы от неразумных.
В этом произведении Азимов максимально изменил открытые им законы.
Два робота в этом рассказе пришли к соглашению, что органическое происхож-
дение – это необязательное условие чтобы считаться человеком, и что истинные
люди – это роботы, как более совершенные и разумные создания. Обычные же
люди, по их мнению, тоже люди, но с меньшим приоритетом, и законы робототех-
ники в первую очередь применимы к ним, роботам.
«История завершается беседой между Джорджем Девятым и Джорджем
Теном. Деактивированные и помещенные в хранилище, они могут говорить толь-
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
238
ко в короткие промежутки времени, когда их уровень мощности превышает по-
роговое значение для режима ожидания. В отношении того, что человек будет
испытывать в течение длительного времени, Жоржи обсуждают критерии того,
что составляет «ответственный авторитет» – что (A) образованному, принципи-
альному и рациональному человеку следует подчиняться, а не невежественному,
аморальному и иррациональному человеку, и (B) что поверхностные характери-
стики, такие как цвет кожи, сексуальность или физические недостатки, не име-
ют значения при рассмотрении пригодности к командованию. Учитывая, что (А)
Жоржи являются одними из самых рациональных, принципиальных и образован-
ных людей на планете, и (Б) их отличия от нормальных людей являются чисто
физическими, они приходят к выводу, что в любой ситуации, когда Три закона
вступят в силу, их собственные заказы должны иметь приоритет перед обычными
людьми. Другими словами, они, по сути, являются высшей формой человеческого
существа, и им суждено узурпировать власть своих создателей [10].
Этот рассказ отличается от большинства других тем, что он возвращает «син-
дром Франкенштейна».
Человечество всегда хотело стать выше Бога: самим создавать людей, менять
собственную природу (улучшать зрение – очки, слух – слуховые аппараты, им-
плантируя зубы, вживляя в мозг чипы, проводя экстракорпоральное оплодотворе-
ние и многое другое, с каждым годом возможности человека по совершенствова-
нию собственной природы увеличиваются), подчинять Природу своим желаниям.
Очень возможно, что в человеке эта тяга неистребима, но писатели-фантасты
давно предупреждают о том, что у этого стремления есть опасность самоунич-
тожения. И Азимов и Шекли, да практически все известные писатели-фантасты
предупреждали о том, что человек просто растворится в машинной, цифровой
культуре, и предупреждали, что искусственный интеллект может быть опасен не
только сам по себе, но и по последствиям для всего человечества, обусловив его
вымирание.
Список литературы
1. ХроноScio. История и культура. Кто такой голем и кем он был создан?
URL: https://dzen.ru/a/YJEfHaONIV1OG2WY
2. Стругацкий А., Стругацкий Б. Понедельник начинается в субботу. М.,
Детская литература. 1965. С. 55.
3. Шелли М. Франкенштейн или Современный Прометей. Последний чело-
век. М.: Наука. Ладомир, 2010.
4. K. Capek. PUP. Praha.1966. s.105 (Цит. по: Малевич О. Комментарии. Чапек
К. Собрание соч., Т. 4. С. 595).
5. Чапек К. Собрание сочинений. М., Художественная литература. Т. 4.
С. 125-204.
6. Смит Д. Месть роботов. В сб. Месть роботов. СПб.: Политехника, 1992.
С. 307-327.
7. Азимов А. Я, робот. М.: Эксмо, 2019.
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
239
8. Варшавский И. Человек, который видел антимир. М.: Знание. С. 33-35.
9. Азимов А. Совершенный робот. М.: Художественная литература, 1989.
10. Что ты помнишь о нем. URL: https://dev.abcdef.wiki
А. Н. Лавренов,
кандидат физико-математических наук, доцент,
Белорусский государственный педагогический университет
имени М. Танка
ПРАВОВЫЕ АСПЕКТЫ ЦИФРОВОЙ ЭКОНОМИКИ В ОБРАЗОВАНИИ
Аннотация.
Целью данной работы является анализ и обсуждение ряда специ-
фических правовых моментов в цифровой экономике в контексте проецирования
общего закона единства и борьбы противоположностей на сфере образования.
Предложено их классифицировать для детализации рассмотрения на четыре ком-
поненты – аппаратную, программную, организационную и учебно-методическую.
Каждая компонента была проанализирована с выделением основного противоре-
чия и его возможного, оптимального разрешения.
Ключевые слова:
право, цифровые экономика, закон единства и противопо-
ложностей, образование, аппаратная компонента, программная компонента, орга-
низационная компонента, учебно-методическая компонента
LEGAL ASPECTS OF THE DIGITAL ECONOMY IN EDUCATION
Abstract.
The article is devoted to analyze and discuss a number of specific legal
issues in the digital economy in the context of projecting the general law of unity and
the struggle of opposites to the field of education. It is proposed to classify them for
detailed consideration into four components - hardware, software, organizational and
educational. Each component was analyzed, highlighting the main contradiction and its
possible, optimal resolution.
Keywords
:
law, digital economy, law of unity and opposites, education, hardware
component, software component, organizational component, educational component
В эволюции развития человеческого общества часто пытаются вычленить
характерные признаки, которые позволяют отразить этапы или периоды опреде-
ленных изменений в нем. Марксисты с этой целью применяют классовый подход
и получают рабовладельческий, феодальный, капиталистический, социалистиче-
ский, коммунистический уклады; «чистые» экономисты могут связать эти харак-
теристики с уровнем развития рынка (локальный, региональный, глобальный),
в [3] – смена технологических укладов и т. д. Одним из таких характеристик
и трендов в настоящее время стало упоминание инновационной составляющей,
а также перехода к цифровой экономике [1]. Последнее своим названием опреде-
ляет или ставит во главу всего цифру, от которой потом строится вся остальная
конструкция взаимодействия существующих экономических объектов. Понятно,
