441
ЭТИЧЕСКИЙ КОДЕКС СУБЪЕКТОВ, ОСУЩЕСТВЛЯЮЩИХ
ДЕЯТЕЛЬНОСТЬ ПО СОЗДАНИЮ, ПРИМЕНЕНИЮ И УТИЛИЗАЦИИ
МЕДИЦИНСКИХ ИЗДЕЛИЙ НА ОСНОВЕ ТЕХНОЛОГИЙ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Аннотация.
Вниманию юристов – ученых и практиков, медицинских ра-
ботников, членов комитетов по клинической этике, специалистов по медицин-
ской этике, представителей правотворческих органов, государственных ведомств,
бизнес-сообщества и общественных организаций, пациентов, а также широкого
круга читателей, интересующихся вопросами цифровой трансформации системы
здравоохранения, предложен первый в Российской Федерации проект Этического
кодекса субъектов, осуществляющих деятельность по созданию, применению
и утилизации медицинских изделий на основе технологий искусственного интел-
лекта. Принципы, отраженные в Этическом кодексе, могут служить основой для
развития системы правового регулирования технологий искусственного интеллек-
та в здравоохранении.
Ключевые слова
: здравоохранение, медицина, медицинская помощь, меди-
цинская услуга, медицинская этика, медицинский работник, медицинское изделие,
искусственный интеллект, пациент, право, принцип, производитель, разработчик,
цифровые технологии, этика, этический кодекс
ETHICAL CODE OF SUBJECTS, CARRYING OUT ACTIVITIES
ON CREATION, APPLICATION AND DISPOSAL MEDICAL DEVICES
BASED ON ARTIFICIAL INTELLIGENCE TECHNOLOGIES
Abstract.
To the attention of lawyers, scientists and practitioners, medical
professionals, members of clinical ethics committees, medical ethics specialists,
representatives of law–making bodies, government departments, the business community
and public organizations, patients, as well as a wide range of readers interested in the digital
transformation of the healthcare system, the first draft of the Ethical Code of Subjects
in the Russian Federation is proposed. carrying out activities for the creation, use and
disposal of medical devices based on artificial intelligence technologies. The principles
reflected in the Code of Ethics can serve as a basis for the development of a system
of legal regulation of artificial intelligence technologies in healthcare.
Keywords
: healthcare, medicine, medical care, medical service, medical
ethics, medical worker, medical device, artificial intelligence, patient, law, principle,
manufacturer, developer, digital technology, ethics, code of ethics
ПРИЛОЖЕНИЕ | APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
442
1. Преамбула
Учитывая важную роль цифровых инноваций и технологий в системе здравоох-
ранения и традиционно большое значение этических принципов в медицине, руко-
водствуясь общепризнанными нравственными принципами и нормами медицинского
сообщества, документами по медицинской этике и отраслевыми стандартами в сфе-
ре классификации, регистрации и сертификации медицинских изделий на основе
технологий искусственного интеллекта и правилами контроля качества производства
таких изделий, принимается настоящий Этический кодекс субъектов, осуществляю-
щих деятельность по созданию, применению и утилизации медицинских изделий на
основе технологий искусственного интеллекта (далее – Этический кодекс).
2. Общие положения
2.1. Этический кодекс представляет собой свод общих принципов професси-
ональной служебной этики и основных правил служебного поведения, которыми
должны руководствоваться субъекты, осуществляющие деятельность по созда-
нию, применению и утилизации медицинских изделий на основе технологий ис-
кусственного интеллекта [1, 2].
2.2. Целью Этического кодекса является установление этических норм и пра-
вил служебного поведения субъектов, осуществляющих деятельность по созданию,
применению и утилизации медицинских изделий на основе технологий искусствен-
ного интеллекта, содействие укреплению авторитета медицинских работников, по-
вышение доверия пациентов к технологиям искусственного интеллекта и предот-
вращение потенциальных негативных последствий в результате их применения.
2.3. Принципы, указанные в Этическом кодексе, служат основой для раз-
вития системы правового регулирования технологий искусственного интеллекта
в здравоохранении.
2.4. Медицинские изделия на основе технологий искусственного интеллекта
должны разрабатываться, производиться и применяться исключительно в целях
оказания медицинской помощи (медицинской услуги) или в научно-исследова-
тельских целях.
2.5. Медицинским работникам запрещено принуждать пациента применять
медицинские изделия на основе технологий искусственного интеллекта в отноше-
нии него, если это не продиктовано условиями крайней необходимости.
2.6. Медицинские организации должны предоставлять финансовую под-
держку для исследований и разработок в области технологий искусственного ин-
теллекта, а также для их внедрения в клиническую практику.
3. Специальные положения
3.1. Этический кодекс не умаляет достоинство и действия кодексов профес-
сиональной этики медицинских работников, а дополняет и раскрывает особенно-
сти их деятельности при применении ими медицинских изделий на основе техно-
логий искусственного интеллекта.
3.2. Должностное лицо предприятия, учреждения, организации разработчика
(производителя) медицинских изделий на основе технологий искусственного ин-
теллекта обязано ознакомиться с положениями Этического кодекса и соблюдать
их в процессе своей профессиональной деятельности.
ПРИЛОЖЕНИЕ
APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
443
3.3. Медицинский работник, работающий в медицинской организации, обя-
зан ознакомиться с положениями Этического кодекса и соблюдать их в процессе
своей профессиональной деятельности.
3.4. Каждый медицинский работник должен принимать все необходимые
меры для соблюдения положений Этического кодекса, а каждый пациент вправе
ожидать от него поведения, соответствующего положениям Этического кодекса.
3.5. Знание и соблюдение медицинскими работниками положений Этического
кодекса является одним из критериев оценки качества их профессиональной дея-
тельности и служебного поведения.
4. Этические принципы разработчиков и производителей медицинских
изделий на основе технологий искусственного интеллекта
4.1. Принцип благополучия
Разработка и производство медицинских изделий на основе технологии ис-
кусственного интеллекта должны быть направлены на благо пациентов и обще-
ства, а не только интересам бизнеса.
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны убедиться, что их продукты обеспечивают
клиническую эффективность, повышают качество медицинской помощи (меди-
цинской услуги) и улучшают здоровье пациентов.
4.2. Принцип безопасной разработки
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны проводить верификацию всех алгоритмов и
моделей искусственного интеллекта, использующихся в медицинском изделии.
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны убедиться, что их продукты работают коррек-
тно и не могут нанести вреда пациентам и обществу.
4.3. Принцип безопасного внедрения
Внедрение медицинских изделий на основе технологий искусственного интел-
лекта в клиническую практику должно быть обосновано и основано на доказатель-
ной медицине, а также на методах проверки, воспроизводимости и надежности.
4.4. Принцип безопасного применения
Разработчики и производители медицинских изделий на основе техноло-
гий искусственного интеллекта должны обеспечить качественную установку, на-
стройку, обслуживание и ремонт продуктов на постоянной основе с соблюдением
протоколов безопасности.
Документация по безопасному применению медицинских изделий на основе
технологий искусственного интеллекта должна быть ясной и доступной.
4.5. Принцип согласованности
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны убедиться, что алгоритмы и модели искус-
ственного интеллекта, применяемые в таком изделии, должны быть разработаны
таким образом, чтобы они давали единые и последовательные результаты при ана-
лизе медицинских данных.
Это позволит медицинским работникам проводить более точный анализ
больших объемов данных медицинских исследований и использовать методы
ПРИЛОЖЕНИЕ
APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
444
машинного обучения и статистического анализа в целях нахождения закономер-
ностей, которые помогут им диагностировать и лечить заболевания пациентов.
4.6. Принцип алгоритмической прозрачности
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны гарантировать, что их продукты разработаны
с учетом прозрачности и объяснимости результатов.
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны предоставлять медицинским работникам пол-
ную информацию о том, как работает их продукт, какие алгоритмы и модели ис-
кусственного интеллекта используются в продукте, какие данные были использо-
ваны для обучения и как они были обработаны.
4.7. Принцип равенства
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны стремиться к тому, чтобы алгоритмы и мо-
дели искусственного интеллекта, используемые в продукте, были полностью не-
предвзятыми и основывались на полных и репрезентативных данных.
Разработчики и производители медицинских изделий на основе технологий ис-
кусственного интеллекта должны поощрять использование открытых алгоритмов и
свободных данных, поскольку они могут дать возможность всем, независимо от их
социального статуса или национальности, иметь доступ к надежным и проверенным
алгоритмам искусственного интеллекта, способствовать повышению равенства.
4.8. Принцип запрета на дискриминацию
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта во избежание возможной дискриминации на основе
религиозных, этнических, культурных, социальных, сексуальных и иных призна-
ков, должны убедиться, что набор данных, используемых для предварительного
обучения алгоритмов и моделей искусственного интеллекта, используемых в про-
дукте, является репрезентативным и соответствует разнообразию населения.
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны проводить рандомизированные доклиниче-
ские и клинические исследования (испытания) продукта в целях установления пра-
вильности и эффективности используемых алгоритмов и моделей искусственного
интеллекта.
4.9. Принцип ответственности
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны убедиться в том, что их продукты соответ-
ствуют высоким стандартам качества и безопасности, перед тем как предостав-
лять их на рынок.
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны быть готовы взять на себя ответственность за
любые проблемы, возникающие из-за некорректного использования продукта.
4.10. Принцип послерегистрационного мониторинга
Производитель медицинских изделий на основе технологий искусственного
интеллекта после регистрации продукта и вывода его на рынок должен осущест-
влять непрерывный мониторинг его работы в целях выявления побочные эффек-
тов или непредвиденные реакции при его применении.
ПРИЛОЖЕНИЕ
APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
445
Послерегистрационный мониторинг медицинских изделий на основе техноло-
гий искусственного интеллекта осуществляет федеральный орган исполнительной
власти, осуществляющий функции по контролю и надзору в сфере здравоохранения.
4.11. Принцип подконтрольности
Разработчики и производители медицинских изделий на основе технологий
искусственного интеллекта должны осуществлять строгий контроль выведен-
ных на рынок продуктов на соответствие требованиям безопасности, надежности
и эффективности.
В ходе испытаний медицинских изделий на основе технологий искусствен-
ного интеллекта не должны создаваться условия, которые могут угрожать жизни
и здоровью человека.
5. Этические принципы медицинских работников по применению меди-
цинских изделий на основе технологий искусственного интеллекта
5.1. Принцип созидания и улучшения качества
Медицинские работники должны применять медицинские изделия на осно-
ве технологий искусственного интеллекта исключительно в целях оказания меди-
цинской помощи (медицинской услуги).
Применение медицинских изделий на основе технологий искусственного ин-
теллекта может значительно улучшить качество медицинской помощи (медицин-
ской услуги), ускорить процесс медицинского обследования или помочь в выборе
наилучшего метода лечения для пациента.
5.2. Принцип безопасности
Применение медицинских изделий на основе технологий искусственного ин-
теллекта должно быть надежным и безопасным, а получаемые на их основе результа-
ты не должны быть направлены на причинение вреда жизни и здоровью пациентам.
Медицинские работники должны обеспечить создание прозрачной системы
доклинических и клинических исследований (испытаний), которые гарантируют
соответствие таких изделий высоким стандартам качества и безопасности.
5.3. Принцип запрета на полную автоматизацию
Решение, принятое медицинским работником, сформированное на данных
медицинского изделия на основе технологий искусственного интеллекта, не долж-
но противоречить стандартами оказания медицинской помощи и не может быть
единственным основанием для полностью автоматической постановки диагноза,
назначения лечения и проведения медицинского обследования.
Алгоритмы и модели искусственного интеллекта, использующиеся в ме-
дицинском изделии, могут применяться для помощи медицинским работникам
в принятии точных диагностических и лечебных решений, однако окончательное
решение всегда принимает медицинский работник, основываясь на своих зна ниях,
опыте и суждениях.
5.4. Принцип добровольного информированного согласия
Медицинские работники должны извещать пациентов обо всех аспектах их
медицинского обследования и лечения, включая возможное применение медицин-
ского изделия на основе технологий искусственного интеллекта, с их согласия.
Согласие на применение медицинских изделий на основе технологий искус-
ственного интеллекта должно быть добровольным.
ПРИЛОЖЕНИЕ
APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
446
Пациент должен быть извещен о том, какие медицинские изделия на основе
технологий искусственного интеллекта будут применяться в его медицинском об-
следовании и лечении, как они работают, какие преимущества и риски они пред-
ставляют, а также как они будут влиять на его здоровье и общее состояние.
5.5. Принцип квалификации медицинских работников
Медицинские работники должны знать и соблюдать действующие норматив-
ные правовые акты, регулирующие их профессиональную деятельность, должны
быть обучены применению медицинских изделий на основе технологий искус-
ственного интеллекта, знать стандарты оказания медицинской помощи с приме-
нением медицинских изделий на основе технологий искусственного интеллекта.
Медицинские работники имеют право на профессиональную подготовку или
повышение квалификации по программам «Применение медицинских изделий на
основе технологий искусственного интеллекта» в системе непрерывного меди-
цинского образования на бесплатной основе.
5.6. Принцип хранения и защиты данных
Медицинские работники должны хранить персональные данные пациен-
тов в базе данных с учетом требований информационной безопасности.
5.7. Принцип конфиденциальности данных
Медицинские работники должны известить пациентов о том, что их персо-
нальные данные собираются и обрабатываются.
Сведения о факте обращения пациента за оказанием ему медицинской по-
мощи (медицинской услуги) с применением медицинских изделий на основе тех-
нологий искусственного интеллекта, состоянии его здоровья и диагнозе, иные
сведения, полученные при высокотехнологическом медицинском вмешательстве,
составляют врачебную тайну.
5.8. Принцип соответствия
Медицинские изделия на основе технологий искусственного интеллекта долж-
ны соответствовать действующим стандартам оказания медицинской помощи.
5.9. Принцип защиты прав пациентов
Пациент имеет право на защиту своих прав и интересов при применении в отно-
шении него медицинских изделий на основе технологий искусственного интеллекта.
Медицинские работники должны извещать пациентов о том, какие медицин-
ские изделия на основе технологий искусственного интеллекта используются в их
медицинском обследовании и лечении и какие побочные эффекты или непредви-
денные реакции при его применении возможны.
При применении медицинских изделий на основе технологий искусственно-
го интеллекта необходимо минимизировать риски возможных негативных послед-
ствий для пациентов.
5.10. Принцип защиты прав медицинских работников
Медицинский работник имеет право на защиту своих прав и интересов при
применении медицинских изделий на основе технологий искусственного интел-
лекта в отношении пациентов.
При применении медицинских изделий на основе технологий искусственно-
го интеллекта необходимо минимизировать риски возможных негативных послед-
ствий для медицинских работников.
ПРИЛОЖЕНИЕ
APPENDIX
ПРИЛОЖЕНИЕ
APPENDIX
447
5.11. Принцип эмпатии
Медицинские работники должны проявлять сочувствие и понимание к паци-
ентам, учитывать интерес к их психологическому и эмоциональному состоянию
при предоставлении медицинской помощи (медицинской услуги) с применением
медицинских изделий на основе технологий искусственного интеллекта.
5.12. Принцип алгоритмической прозрачности
Медицинские работники должны понимать, как медицинское изделие на ос-
нове технологий искусственного интеллекта сгенерировало рекомендацию для
медицинского обследования и лечения пациента.
Список литературы
1. Шутова А. А., Бегишев И. Р. Инициативный проект Этического ко-
декса субъектов, осуществляющих деятельность по созданию, применению
и утилизации медицинских изделий на основе технологий искусственного
интеллекта: препринт № 1 за 2023 г. / А. А. Шутова, И. Р. Бегишев. Казань :
Изд-во «Познание» Казанского инновационного университета, 2023. 16 с. DOI:
10.21202/978-5-8399-0803-1_2023_1_16
2. Шутова А. А., Бегишев И. Р. Проект Этического кодекса субъектов, осу-
ществляющих деятельность по созданию, применению и утилизации медицин-
ских изделий на основе технологий искусственного интеллекта // Russian Journal
of Economics and Law. 2023. Т. 17, № 4. С. 750–785.
Разработан
:
А. А. Шутова
, кандидат юридических наук, Казанский иннова-
ционный университет имени В. Г. Тимирясова;
И. Р. Бегишев
, доктор юридиче-
ских наук, доцент, Казанский инновационный университет имени В. Г. Тимирясова.
ЭТИЧЕСКИЙ КОДЕКС СУБЪЕКТОВ, ОСУЩЕСТВЛЯЮЩИХ
ДЕЯТЕЛЬНОСТЬ ПО СОЗДАНИЮ, ПРИМЕНЕНИЮ И УТИЛИЗАЦИИ
МЕДИЦИНСКИХ ИЗДЕЛИЙ НА ОСНОВЕ ТЕХНОЛОГИЙ
РОБОТОТЕХНИКИ
Аннотация.
Вниманию юристов – ученых и практиков, медицинских работ-
ников, членов комитетов по клинической этике, специалистов по медицинской
этике, представителей правотворческих органов, государственных ведомств, биз-
нес-сообщества и общественных организаций, пациентов, а также широкого круга
читателей, интересующихся вопросами цифровой трансформации системы здра-
воохранения, предложен первый в Российской Федерации проект Этического ко-
декса субъектов, осуществляющих деятельность по созданию, применению и ути-
лизации медицинских изделий на основе технологий робототехники. Принципы,
отраженные в Этическом кодексе, могут служить основой для развития системы
правового регулирования технологий робототехники в здравоохранении.
