`
124
ПРАВОВЫЕ АСПЕКТЫ ОТВЕТСТВЕННОСТИ МЕДИЦИНСКОГО
ПЕРСОНАЛА ПРИ ИСПОЛЬЗОВАНИИ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО
ИНТЕЛЛЕКТА В КЛИНИЧЕСКОЙ ПРАКТИКЕ
Кан Екатерина Эдуардовна
Лектор ТГЮУ
https://doi.org/10.5281/zenodo.15737320
Аннотация:
В данной работе исследуются правовые и этические аспекты
ответственности
медицинского
персонала
при
использовании
технологий
искусственного интеллекта в клинической практике. Проведен анализ современных
подходов к распределению ответственности между медицинскими работниками и ИИ-
системами при принятии клинических решений. Рассмотрены международные
правовые практики регулирования ответственности в условиях автоматизации
медицинских процессов. Исследованы вопросы профессиональной ответственности
врачей при использовании ИИ-рекомендаций, а также проблемы доказательства
причинно-следственных
связей
в
случае
медицинских
ошибок.
Автором
проанализированы существующие пробелы в национальном законодательстве и
предложены рекомендации по совершенствованию правовой базы регулирования
ответственности медицинского персонала в эпоху цифровой медицины.
Abstract:
This paper examines the legal and ethical aspects of medical personnel
responsibility when using artificial intelligence technologies in clinical practice. An analysis of
modern approaches to the distribution of responsibility between medical workers and AI
systems in clinical decision-making is conducted. International legal practices for regulating
responsibility in the context of medical process automation are reviewed. Issues of
professional responsibility of doctors when using AI recommendations, as well as problems of
proving causal relationships in cases of medical errors are investigated. The author analyzed
existing gaps in national legislation and proposed recommendations for improving the legal
framework for regulating medical personnel responsibility in the era of digital medicine.
Annotatsiya:
Ushbu ishda klinik amaliyotda sun'iy intellekt texnologiyalaridan
foydalanishda tibbiy xodimlarning javobgarligining huquqiy va axloqiy jihatlari o'rganilgan.
Klinik qarorlar qabul qilishda tibbiy xodimlar va SI tizimlari o'rtasida javobgarlikni
taqsimlashning
zamonaviy
yondashuvlari
tahlil
qilingan.
Tibbiy
jarayonlarni
avtomatlashtirish sharoitida javobgarlikni tartibga solishning xalqaro huquqiy amaliyotlari
ko'rib chiqilgan. SI tavsiyalaridan foydalanishda shifokorlarning kasbiy javobgarligi
masalalari, shuningdek tibbiy xatolar holatlarida sabab-oqibat aloqalarini isbotlash
muammolari tadqiq etilgan. Muallif tomonidan milliy qonunchilikdagi mavjud bo'shliqlar
tahlil qilingan va raqamli tibbiyot davrida tibbiy xodimlar javobgarligini tartibga soluvchi
huquqiy bazani takomillashtirish bo'yicha tavsiyalar taklif etilgan.
Ключевые слова:
ответственность медицинского персонала, искусственный
интеллект, медицинское право, профессиональная ответственность, клинические
решения, автоматизация в медицине, этика ИИ
ВВЕДЕНИЕ
Интеграция технологий искусственного интеллекта в клиническую практику
порождает новые правовые вызовы, связанные с определением границ
`
125
ответственности медицинского персонала. По данным исследования Deloitte Center for
Health Solutions, к 2024 году более 75% медицинских учреждений планируют внедрить
ИИ-технологии в диагностические и терапевтические процессы
1
. Это актуализирует
вопросы правового регулирования ответственности в условиях автоматизации
медицинских решений, что подтверждается исследованиями ведущих специалистов в
области медицинской этики
2
.
Актуальность исследования обусловлена необходимостью формирования четкой
правовой базы, определяющей границы ответственности медицинских работников
при использовании ИИ-систем, а также потребностью в адаптации существующих
правовых норм к реалиям цифровой медицины. Всемирная организация
здравоохранения подчеркивает важность этических принципов управления ИИ в
здравоохранении
3
.
Цель исследования:
анализ правовых аспектов ответственности медицинского
персонала при использовании ИИ-технологий с разработкой рекомендаций по
совершенствованию нормативно-правового регулирования.
Задачи исследования:
Проанализировать современные подходы к распределению ответственности в
системе "врач-ИИ-пациент"
Исследовать
международные
практики
правового
регулирования
ответственности при использовании ИИ в медицине
Выявить пробелы в национальном законодательстве Республики Узбекистан
Разработать рекомендации по совершенствованию правовой базы
МАТЕРИАЛЫ И МЕТОДЫ
Исследование проведено на основе анализа международных правовых актов,
судебной практики, научной литературы в области медицинского права и этики ИИ за
период 2019-2024 гг. Использованы методы сравнительно-правового анализа,
системного анализа нормативных актов и синтеза правовых концепций.
РЕЗУЛЬТАТЫ И ОБСУЖДЕНИЕ
Теоретические основы ответственности при использовании ИИ в медицине
Концепция распределенной ответственности
Современная правовая доктрина выделяет несколько моделей распределения
ответственности при использовании ИИ в медицине:
1.
Модель "врач как окончательный арбитр"
- врач несет полную
ответственность за все медицинские решения, включая основанные на
рекомендациях ИИ
2.
Модель "совместной ответственности"
- ответственность распределяется
между врачом, разработчиком ИИ-системы и медицинским учреждением
1
Deloitte Center for Health Solutions. (2023). Future of Health: AI and the transformation of healthcare. Retrieved
from: https://www2.deloitte.com/us/en/insights/industry/health-care/artificial-intelligence-healthcare.html
2
European Commission. (2021). Proposal for a Regulation on Artificial Intelligence. COM(2021) 206 final. Retrieved
from: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206
3
World Health Organization. (2021). Ethics and governance of artificial intelligence for health. WHO Guidance.
Retrieved from: https://www.who.int/publications/i/item/9789240029200
`
126
3.
Модель
"ограниченной
ответственности"
-
ответственность
врача
ограничивается при соблюдении установленных протоколов использования ИИ
Международные подходы к регулированию ответственности
Европейский союз
Предложенный Закон об ИИ (AI Act) устанавливает принцип "человека в центре"
(human-in-the-loop), согласно которому окончательное решение всегда должно
приниматься медицинским работником
4
. Директива о продуктовой ответственности
была дополнена положениями о цифровых продуктах, включая ИИ-системы.
Соединенные Штаты Америки
FDA разработало концепцию "предикативного контроля" для ИИ-устройств,
предполагающую
непрерывный
мониторинг
и
обновление
алгоритмов.
Ответственность врача определяется степенью автономности ИИ-системы³.
Великобритания
Медицинский совет Великобритании (GMC) выпустил руководство, согласно
которому врачи остаются ответственными за все клинические решения, даже при
использовании ИИ-рекомендаций
5
.
Виды ответственности медицинского персонала при использовании ИИ
1. Профессиональная ответственность
Включает обязанности врача по:
Компетентному использованию ИИ-систем
Критической оценке ИИ-рекомендаций
Информированию пациентов об использовании ИИ
Ведению надлежащей медицинской документации
Этические соображения требуют от медицинских работников особой
осторожности при интеграции ИИ в клиническую практику
6
.
2. Гражданско-правовая ответственность
Возникает при причинении вреда пациенту вследствие:
Неправильной интерпретации результатов ИИ-анализа
Чрезмерного доверия к ИИ-рекомендациям без должной проверки
Использования непроверенных или несертифицированных ИИ-систем
3. Дисциплинарная ответственность
Применяется за нарушение:
Протоколов использования ИИ-технологий
Требований к квалификации при работе с ИИ-системами
Этических принципов применения ИИ в медицине
Проблемы доказательства причинно-следственных связей
"Черный ящик" ИИ-алгоритмов
4
European Commission. (2021). Proposal for a Regulation on Artificial Intelligence. COM(2021) 206 final. Retrieved
from: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206
5
General Medical Council. (2022). Guidance on artificial intelligence in healthcare. Retrieved from: https://www.gmc-
uk.org/ethical-guidance/ethical-guidance-for-doctors/artificial-intelligence
6
Keskinbora K.H. (2019). Medical ethics considerations on artificial intelligence // Journal of Clinical Neuroscience. Vol.
64. P. 277-282. DOI: 10.1016/j.jocn.2019.03.001
`
127
Основной проблемой является непрозрачность алгоритмов глубокого обучения,
что затрудняет установление причин ошибочных рекомендаций. Исследование MIT
показало, что только 23% медицинских ИИ-систем обеспечивают объяснимость
принимаемых решений⁵.
Многофакторность медицинских решений
Сложность определения вклада ИИ-рекомендаций в итоговое клиническое
решение врача создает проблемы при установлении причинно-следственных связей в
случае неблагоприятных исходов. Машинное обучение в медицине требует особого
подхода к оценке его влияния на клинические результаты
7
.
Этические аспекты ответственности
Принцип автономии пациента
Пациенты должны быть информированы об использовании ИИ в их лечении и
давать согласие на такое использование. Это создает дополнительные обязанности для
медицинского персонала.
Принцип справедливости
Необходимо учитывать возможные предубеждения (bias) в ИИ-алгоритмах,
которые могут привести к дискриминации определенных групп пациентов. Этические
принципы использования ИИ в медицине требуют создания справедливых и
инклюзивных систем
8
.
Анализ национального законодательства Республики Узбекистан
Существующие нормативные акты:
1.
Закон "О здравоохранении" (2021) - содержит общие принципы ответственности
медицинских работников
2.
Закон "Об информатизации" (2021) - регулирует использование информационных
технологий
3.
Уголовный кодекс - устанавливает ответственность за халатность медицинских
работников
Выявленные пробелы:
Отсутствие специальных норм, регулирующих использование ИИ в медицине
Неопределенность
в
вопросах
ответственности
при
использовании
автоматизированных систем диагностики
Отсутствие требований к сертификации ИИ-систем для медицинского
применения
Недостаток норм, регулирующих информированное согласие при использовании
ИИ
Рекомендации по совершенствованию правовой базы
1. Законодательные инициативы:
Разработка специального закона "Об использовании искусственного интеллекта в
здравоохранении"
7
Rajkomar A., Dean J., Kohane I. (2019). Machine learning in medicine // The New England Journal of Medicine. Vol.
380(14). P. 1347-1358. DOI: 10.1056/NEJMra1814259
8
Floridi L., Cowls J., Beltrametti M., et al. (2019). AI4People—An Ethical Framework for a Good AI Society // Minds and
Machines. Vol. 29. P. 689-707. DOI: 10.1007/s11023-018-9482-5
`
128
Внесение изменений в Закон "О здравоохранении" в части регулирования ИИ-
технологий
Создание механизмов сертификации медицинских ИИ-систем
2. Подзаконные акты:
Утверждение стандартов использования ИИ в клинической практике
Разработка протоколов ответственности при использовании ИИ-технологий
Создание системы аккредитации специалистов по работе с ИИ
3. Этические рекомендации:
Разработка кодекса этики использования ИИ в медицине
Создание этических комитетов по ИИ в медицинских учреждениях
Установление принципов прозрачности и объяснимости ИИ-решений
4. Образовательные программы:
Включение вопросов правовой ответственности при использовании ИИ в
программы медицинского образования
Проведение регулярных тренингов для практикующих врачей
Создание системы непрерывного медицинского образования в области ИИ
Модель ответственности для Республики Узбекистан
Предлагаемая концепция:
1.
Принцип остаточной ответственности врача
- врач остается ответственным за
все клинические решения
2.
Градация ответственности
в зависимости от уровня автономности ИИ-системы
3.
Совместная ответственность
при использовании сложных ИИ-систем
4.
Ограничение ответственности
при соблюдении установленных протоколов
ЗАКЛЮЧЕНИЕ
Анализ правовых аспектов ответственности медицинского персонала при
использовании ИИ показывает необходимость комплексного подхода к регулированию
данной сферы. Ключевыми принципами должны стать: сохранение ответственности
врача за окончательные клинические решения, обеспечение прозрачности ИИ-
алгоритмов, защита прав пациентов и создание справедливой системы распределения
ответственности.
Для
Республики
Узбекистан
рекомендуется
разработка
специального
законодательства, регулирующего использование ИИ в медицине, с учетом
международного опыта и национальных особенностей. Особое внимание следует
уделить созданию механизмов сертификации ИИ-систем, подготовке медицинских
кадров и формированию этических стандартов использования ИИ в здравоохранении.
Успешная интеграция ИИ в медицинскую практику возможна только при наличии
четкой правовой базы, обеспечивающей баланс между инновационным развитием и
защитой прав всех участников медицинского процесса. Управление и использование
ИИ для улучшения справедливости в глобальном здравоохранении требует
комплексного подхода к регулированию
9
.
9
The Lancet Digital Health Commission. (2021). Governing and leveraging AI to improve global health equity // The
Lancet Digital Health. Vol. 3(11). P. e726-e739. DOI: 10.1016/S2589-7500(21)00145-X
`
129
References:
Используемая литература:
Foydalanilgan adabiyotlar:
1.
Deloitte Center for Health Solutions. (2023). Future of Health: AI and the transformation
of healthcare. Retrieved from: https://www2.deloitte.com/us/en/insights/industry/health-
care/artificial-intelligence-healthcare.html
2.
Floridi L., Cowls J., Beltrametti M., et al. (2019). AI4People—An Ethical Framework for a
Good AI Society // Minds and Machines. Vol. 29. P. 689-707. DOI: 10.1007/s11023-018-9482-
5
3.
World Health Organization. (2021). Ethics and governance of artificial intelligence for
health.
WHO
Guidance.
Retrieved
from:
https://www.who.int/publications/i/item/9789240029200
4.
European Commission. (2021). Proposal for a Regulation on Artificial Intelligence.
COM(2021)
206
final.
Retrieved
from:
https://eur-lex.europa.eu/legal-
content/EN/TXT/?uri=CELEX:52021PC0206
5.
U.S. Food and Drug Administration. (2023). Artificial Intelligence/Machine Learning
(AI/ML)-Based Software as a Medical Device (SaMD) Action Plan. Retrieved from:
https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-
and-machine-learning-aiml-enabled-medical-devices
6.
General Medical Council. (2022). Guidance on artificial intelligence in healthcare.
Retrieved
from:
https://www.gmc-uk.org/ethical-guidance/ethical-guidance-for-
doctors/artificial-intelligence
7.
Ghassemi M., Oakden-Rayner L., Beam A.L. (2021). The false hope of current approaches
to explainable artificial intelligence in healthcare // The Lancet Digital Health. Vol. 3(11). P.
e745-e750. DOI: 10.1016/S2589-7500(21)00208-9
8.
Keskinbora K.H. (2019). Medical ethics considerations on artificial intelligence //
Journal of Clinical Neuroscience. Vol. 64. P. 277-282. DOI: 10.1016/j.jocn.2019.03.001
9.
Rajkomar A., Dean J., Kohane I. (2019). Machine learning in medicine // The New
England Journal of Medicine. Vol. 380(14). P. 1347-1358. DOI: 10.1056/NEJMra1814259
