Правовое регулирование цифровых технологий в здравоохранении
«Об отказе в выдаче патента на изобретение» было указано на невозможность пра-
вовой охраны изобретения на основании пункта 4 статьи 1349 Гражданского ко-
декса Российской Федерации.
Заключение
. Таким образом, сложившаяся практика и фактический уста-
ревший подход в законодательстве Российской Федерации создают препятствие
для развития отечественных технологий в области здравоохранения.
Список литературы
1.
«Гражданский кодекс Российской Федерации (часть четвертая)» от
18.12.2006 № 230-ФЗ (ред. от 30.01.2024).
2.
Приказ Минздрава России от 24.11.2021 № 1094н.
3.
Эффективность создания делеции CCR5DELTA32 методом CRISPR-
CAS9 в эмбрионах человека / Т. А. Кодылева, А. О. Кириллова, Е. А. Тыщик,
В. В. Макаров, А. В. Хромов, В. А. Гущин, А. Н. Абубакиров, Д. В. Ребриков. 2018.
4.
Заключение Палаты по патентным спорам от 13.09.2023 (Приложение
к решению Роспатента от 30.10.2023 по заявке № 2021139313/10).
5.
Решение Роспатента от 20.02.2023 по заявке № 2021139313/10.
6.
Решение Суда по интеллектуальным правам от 15 июня 2020 г. по делу
№ СИП-960/2019
7.
URL:
https://www.nature.com/articles/d41586-019-01770-x
8.
URL:
https://rg.ru/2024/02/01/tajna-eto-my.html
9.
URL:
https://hightech.fm/2019/07/15/crisp-ears
10.
URL:
https://nplus1.ru/news/2020/10/07/nobel-chemistry
11.
URL:
https://www.forbes.ru/tehnologii/333985-crisprcas9-chto-znachit-
dlya-chelovechestva-perehod-ot-chteniya-genoma-k-ego
К. В. Егоров,
кандидат юридических наук, доцент,
Казанский (Приволжский) федеральный университет
ОТДЕЛЬНЫЕ ВОПРОСЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ
ИСПОЛЬЗОВАНИЯ СИСТЕМ С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ
В МЕДИЦИНЕ
Аннотация.
Статья посвящена исследованию вопросов правового регули-
рования использования технологий искусственного интеллекта (далее – ИИ) в ме-
дицине, в частности вопросам гражданско-правовой ответственности в рассмат-
риваемой области. Отмечается, что ИИ не обладает признаками правосубъектно-
сти и у пациента не возникает с ИИ правоотношений. В случаях использования
ИИ генеративного типа в телемедицине пациент должен быть проинформирован,
с чем или кем он взаимодействует, и иметь возможность общения с врачом.
Ключевые слова:
искусственный интеллект, медицина, правовое регули-
рование, пациент, врач, гражданско-правовая ответственность, имитация когни-
тивной функции
Правовое регулирование цифровых технологий в здравоохранении
SELECTED ISSUES OF LEGAL REGULATION OF THE USE OF SYSTEMS
WITH ARTIFICIAL INTELLIGENCE IN MEDICINE
Abstract.
The article is dedicated to the investigation of legal regulation
concerning the use of artificial intelligence technologies in medicine. Special attention
is given to issues of civil liability in the considered domain, imitation of cognitive
function. It is noted that AI does not have the attributes of legal personality and no legal
relationship arises between a patient and an AI system. In cases where generative AI is
used in telemedicine, the patient must be informed about what or whom they are
interacting with and have the opportunity to communicate with a doctor.
Keywords:
Artificial Intelligence, Medicine, Legal Regulation, Patient,
Physician, Civil responsibility, imitation of cognitive function
Введение.
Безопасность и эффективность клинических решений, которые
принимаются врачом с использованием новейших технологий, в конкретных об-
стоятельствах имеют значение как непосредственно для пациента, так и для об-
щества и государства в целом. Сегодня на помощь врачам приходят технологии,
имитирующие когнитивные процессы человека, в частности автоматическое рас-
познавание изображений на основе глубоко обученных компьютерных «нейрон-
ных» сетей. Такие технологии дают возможность увеличить точность суждений
в области диагностики, ускорить ее проведение, а в ряде случаев уменьшить сто-
имость исследований. Тем не менее даже будучи обученными на миллионах при-
меров «нейронные» сети не лишены недостатков в функции распознавания изоб-
ражений, допускают ошибки в интерпретациях или выдают данные, которые, не
подтверждаются данными обучения нейросети (так называемые «галлюцинации
нейросети»).
Основная часть.
В 2023 году Росздравнадзор временно остановил приме-
нение медицинской системы Botkin.AI – платформы для анализа медицинских
снимков – на предмет злокачественных новообразований в связи с угрозой причи-
нения вреда жизни и здоровью граждан [6]. В 2018 году программа Watson for
Oncology стала назначать пациентам с онкологическими заболеваниями некор-
ректные лекарства, прием которых мог угрожать здоровью [1]. К ряду вопросов,
связанных с использованием систем искусственного интеллекта (далее – СИИ),
в здравоохранении относят проблемы прозрачности, объяснимости и интерпрети-
руемости алгоритмов, предвзятости [10], недостаточной для реальной клиниче-
ской практики точности работы моделей, проблемы конфиденциальности [5, 13].
В таких обстоятельствах крайне важно создать правовые условия принятия
решений врачом, которые:
(1) максимально соответствовали бы интересам пациента;
(2) обеспечивали юридическую безопасность врача;
(3) не препятствовали разумному развитию технологий;
(4) были экономически рациональными.
Какие здесь можно предложить деонтологически обоснованные и одновре-
менно прагматически обусловленные подходы к правовому регулированию при-
нятия лечебных решений с использованием СИИ? Будучи ограниченными объе-
мом настоящей публикации, мы остановимся всего на двух аспектах:
Правовое регулирование цифровых технологий в здравоохранении
(1) вопрос взаимодействия пациента, врача и СИИ;
(2) вопрос гражданско-правовой ответственности в отношениях, в которых
используется СИИ в сфере медицины.
В настоящий момент уровень СИИ генеративного типа, имитирующий диа-
лог, не позволяет обычным способом отличить человека от программы. Человеку
важно знать, кто или что с ним взаимодействует для того, чтобы принимать осо-
знанное решение о содержании или, в принципе, возможности продолжения вза-
имодействия, в этой связи мы полагаем, что:
1.
В ситуациях непосредственного взаимодействия пациента с приложени-
ями (программами ЭВМ), как, например, в мобильных приложениях при оценке
фотоизображений новообразований [7] или в сети «Интернет», пользователю-па-
циенту должно быть очевидно, с кем он взаимодействует (СИИ, врач-эксперт, ме-
дицинская организация, информационный посредник, агрегатор), кто оказывает
услугу (разработчик, правообладатель ПО, агрегатор, медицинская организация
или врач-эксперт), что это за услуга (неисключительное использование ПО, ин-
формационная услуга, медицинская услуга, посредничество) и кто будет отвечать
за ее недостатки. Нормативные требования о правосубъектности к таким лицам
должны быть адресными и устанавливать соответствующие требования об инфор-
мировании пользователя и его гарантиях качества услуги;
2.
Пользователю-пациенту должно быть очевидно, с чем или кем он взаи-
модействует в каждый момент времени с человеком или программой ЭВМ (ИИ,
робот и т. д.). Это требование, на наш взгляд, касается не только медицинских си-
стем СИИ, но и всех сценариев взаимодействия человека с информационными си-
стемами. Рекомендации об этических аспектах искусственного интеллекта ЮНЕ-
СКО 2021 г. [8] содержат аналогичный подход: «Государствам-членам следует
обеспечивать пользователям возможность быстро понять, взаимодействуют ли
они с живым существом или с ИИ-системой, имитирующей качества человека или
животного, а также возможность пользователей отказаться от взаимодействия
с ИИ-системой и попросить о вмешательстве человека» (п. 127).
Согласно статье 20 Федерального закона от 21.11.2011 № 323-ФЗ (ред. от
13.06.2023) «Об основах охраны здоровья граждан в Российской Федерации» (да-
лее – ФЗ № 323-ФЗ) [9] необходимым предварительным условием медицинского
вмешательства является добровольное информированное согласие (ДИС) гражда-
нина или его законного представителя на медицинское вмешательство на основа-
нии предоставленной медицинским работником в доступной форме полной ин-
формации о целях,
методах оказания медицинской помощи,
связанном с ними
риске,
возможных вариантах медицинского вмешательства,
о его послед-
ствиях, а также
о предполагаемых результатах оказания медицинской по-
мощи.
Таким образом, пациент непосредственно вовлечен в процесс принятия ре-
шения о вмешательстве в его здоровье.
Заметим, что
закон формально не связывает врача при выборе возмож-
ных вариантов медицинского вмешательства
ни объемами помощи в рамках
программ государственных гарантий, ни технологическими возможностями кон-
кретной медицинской организации, ни современными возможностями медицины.
Тем не менее,
границы возможных вариантов медицинского вмешательства
Правовое регулирование цифровых технологий в здравоохранении
конкретным врачом, очевидно, обусловлены техническими и экономиче-
скими возможностями
медицинской организации.
Здесь мы сталкиваемся с довольно сложным этическим и экономическим
вопросом “При формальном соответствии медицинской организации и действий
врача требованиям закона, следует ли врачу врачу при разъяснении пациенту воз-
можных вариантов медицинского вмешательства ограничиться таким вариантом,
который лежит в пределах и формально соответствует клинической рекоменда-
ции, техническим и экономическим возможностям медицинской организации?»
Вопрос, безусловно, вызывает к жизни массу глубоких пластов и экономического,
и юридического, и деонтологического плана. В связи с этим мы полагаем важным
высказаться о принципиальных, на наш взгляд, позициях в регулировании рас-
сматриваемых отношений:
1.
В объем разъяснения (ИДС) должны входить технологические возмож-
ности исполнителя, не только в части возможности использования СИИ, но и во-
обще об уровне технической оснащенности медицинской организации.
2.
В объем разъяснений пациенту должны входить сведения не только об
объеме медицинской помощи в рамках финансирования по ОМС, но и иных со-
временных возможностях медицины, которые могут быть оплачены из других ис-
точников.
Что касается вопроса, должно ли в объем ИДС входить согласие на исполь-
зование СИИ для целей установления диагноза и назначения лечения, то нам пред-
ставляется, что этот вопрос не актуален, пока в процесс принятия клинического
решения вовлечен врач-человек.
СИИ не является субъектом принятия решения.
Пункт 3.18 ГОСТ Р
59277-2020 «Системы искусственного интеллекта. Классификация систем искус-
ственного интеллекта» содержит определение ПО с системами искусственного
интеллекта. По определению в этом стандарте, искусственный интеллект пред-
ставляет собой комплекс технологических решений, имитирующий когнитивные
функции человека и способный решать задачи обработки данных, сопоставимо с
результатами умственной деятельности человека. Система искусственного интел-
лекта (artificial intelligence system) – это программное обеспечение, в котором ис-
пользуются технологические решения искусственного интеллекта. Последний
представляет собой комплекс технологических решений, позволяющий имитиро-
вать когнитивные функции человека (включая самообучение, поиск решений без
заранее заданного алгоритма и достижение инсайта) и получать при выполнении
конкретных практически значимых задач обработки данных результаты, сопоста-
вимые как минимум с результатами интеллектуальной деятельности человека.
Комплекс технологических решений включает в себя информационно-коммуни-
кационную инфраструктуру, программное обеспечение (в том числе в котором ис-
пользуются методы машинного обучения), процессы и сервисы по обработке дан-
ных, анализу и синтезу решений [пункт 3.18 ГОСТ Р 59277-2020].
СИИ, определенно, не принимает никаких решений, не является субъектом
правоотношений и представляет собой в гражданско-правовом смысле, с одной
стороны, вещь, с другой – программу для ЭВМ применительно к медицине, как
это будет показано ниже, являющиеся источником повышенной опасности. При
отсутствии воли и интереса невозможно говорить о какой-либо субъектности ИИ
Правовое регулирование цифровых технологий в здравоохранении
[4]. Имитация когнитивной функции человека по распознаванию изображений ни-
чего в правовой сущности СИИ не меняет.
Гражданско-правовая ответственность.
Как указано выше, мы исклю-
чаем рассуждения в отношении правосубъектности ИИ, как следствие, отказы-
ваем ИИ в деликтоспособности (способности нести юридическую ответствен-
ность), в том числе по моделям квазисубъектов, рассматриваемые некоторым ко-
личеством последователей трансгуманизма [15]. При таком подходе вопрос юри-
дической ответственности при использовании СИИ в медицинской практике пред-
ставляется авторам достаточно определенным. Рассмотрим этот вопрос в контек-
сте ответственности за ущерб, причиненный в результате функционирования
СИИ.
Основаниями для наступления гражданско-правовой ответственности тра-
диционно считают наличие вреда, противоправность действий причинителя вреда
и вина последнего либо нарушение субъективного гражданского права, медицин-
ская сфера не является исключением. В предыдущих работах нами рассматри-
вался этот вопрос [3], поэтому считаем возможным не останавливаться на нем по-
дробно. Когда речь идет о причинении вреда здоровью в процессе оказания меди-
цинской помощи, как правило, пациента следует считать потребителем, подроб-
ное обоснование такого подхода неоднократно приводилось в специальной лите-
ратуре [3]. Как следствие, ответственность за такой вред жизни или здоровью
наступает независимо от их вины и от того, состоял пациент с исполнителем в до-
говорных отношениях или нет (статья 1905 ГК РФ).
Приказ Минздрава России от 06.06.2012 № 4н утверждает классификацию
программного обеспечения, которое является медицинским изделием, по классам
в зависимости от потенциального риска их применения. Все российское ПО, со-
зданное с применением технологий ИИ, относится к классу 3 потенциального
риска – медицинские изделия с высокой степенью риска. Как следствие, мы не
разделяем точку зрения отдельных авторов [14] о том, что статус медицинских
СИИ в качестве источника повышенной опасности не определен. СИИ могут быть
источником повышенной опасности с точки зрения статей 1100 и 1079 ГК РФ. Но
поскольку практическим правовым последствием такой квалификации будет от-
ветственность без вины (так же как и в силу статьи 1905 ГК РФ), особой практи-
ческой значимости в рассмотрении данного вопроса мы не видим.
Главными, с нашей точки зрения, вопросами гражданско-правовой ответ-
ственности в рассматриваемых правоотношениях будет вопрос субъекта ответ-
ственности и противоправности его поведения. При этом мы не рассматриваем
вред, причиненный правомерными действиями врача при наличии ДИС пациента,
так как этому посвящены наши предыдущие исследования [3]. Очевидно, что вред
может быть причинен как недостатками аппаратной и программной части СИИ
или врачом. В тех случаях, когда пациент использует СИИ без участия врача, как
в приведенных выше примерах, формально-юридически он пациентом не явля-
ется. В тех случаях, когда такое взаимодействие пользователя с СИИ стало причи-
ной причинения вреда здоровью важным будет ответить на вопрос есть ли проти-
воправность в действиях или бездействиях разработчика, правообладателя, агре-
гатора, информационного посредника или пользователя.
Правовое регулирование цифровых технологий в здравоохранении
Что же касается медицинского применения СИИ при оказании медицинской
помощи, то в этом случае по обязательствам из причинения вреда будет отвечать
Исполнитель медицинской услуги (статьи 402, 1095 ГК РФ), которым, как пра-
вило, является медицинская организация. У последней в силу регресса (статья
1081 ГК РФ) может возникнуть право требования к врачу, допустившему право-
нарушение. Даже в тех случаях, когда вред пациенту причинен неисправностями
аппаратной части СИИ, ошибками программной части и(или) лицами, проводив-
шими обучение нейросети, переложить на них ответственность перед пациентом
у медицинской организации нет возможности, разве что впоследствии использо-
вать право регресса к неисправным разработчикам, посредникам, агрегаторам, ли-
цензиатам и т. д.
Что же может считаться противоправным со стороны врача, который ис-
пользует СИИ при принятии решения о постановке диагноза и(или) выборе так-
тики последующего решения (например, выбирая между хирургией, химиотера-
пией или радиотерапией)? Как было указано выше, на сегодняшний день в поряд-
ках, положениях, стандартах и клинических рекомендациях (статья 37 ФЗ №323-
ФЗ) не содержатся указания о порядке применения СИИ. Но это не означает, что
объективного права на этот счет не существует. Во-первых, СИИ в качестве меди-
цинских изделий и программных продуктов медицинского назначения имеют
вполне определенный порядок введения в оборот, настройки и использования –
как на уровне государственных стандартов, так и на уровне инструкций по их ис-
пользованию. Во-вторых, в настоящее время активно складывается практика
обычного применения СИИ, которая в силу ст. 5 ГК РФ может стать источником
права, относительно которого можно судить о правомерности или противоправно-
сти действий или бездействия врача. Тем не менее обычное регулирование, разу-
меется, не может полноценно компенсировать отсутствие нормативного, закреп-
ленного в положениях, порядках и(или) клинических рекомендациях. В связи
с этим мы полагаем, что до появления соответствующего регулирования врачу
следует исходить из презумпции недоверия выводам СИИ.
Авторы понимают, что недопустимость использования СИИ в медицинской
практике без участия врача, а также введение презумпции недоверия СИИ до по-
явления объективных норм права, регулирующих соответствующие отношения,
могут повлиять на сдерживание развития СИИ в сфере медицины. Тем не менее
на сегодняшний день такие предложения являются объективно обусловленными
необходимостью безопасного использования СИИ для пациентов и могут быть пе-
ресмотрены в будущем при появлении достаточной эмпирической базы, свиде-
тельствующей об отсутствии ошибок и других недостатков использования СИИ,
о которых упоминалось выше.
Заключение
. Мы полагаем, что до появления достаточных, обоснованных
данных о надежности СИИ и появления нормативной базы применения СИИ
в обычной медицинской практике не допускается использование выводов, полу-
ченных с использованием СИИ без их интерпретации врачом и(или) консилиумом
соответствующей медицинской специальности. При этом для целей избежания ко-
гнитивных искажений (предвзятость суждений в силу эффекта прайминга и(или)
эффекта привязки) врач должен интерпретировать данные объективного обследо-
Правовое регулирование цифровых технологий в здравоохранении
вания до ознакомления с выводами СИИ, и в случае расхождений принять реше-
ние самостоятельно или прибегнув к созыву консилиума. То же справедливо и для
случаев, когда оценка клинической картины изначально производится группой
врачей, людям следует сделать самостоятельную интерпретацию клинической
картины до ознакомления с данными СИИ.
С кем правоотношение у пациента?
Пользователю-пациенту при само-
стоятельном использовании приложений, связанных со сбором, оценкой и интер-
претацией его анамнеза и клинической картины, должно быть очевидно, с каким
субъектом (правообладатель программы ЭВМ, лицензиат, агрегатор, информаци-
онный посредник, медицинская организация) он взаимодействует, кто оказывает
услугу, и кто будет отвечать за ее недостатки. Нормативные требования к такому
лицу должны быть адресными и должны быть закреплены как минимум на уровне
приказа Минздрава России от 30.11.2017 № 965н.
С кем или чем общается пациент?
В случаях удаленного взаимодействия
пользователю-пациенту должно быть очевидно в каждый момент времени взаи-
модействует он с человеком или ПО имитирующей когнитивную и коммуникатив-
ную функцию человека, а также возможность потребовать участия человека в ком-
муникации. Такое требование может быть так же учтено на уровне Приказа Мин-
здрава России.
Пациент должен знать о больших, чем предлагает программа госгаран-
тий, возможностях медицины.
С учетом развития технологий и медицинской
науки, мы полагаем, что объем информирования пациента в настоящий момент,
должен включать как минимум два дополнительных блока информации: (1)
В объем информации, предоставляемой пациенту для целей добровольного согла-
сия на оказание медицинской помощи, должны входить технологические возмож-
ности исполнителя не только в части возможности использования СИИ, но и во-
обще в части технической оснащенности конкретной медицинской организации.
(2) В объем разъяснений пациенту должны входить сведения не только об объеме
финансирования медицинской помощи по ОМС, но и о современных возможно-
стях медицины, которые могут быть оплачены из других источников (личных
средств пациента, средств работодатели или в рамках ДМС).
Список литературы
1.
Spitzer J. IBM's Watson recommended 'unsafe and incorrect' cancer
treatments, STAT report finds. URL:
https://www.beckershospitalreview.com/artificial-
intelligence/ibm-s-watson-recommended-unsafe-and-in-correct-cancer-treatments-stat-
report-finds.html
(дата обращения: 12.07.2024).
2.
Егоров К. В. Правомерный вред в медицине. М.: Статут, 2011.
3.
Егоров К.В. Вред как условие деликтной ответственности в сфере меди-
цинской деятельности // Практическая медицина. 2006. № 2(16). С. 37–38.
4.
Зорькин В. Д. Право и вызовы искусственного интеллекта // Российская
газета. 2024. № 9382. Полный текст лекции на сайте Российской Газеты
https://rg.ru/2024/06/27/pravo-i-vyzovy-iskusstvennogo-intellekta.html
(дата обраще-
ния: 12.07.2024).
Правовое регулирование цифровых технологий в здравоохранении
5.
Искусственный интеллект в медицине. Как умные технологии меняют
подход к лечению / Э. Тополь; пер. с англ. А. Анваер. М.: Альпина Паблишер, 2022.
398 с.
6.
Патологически беспомощный интеллект // Коммерсантъ. 2023. № 216,
21 ноября.
7.
Приложение «ПроРодинки 2.0». URL:
https://prorodinki.ru
(дата обраще-
ния: 22.08.2024).
8.
Рекомендации об этических аспектах искусственного интеллекта ЮНЕ-
СКО 2021 г. URL:
https://unesdoc.unesco.org/ark:/48223/pf0000380455_rus
(дата об-
ращения: 22.08.2024).
9.
Об основах охраны здоровья граждан в Российской Федерации: Феде-
ральный закон от 21.11.2011 № 323-ФЗ (ред. от 13.06.2023) // Собрание законода-
тельства РФ. 2011. № 48. Cт. 6724.
10.
Тютчева Е. С. Правосубъектность «электронного лица»: теоретический
анализ // Теоретическая и прикладная юриспруденция». 2022. № 2(12). С. 50–58.
11.
Ужов Ф. В. Искусственный интеллект как субъект права // Пробелы
в российском законодательстве. 2017. № 3. С. 357–360.
12.
Харитонова Ю.С., Савина В.С., Паньини Ф. Предвзятость алгоритмов
искусственного интеллекта: вопросы этики и права // Вестник Пермского универ-
ситета. Юридические науки. 2021. № 3. С. 488–515.
13.
Шутова А. А. Этический кодекс субъектов, осуществляющих деятель-
ность по созданию, применению и утилизации медицинских изделий на основе
технологий искусственного интеллекта / А. А. Шутова, И. Р. Бегишев // Цифровые
технологии и право: cборник научных трудов II Международной научно-практи-
ческой конференции: в 6 томах, Казань, 22 сентября 2023 года. Казань: Изд-во
«Познание», 2023. С. 441–447. EDN: EFUNKM
14.
Юхнова Ю. И. Искусственный интеллект и роботы в медицине: проблема
ответственности за причинение вреда пациентам // Юрист. 2023. № 1. С. 21–26.
15.
Ястребов О. А. Правосубъектность электронного лица: теоретико-мето-
дологические подходы // Труды Института государства и права РАН. 2018. Т. 13,
№ 2. С. 36–55.
О. С. Ерахтина,
кандидат юридических наук, доцент,
Национальный исследовательский университет
«Высшая школа экономики»
К ВОПРОСУ О РАСПРЕДЕЛЕНИИ ОТВЕТСТВЕННОСТИ ЗА ВРЕД
ЗДОРОВЬЮ ПАЦИЕНТА, НАСТУПИВШИЙ В РЕЗУЛЬТАТЕ
ПРИМЕНЕНИЯ СИСТЕМ ПОДДЕРЖКИ ПРИНЯТИЯ
ВРАЧЕБНЫХ РЕШЕНИЙ
Аннотация.
В статье исследуется проблема распределения гражданско-
правовой ответственности за вред здоровью пациента, наступивший в результате
применения систем диагностики и поддержки принятия врачебных решений при
оказании медицинской помощи. Автор приходит к выводу о том, что применение
