Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
141
7. Четверикова О. Н. Цифровая приватизация власти. Как «бизнес-экосисте-
мы» вытесняют государство // Свободная мысль. 2021. № 2(1686). С. 25-42.
8. Foucault M. Surveiller et punir: naissance de la prison. P.: Gallimard, 1975. 318 p.
9. Frei R. The Seven-Step Path from Pandemic to Totalitarianism. URL: https://
off-guardian.org/2020/04/23/the-seven-step-path-from-pandemic-to-totalitarianism
А. А. Беляева,
студент,
Санкт-Петербургский государственный университет
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И МАТЕМАТИЧЕСКИЕ
МЕТОДЫ В МЕДИЦИНСКОЙ ДИАГНОСТИКЕ:
ПРЕИМУЩЕСТВА И РИСКИ АВТОМАТИЗИРОВАННОГО
АНАЛИЗА МЕДИЦИНСКИХ ИЗОБРАЖЕНИЙ
Аннотация.
Цель данной работы состоит в выявлении преимуществ и не-
достатков двух подходов к автоматизированной диагностике заболеваний по дан-
ным медицинских изображений: при помощи математических методов анализа
и технологии искусственного интеллекта. В статье обозначены проблемы, кото-
рые могут сопутствовать внедрению технологий автоматизированной диагности-
ки в будущем, и вопрос о субъекте юридической ответственности за возникающие
подобным образом медицинские ошибки. Рассматриваемая проблема становится
все более актуальной ввиду активного развития технологии искусственного ин-
теллекта и совершенствования математических методов анализа изображений.
Ключевые слова:
искусственный интеллект, математические методы анали-
за, анализ изображений, медицинская диагностика, юридическая ответственность,
медицинская ошибка, преобразование изображений, автоматизация диагностики
ARTIFICIAL INTELLIGENCE AND MATHEMATICAL
METHODS IN MEDICAL DIAGNOSTICS: ADVANTAGES AND RISKS OF
METHODS OF MEDICAL IMAGES AUTOMATED ANALYSIS
Abstract.
The article objective is to identify the advantages and drawbacks of the
two approaches to automated diagnostics of diseases by the data of medical images: with
the help of mathematical methods of analysis and artificial intelligence technologies. The
author also considers the problems which may accompany the introduction of automated
diagnostics technologies in the future, as well as the issue of a subject of legal liability for
medical errors which may occur. The issue under study becomes increasingly relevant
due to the intensive development of artificial intelligence technologies and improved
mathematical methods of image analysis.
Keywords
:
artificial intelligence, mathematical methods of analysis, analysis
of images, medical diagnostics, legal liability, medical error, image transformation,
diagnostics automation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
142
Задача автоматизированной диагностики по данным медицинских изображе-
ний далека от своего разрешения. В данный момент актуальны вопросы, связан-
ные с внедрением технологий автоматизированной диагностики, их функциони-
рованием и последствиями возможных ошибок. В данной статье рассматривается
применение традиционных математических методов анализа при автоматизиро-
ванной диагностике по изображениям, предоставленным медицинским учрежде-
нием [2], а также применение анализа этих изображений при помощи технологии
искусственного интеллекта. Необходимо сравнить эти способы диагностики как
с точки зрения их функциональности и точности, так и в аспекте минимизации
ошибок при оценке медицинских изображений. Актуальным является также ре-
шение вопроса о субъекте юридической ответственности за возможные меди-
цинские ошибки, связанные с применением технологий автоматизированной
диагностики.
В статьях, затрагивающих тему автоматизированной диагностики по дан-
ным медицинских изображений, авторы, как правило, рассматривают техноло-
гию искусственного интеллекта как основной инструмент для анализа изобра-
жения и постановки диагноза. Однако стоит помнить, что эта технология, при
впечатляющей точности и скорости работы, имеет ряд недостатков, которые сто-
ит учитывать, в особенности тогда, когда речь идет об оказании медицинской
помощи. Процесс принятия решений искусственным интеллектом непрозрачен,
что создает определенные сложности, когда речь заходит о выявлении и исправ-
лении ошибок. Другими словами, если алгоритм, обученный на тестовом наборе
изображений (рис. 1), поставит неверный диагноз, будет практически невозмож-
но проанализировать его досконально, выявить и исправить ошибку, тем самым
исключая повторение случившегося. Исключить же риск ошибки искусственно-
го интеллекта невозможно, даже используя самую совершенную архитектуру из
существующих. Хотя технология и сводит риск неверной постановки диагноза
к минимуму, нельзя полностью исключить его, если полагаться только на реше-
ния искусственного интеллекта. Разумеется, врачи должны перепроверять диа-
гноз, поставленный автоматически, но предпочтительнее было бы иметь возмож-
ность влиять на вероятность ошибки алгоритма для дальнейшей минимизации
этой вероятности.
Преимущество математических методов анализа перед алгоритмами машин-
ного обучения состоит в том, что при их применении не возникает необходимости
использования сверточных сетей. Это позволяет сохранить б
о
льшую прозрачность
преобразований данных. Помимо описанного выше контроля в вопросе пониже-
ния вероятности ошибки алгоритма, это облегчает обучение молодых специали-
стов, которые будут применять эту технологию в дальнейшем, а также упрощает
поиск ошибок в процессе технической реализации метода и путей его дальнейшей
модификации.
При применении математических методов, как правило, не производится пре-
образование исходного изображения, за исключением алгоритма Лукаса-Канаде,
для применения которого может быть необходимо уменьшить разрешение изо-
бражения, если сдвиг объекта на двух смежных снимках был слишком большим.
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
143
Исходное изображение также может быть преобразовано при применении ком-
плекса методов. Одно из самых часто используемых преобразований – это филь-
трация от шумов. Однако фильтрация от шумов применяется и при визуальном
анализе специалистом полученной от приборов информации, то есть без исполь-
зования прочих алгоритмов, упрощающих его работу.
Рис. 1. Тестовый набор изображений, имитирующих МРТ снимки мозга.
Сгенерирован нейронной сетью
Таким образом, необработанные изображения, как правило, не подверга-
ются преобразованию в процессе анализа при помощи математических методов,
однако при использовании некоторых алгоритмов рекомендуется предварительно
сохранять изображения для использования по мере необходимости проверки по-
лученных результатов. Также рекомендуется применять алгоритм на анализируе-
мых изображениях, содержащих и не содержащих шумы. Если вследствие этого
для одного и того же снимка получены противоречивые результаты, у специалиста
остается возможность оценить воздействие шумов на результаты анализа, исполь-
зуя тот же алгоритм. Подавая в качестве входного изображения оптические по-
токи, полученные в результате работы алгоритма и однозначно преобразованные
в цветные изображения (рис. 2) [5], можно получить на выходе оптический по-
ток, визуализирующий степень и локализацию устраненной зашумленности. Если
в интересующей специалиста области были выявлены и устранены значительные
шумы, это может повысить риск неверной интерпретации полученных результа-
тов как автоматическими, так и иными методами.
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
144
Рис. 2. Схема цветового кодирования векторного поля
При использовании же искусственного интеллекта изображение неизбежно
преобразуется, оно подвергается свертке и развертке, как правило, каждая опе-
рация производится несколько раз. Конкретный процесс преобразования изобра-
жения зависит от используемой архитектуры нейронной сети. Промежуточные
результаты преобразований конкретного изображения не выводятся пользовате-
лю, а если бы они и были доступны, их использование не позволило бы сделать
какой-либо вывод о работе сети и локализации в ней конкретной ошибки.
Разумеется, абсолютно избавиться от рисков неверной интерпретации дан-
ных, полученных при анализе медицинских изображений, на данный момент не-
возможно, какой бы метод ни использовался. Однако существуют исследования,
направленные на упрощение оценки пользователем рисков каждого отдельного
проведенного анализа, а также на автоматизацию минимизации рисков, возника-
ющих при использовании стандартных алгоритмов машинного обучения для при-
нятия решений [4].
Особенно остро эта проблема встает, когда речь идет об автоматизации де-
ятельности профессионалов медицинской сферы. С одной стороны, скорость
диагностики может играть решающую роль при лечении опасных заболеваний,
а автоматизация позволит не только ускорить выявление болезней, но и будет спо-
собствовать их распознаванию на ранних стадиях или при наличии комплекса за-
болеваний. С другой стороны, предвзятость специалиста по отношению к автома-
тической диагностике может повысить шансы принятия ошибочного решения при
использовании автоматического анализа данных, полученных от медицинских
приборов. Избыток доверия к результатам работы подобных алгоритмов потенци-
ально может привести к игнорированию специалистом прочих факторов, сигнали-
зирующих об ошибочности результатов, полученных автоматически.
Также некоторые авторы [3] высказывают опасения, что автоматизация при-
нятия решений по вопросам медицинской диагностики может в долгосрочной
перспективе привести к дефициту квалифицированных специалистов в медицин-
Мультидисциплинарные (неюридические) аспекты цифровой трансформации
Multidisciplinary (Non-Legal) Aspects оf Digital Transformation
145
ской сфере. Это, в свою очередь, повлечет за собой снижение качества контроля
результатов автоматической диагностики и приблизит вероятность ошибочного
медицинского заключения к вероятности ошибки автоматической системы диа-
гностики, что было бы нежелательно.
Ослабление контроля над результатами автоматической диагностики ри-
скованно не только по причине усиления угрозы жизни и здоровью пациента, но
и в разрезе негативных последствий для медицинского учреждения и, возможно,
создателя недостаточно надежного алгоритма. Несмотря на то, что остается откры-
тым вопрос, кто и какую гражданско-правовую ответственность должен понести
за вред, причиненный пациенту при использовании автоматической медицинской
диагностики [1], в первую очередь ущерб, нанесенный пациенту, возмещается
медицинской организацией. Однако в дальнейшем, в зависимости от того, была
ли автоматическая система зарегистрирована как медицинское изделие или нет,
а также от того, был ли неверный диагноз поставлен вследствие ошибки системы
или же по вине использовавшего ее специалиста, медицинская организация может
предъявить иск разработчику системы.
Риск подобных юридических последствий может, в свою очередь, ограни-
чить количество IT-специалистов, разрабатывающих системы автоматической
диагностики по медицинским изображениям, и замедлить развитие технологий
в данной области.
Таким образом, технология искусственного интеллекта и математические
методы анализа изображений открывают широкие перспективы для внедрения
системы автоматизированной диагностики заболеваний по данным медицинских
изображений, однако потребность в квалифицированных медицинских специали-
стах останется, поскольку существуют технические ограничения на минимиза-
цию рисков ошибочной диагностики.
Список литературы
1. Варюшин М. С. Правовой режим технологий искусственного интеллекта,
применяемых в телемедицине // Российский журнал телемедицины и электронного
здравоохранения. 2021. № 7(2). С. 18-22.
2. Kotina E., Bazhanov P. and Ovsyannikov D. Optimization Method of the Velocity
Field Determination for Tomographic Images // Stability and Control Processes. Springer
Nature. 2022. Pp. 723-729.
3. Neri E., Coppola F., Miele V. et al. Artificial intelligence: Who is responsible for the
diagnosis? // Radiol med. 2020. Vol. 125. Pр. 517-521.
4. Philip S. Thomas, Bruno Castro Da Silva, Andrew G. Barto, Stephen Giguere,
Yuriy Brun, and Emma Brunskill. Preventing undesirable behavior of intelligent machines
// Science. 2019. Vol. 366. Pр. 999-1004.
5. Scraper. Генерация оптического потока с использованием реализации NVIDIA
flownet2-pytorch. URL: https://machinelearningmastery.ru
