Искусственный интеллект и врачебная тайна: как в интернете нарушается конфиденциальность пациентов

• КУННУЕВА Умузахи Магомедовнаобучающаяся первого курса, очной формы обучения, лечебного факультета, ФГБОУ ВО «Дагестанский государственный медицинский университет» Министерства здравоохранения Российской Федерацииuma.kunnuyeva@mail.ru
• ХИЗРИЕВА Мадина Мусаевнаобучающаяся первого курса, очной формы обучения, лечебного факультета, ФГБОУ ВО «Дагестанский государственный медицинский университет» Министерства здравоохранения Российской Федерацииmadina.khizrieva13@gmail.com

• ГАДЖИМАГОМЕДОВА Шумайсат Солеймановнастарший преподаватель кафедры «Философия и гуманитарные дисциплины» ФГБОУ ВО «Дагестанский государственный медицинский университет», Соруководители:mail@law-books.ru
• ХАЛИКОВ Абдулхалик Султансаидовичкандидат философских наук, доцент кафедры «Философия и гуманитарные дисциплины» ФГБОУ ВО «Дагестанский государственный медицинский университет»mail@law-books.ru
• ПАШАЕВА Аида Магомедхановнаврач-кардиологmail@law-books.ru

Интенсивное развитие нейронных сетей повлекло за собой глобальные трансформации всех сфер жизни, в том числе медицины и права. И специалисты-медработники, и пациенты убеждены в многообещающем потенциале искусственного интеллекта: применение нейросетей в научных исследованиях и телемедицинских консультациях было признано чрезвычайно эффективным. Однако материалы для обучения ИИ, как и механизмы его функционирования, вызывают множество споров в обществе. Ставится под вопрос этичность использования конфиденциальной информации для получения знаний нейросетью, а зафиксированные случаи утечек данных поспособствовали эксплуатации уязвимостей интернет-систем злоумышленниками. Цель: выявление «слабых мест» в области ИИ-права, анализ нынешней Конституции РФ и законов о нейронных сетях, выдвижение способов повышения безопасности использования и обучения ИИ. Материалы и методы: системный анализ открытых литературных источников и исследований, сведений из авторитетных медиа-изданий, последующий синтез полученной информации. Результаты: формулирование методов повышения безопасности при использовании ИИ в здравоохранении. Заключение: составленные в ходе изучения темы рекомендации могут стать ценным материалом для последующих правовых изменений относительно применения нейронных сетей и их обучения.

Ключевые слова: искусственный интеллект, интернет медицинских вещей, врачебная тайна, защита данных, частная жизнь, биоэтика, право

Искусственный интеллект (далее ИИ) по праву можно признать самой выдающейся инновацией первых двух десятилетий 21 века. Современные нейронные сети, не являясь искусственным сознанием в истинном смысле данного слова, представляют собой языковые модели, обученные понимать и распознавать смыслы слов, а также генерировать текст самостоятельно, основываясь на изученных материалах. На сегодняшний день ИИ активно применяется во всех возможных отраслях жизни и прогрессирует с огромной скоростью, формируя все более логичные и сложные по своей структуре рассуждения.

Тем не менее, у ИИ, как относительно новой разработки, существует множество уязвимостей. Его внедрение создает риски утечек информации и неправомерного использования деятельности нейросети, а также неспособность государства призвать к ответственности людей, создающих контент, противоречащий Конституции УК РФ. Являясь полезным инструментом для медработников, ИИ способен создать угрозу раскрытия сведений, составляющих врачебную тайну отдельных пациентов, что весьма опасно для социума в связи с нарушением врачебной этики, без которой медицинская практика невозможна на законодательном уровне. [1] Целью данной статьи явилось изучение правовых нюансов взаимодействия с нейронными сетями в данный момент, в рамках действующего на территории Москвы123-ФЗ, и теоретизирование о будущем искусственного интеллекта в России после вступления в силу законопроекта «Об основах государственного регулирования применения технологий искусственного интеллекта» в 2027 году и предложение возможных решений для создания безопасной информационной среды для врачей и пациентов.[2] Наиболее важным аспектом данного вопроса является защита данных, недопущение их распространения вне медицинских систем и надежная охрана информационных здравоохранительных структур.

Для формулирования идей по правовому регулированию искусственного интеллекта в медицинской сфере следует ознакомиться с опытом других государств и обратить внимание на принятые там меры и законы.

В данный момент конституции многих стран мира претерпевают значительные изменения в связи с возникновением ИИ. Всемирная организация здравоохранения в 2021 году выпустила «Руководство по этике и управлению ИИ в здравоохранении», согласно которому законы о применении нейросетей обязаны придерживаться принципов защита автономии человека, обеспечения благополучия и безопасности, прозрачности, ответственности и социального равенства. [3] В США была разработана концепция «программного обеспечения в роли медицинского устройства» (SaMD). Суть этой концепции состоит в необходимости сертифицировать агентов искусственного интеллекта аналогичным сертификации медицинского оборудования и услуг образом. [4] В Европейском Союзе был представлен законопроект «Регламент об ИИ» (AI Act), ранжирующий системы нейронных сетей по уровню опасности: чем он выше, тем строже должен вестись мониторинг действий искусственного интеллекта, тем прозрачнее должно быть его устройство. [5] В России правовое регулирование ИИ в медицине только начинает развиваться. 18 марта 2026 года впервые был опубликован проект ФЗ «Об основах государственного регулирования применения технологий искусственного интеллекта». В нем устанавливаются следующие требования к разработке и машинному обучению:

–Обязательная маркировка ИИ-контента (фотографий, текста, видео) при публикации в интернете; –Каждый участник взаимоотношения с искусственным интеллектом в случае генерации нарушающих закон материалов понесет наказание соразмерное своей вине в создании контента; –Разработчикам дозволено использовать защищенные авторским правом объекты без разрешения от непосредственного правообладателя в случае, если разработчик обладает законным доступом к объекту. [6] Безусловно, законопроект еще будет доработан и откорректирован, поскольку в текущей версии не учитываются многие детали. К примеру, защита прав пациентов, ставшая причиной написания данной статьи, совершенно не освещена, несмотря на масштабные инциденты кражи приватной жизненно-важной информации:

киберпреступникам, получившим доступ к исходному коду нейросети, открываются огромные базы данных, собранных со всей мировой сети и включающих в себя секретную документацию вместе с персональной информацией госпиталей, поликлиник и прочих медицинских учреждений. [7] Данные собираются даже из трекеров самочувствия, приложений для диабетиков и перехватываются с серверов радио- и видеонянь. ИИ облегчает планирование фишинг-схем, подбор паролей и поиск «уязвимостей нулевого дня» (т.е. ненадежные фрагменты программы, обнаруженные злоумышленниками сразу после релиза приложения; более того, ограничения и правила нейросетей можно обходить с помощью специальных «промптов» (указаний), в которые хакер может вложить инструкции правонарушения или добиться изъятия необходимой ему информации. [8] Всем этим атакам в первую очередь подвергается Интернет медицинских вещей. Самые часто атакуемые устройства – это инфузионные насосы, аппараты КТ и МРТ, устройства для мониторинга состояния пациента и медицинские рабочие станции.

Среди последствий кибератак – задержки в проведении анализов и процедур, о чем сообщили 56% организаций, увеличение числа осложнений после процедур (53%), продолжительности пребывания пациентов (52%), числа переводов пациентов (44%) и даже более высокие показатели смертности (28%). [9] Каким же образом можно обезопасить сферу здравоохранения и нивелировать негативные последствия использования ИИ?

В ходе изучения норм нейросетевого права разных стран, обзоров расследований кибер-инцидентов и нынешних стратегий цифрового развития РФ нами были выдвинуты следующие предложения:

–Создание отечественных агентов искусственного интеллекта специально для медицинских организаций, надежно защищенные и существующие в замкнутой интернет-сети здания соответствущих организаций; –Разработка доктрины «Разделенная солидарная ответственность», предлагающая разделение субъектов медицинской помощи на медицинского оператора (клинику) и инфраструктурно-алгоритмического оператора» (разработчика ИИ и провайдера телемедицины), закрепив их солидарную ответственность за раскрытие врачебной тайны вследствие утечки данных; –Отслеживание согласия, т.е. замена статичного бумажного ИДС на цифровую контрактную форму, заполняемую в приложении Госуслуги и позволяющую пациенту отслеживать, какая именно нейросеть в данный момент обучается на его снимках или данных, и отзывать это согласие в один клик; –Поправки к статье 13 ФЗ-323 «Врачебная тайна». Необходимо дополнить часть 3 указанной статьи положением, согласно которому «передача сведений, составляющих врачебную тайну, провайдерам информационно-телекоммуникационных платформ и системам искусственного интеллекта для их обучения, допускается исключительно в изолированных сетях без права выгрузки данных во внешнюю интернет-среду»; –Изменения в ФЗ-152 «О персональных данных». Ввести запрет на использование телемедицинских данных, полученных с использованием средств ИИ, в рекламных и страховых целях без создания отдельного, специального цифрового согласия через Госуслуги; –Введение института сертификации ИИ (наподобие SaMD в США). Обязать разработчиков медицинского ИИ проходить сертификацию ФСТЭК России не только на предмет защиты каналов связи, но и на устойчивость ИИ к вышеупомянутым методам обхода ограничений.

Правовое регулирование ИИ в медицине находится в стадии становления, что требует гибкого, но надежного механизма защиты прав участников процесса. Сложная природа технологий диктует необходимость комплексного подхода: жесткие требования к безопасности должны гармонично дополняться нормами биоэтики — этическими кодексами и профессиональными стандартами врачей. Оптимальная модель регулирования призвана стимулировать технологический рост и доступность здравоохранения, одновременно минимизируя потенциальные риски. Формирование такой среды возможно лишь в рамках междисциплинарного диалога между юристами, медиками, разработчиками нейросетей и общественностью, что обеспечит ответственное внедрение инноваций для повышения качества жизни граждан [10].

Список литературы

1. Наумов В.Б., Незнамов А.В., Смирнова К.М. Этико-правовые принципы применения технологий искусственного интеллекта в медицине: международные стандарты и российская перспектива // Вестник Московского университета. Серия 11: Право. 2023. № 2. С. 63-76.
2. Федеральный закон «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» от 24.04.2020 N 123-ФЗ (последняя редакция)
3. World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: WHO, 2021. 165 p.
4. U.S. Food and Drug Administration. Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)- Based Software as a Medical Device (SaMD). FDA, 2019. 20 p.
5. European Commission. Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). C0M(2021) 206 final, 2021.
6. Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации
7. Петрова Н.Г., Савельев А.И. Ответственность за причинение вреда системами искусственного интеллекта в здравоохранении: проблемы и перспективы регулирования // Медицинское право: теория и практика. 2023. Т. 9. № 1. С.45-57.
8. Лебедев В.А., Иванова А.П. Правовые аспекты защиты персональных данных при использовании систем искусственного интеллекта в медицине // Информационное право. 2022. № 4. С. 32-41.
9. Атаки на IoT: киберпреступники угрожают пациентам и предприятиям, Infowatch
10. Карцхия А. А. Искусственный интеллект как средство управления в условиях глобальных рисков // Мониторинг правоприменения. — 2020. — № 1 (34). — С. 45-50.
11. Морозов С.П., Владзимирский А.В., Андрейченко А.Е. Нормативно-правовое регулирование использования искусственного интеллекта в здравоохранении: ключевые аспекты и тенденции // Медицинское право. 2022. № 3. С.14- 22.
12. Шкарин В.В., Берсенева Е.А., Кураева В.М., Савостина Е.А. Искусственный интеллект в здравоохранении: возможности и проблемы внедрения // Вестник Росздравнадзора. 2021. № 3. С. 31-38.

Скачать