Правовые проблемы регулирования искусственного интеллекта в здравоохранении Российской Федерации

Современный этап развития здравоохранения характеризуется глубокой цифровой трансформацией, ядром которой выступает интеграция технологий искусственного интеллекта и систем обработки больших данных в процессы диагностики, лечения и организации медицинской помощи. Эта трансформация сопровождается возникновением многоплановых правовых вопросов междисциплинарного характера, расположенных на пересечении медицинского, информационного, конституционного и гражданского права. Складывающаяся нормативная архитектура демонстрирует фрагментарность и неоднородность: нормы разнесены между различными правовыми актами, частично дублируют друг друга, а в значимых аспектах оставляют существенные пробелы, не позволяющие обеспечить предсказуемость правоприменения и должный уровень защиты прав участников отношений.

Цель настоящего исследования состоит в проведении системного правового анализа регулирования применения технологий искусственного интеллекта и больших данных в российском здравоохранении, направленного на выявление нормативных пробелов и коллизий. В основу исследования положены три гипотезы: существующая система регулирования носит фрагментарный характер и не обеспечивает адекватной защиты прав пациентов; законодательство содержит системные коллизии между требованиями защиты персональных данных и необходимостью использования больших данных для обучения искусственного интеллекта; отсутствие специализированного регулирования создает неопределенность в распределении ответственности между разработчиком, медицинской организацией и врачом.

Анализ нормативной базы констатирует отсутствие легального определения искусственного интеллекта на уровне федерального закона. Указ Президента Российской Федерации от 10 октября 2019 года № 490 содержит дефиницию искусственного интеллекта как комплекса технологических решений, имитирующих когнитивные функции человека, однако данный акт носит программно-целевой характер и не формирует императивного правового режима. Приведенное определение концептуально неполно для медицинского контекста, поскольку не учитывает специфику клинического применения таких систем, как алгоритмы поддержки принятия клинических решений, интерпретации диагностических изображений и предиктивного моделирования. Федеральный закон от 21 ноября 2011 года № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» в статье 38 позволяет квалифицировать программное обеспечение на основе искусственного интеллекта как медицинское изделие при наличии целевого предназначения для решения медицинских задач. Приказ Министерства здравоохранения Российской Федерации от 6 июня 2012 года № 4н устанавливает классификацию систем искусственного интеллекта по степени потенциального риска: класс 2а и 2б относится к средней степени риска и применяется для анализа диагностических изображений, тогда как класс 3 предназначен для систем поддержки принятия решений в критических клинических ситуациях и относится к категории высокого риска.

Критическим недостатком существующего подхода является то обстоятельство, что системы машинного обучения обладают способностью к модификации алгоритмов в процессе эксплуатации, что принципиально отличает их от традиционных медицинских изделий с фиксированными характеристиками. Действующее регулирование не предусматривает механизмов контроля за эволюцией алгоритмов после государственной регистрации, что создает риски непредсказуемого изменения клинических характеристик программного обеспечения. Анализ национальных стандартов демонстрирует начальную стадию формирования нормативно-технической базы: ГОСТ Р 57276-2016 устанавливает базовую терминологию в области искусственного интеллекта, однако не содержит специфических требований для медицинского применения. Существенным недостатком является отсутствие национального стандарта, адаптированного специально для программного обеспечения на основе машинного обучения медицинского назначения. ГОСТ ISO 13485–2017, представляющий собой адаптированную версию международного стандарта ISO 13485:2016 для систем менеджмента качества медицинских изделий, имеет статус модифицированного стандарта, что означает наличие содержательных изменений по сравнению с международным оригиналом и исключает их полную эквивалентность.

Правовой режим обработки медицинских данных формируется совокупностью конституционных гарантий и специального законодательства. Федеральный закон от 27 июля 2006 года № 152-ФЗ «О персональных данных» в статье 10 относит сведения о состоянии здоровья к специальным категориям персональных данных, обработка которых по общему правилу запрещена. Институт медицинской тайны регулируется статьей 13 Федерального закона № 323-ФЗ, устанавливающей запрет на разглашение сведений о факте обращения гражданина за оказанием медицинской помощи, состоянии его здоровья и диагнозе. Конституционная основа защиты приватности медицинских данных формируется статьей 23 Конституции Российской Федерации, гарантирующей право на неприкосновенность частной жизни, и статьей 24, запрещающей сбор, хранение и распространение информации о частной жизни лица без его согласия.

Разработка и обучение систем искусственного интеллекта требует доступа к большим объемам медицинских данных, что создает фундаментальную коллизию между необходимостью использования массивов информации и императивными требованиями их защиты. Федеральный закон № 152-ФЗ в части девятой статьи 10 допускает обработку специальных категорий персональных данных в обезличенном виде для целей статистических и иных исследований без получения согласия субъекта данных, однако законодательство не устанавливает конкретных технических требований к процедурам обезличивания и не определяет критерии оценки остаточного риска реидентификации. Современные исследования в области приватности данных неоднократно демонстрировали уязвимость традиционных методов деперсонализации медицинской информации: сочетание нескольких квазиидентификаторов, таких как возраст, пол, географические признаки, даты клинических событий и редкие диагнозы, позволяет с высокой вероятностью повторно идентифицировать конкретного пациента в формально обезличенном датасете путем сопоставления с внешними источниками данных. Статья 91.1 Федерального закона № 323-ФЗ, регулирующая функционирование единой государственной информационной системы в сфере здравоохранения и допускающая использование обезличенных медицинских сведений для проведения научных исследований, не содержит детализированных требований к методам и метрикам обезличивания, таким как уровни k‑анонимности, l‑разнообразия, t‑близости или механизмы дифференциальной приватности, что оставляет существенную правовую неопределенность в выборе и оценке адекватности применяемых технологий деперсонализации.

Дополнительная правовая неопределенность возникает относительно объема и содержания информации, которая должна быть предоставлена пациенту для получения информированного согласия при использовании систем искусственного интеллекта в процессе оказания медицинской помощи. Действующее законодательство не содержит ответа на вопрос о необходимости раскрытия информации о факте использования алгоритмических систем, принципах их функционирования, источниках и характеристиках обучающих данных, метриках точности и ограничениях применимости, что создает дефицит правовой базы для реализации принципа автономии пациента и его права на полноту информации о методах лечения.

Использование систем искусственного интеллекта в клинической практике порождает сложную правовую проблему распределения ответственности при причинении вреда здоровью пациента. Традиционная модель деликтной ответственности в медицине основывается на концепции вины медицинского работника и установлении причинно-следственной связи между его действиями и наступившим вредом, однако при использовании алгоритмических систем цепочка причинности существенно усложняется. Вред может быть обусловлен ошибкой в логике алгоритма, некритичным принятием врачом необоснованной рекомендации без должной клинической верификации, дефектами на стадии разработки программного обеспечения, систематическими смещениями или недостаточным качеством обучающих данных, либо комбинацией указанных факторов. Можно выделить два сценария ответственности медицинского работника: в первом случае некритичное принятие рекомендации алгоритма без надлежащей клинической верификации и сопоставления с объективными данными о состоянии пациента квалифицируется как профессиональная небрежность и образует состав гражданско-правового деликта по статье 1064 Гражданского кодекса Российской Федерации, а при наличии тяжких последствий — состав преступления, предусмотренного статьями 109 или 118 Уголовного кодекса Российской Федерации; во втором случае, когда врач добросовестно осуществил верификацию рекомендации алгоритма в соответствии со стандартами медицинской помощи, однако не смог выявить неочевидную системную ошибку алгоритма, установление его вины представляется проблематичным.

Распределение ответственности в правовой связке «медицинская организация — медицинский работник — разработчик программного обеспечения» требует учета специфических свойств алгоритмов машинного обучения. В соответствии со статьей 1068 Гражданского кодекса Российской Федерации медицинская организация несет ответственность за вред, причиненный ее работником при исполнении трудовых или служебных обязанностей, что позволяет пациенту предъявить требования непосредственно к организации здравоохранения. Для удовлетворения регрессного требования медицинской организации к разработчику программного обеспечения необходимо доказать причинную связь между наступившим вредом и конкретным нарушением со стороны разработчика, что может включать наличие программного дефекта, несоответствие фактических характеристик системы заявленным в технической документации параметрам, нарушение гарантийных обязательств, непредоставление критически важных обновлений безопасности или недостаточность инструкций по применению.

Особую сложность представляет проблема правовой квалификации понятия «недостатка товара» применительно к системам искусственного интеллекта. Применимость статей 1095–1098 Гражданского кодекса Российской Федерации об ответственности изготовителя за вред, причиненный вследствие недостатков товара, к программному обеспечению на основе машинного обучения осложняется вероятностной природой выводов таких систем. Единичный ошибочный вывод алгоритма сам по себе не свидетельствует о наличии «недостатка товара» в правовом смысле, поскольку любая система машинного обучения характеризуется определенной вероятностью статистической ошибки. Квалификация недостатка требует установления систематического отклонения фактических характеристик системы от заявленных разработчиком свойств и клинически валидированных метрик эффективности на целевой популяции пациентов. Дополнительную сложность создают системы с непрерывным обучением: после внедрения в клиническую практику модель может изменять свои параметры и характеристики качества на основе новых данных, что затрудняет идентификацию конкретной версии алгоритма, повлекшей причинение вреда, и определение юридически значимого момента возникновения недостатка — на стадии первоначальной поставки либо в процессе эксплуатации.

Правовая защита пациентов в условиях применения автоматизированных систем принятия решений формируется совокупностью общих и специальных норм. Часть седьмая статьи 14 Федерального закона № 152-ФЗ закрепляет универсальное право субъекта персональных данных не быть объектом решения, порождающего юридические последствия в отношении него или иным образом затрагивающего его права и законные интересы, если такое решение принимается исключительно на основе автоматизированной обработки его персональных данных. Это право носит надотраслевой характер и распространяется на сферу здравоохранения, поскольку медицинская деятельность по определению включает обработку специальных категорий персональных данных, содержащих сведения о состоянии здоровья. Соответственно, указанная норма требует обязательного наличия «человека в контуре» — медицинского работника, который осуществляет проверку и принятие итогового клинического решения, выходящее за пределы исключительно автоматизированной обработки данных.

Однако законодательство не конкретизирует содержание права пациента на получение информации об использовании автоматизированной обработки его данных в процессе оказания медицинской помощи. Регламент Европейского Союза 2016/679 о защите данных предусматривает право субъекта данных получить содержательную информацию о логике автоматизированного принятия решений, а также о значении и предполагаемых последствиях такой обработки, тогда как российское законодательство не содержит аналогичной нормы, что создает правовую неопределенность и препятствует эффективной реализации права пациента на информированное согласие.

Существенную правовую проблему представляет риск алгоритмической дискриминации при использовании систем искусственного интеллекта, обучаемых на исторических массивах медицинских данных. Такие системы могут воспроизводить и усиливать существующие статистические смещения по защищаемым или коррелирующим признакам, включая пол, возраст, этническую и социальную принадлежность, инвалидность и место проживания. Источники смещений включают непредставительность обучающих выборок относительно целевой популяции, систематические различия в доступе к медицинской помощи и качестве документирования, исторические клинические практики, отражающие селективность назначения процедур, а также ошибки аннотирования и проблемы переносимости моделей между различными медицинскими учреждениями и регионами. Конституционная основа противодействия дискриминации задается статьей 19 Конституции Российской Федерации, гарантирующей равенство прав и свобод человека независимо от пола, расы, национальности, языка и других обстоятельств, а также статьей 11 Федерального закона № 323-ФЗ, закрепляющей недопустимость отказа в оказании медицинской помощи по мотивам, не связанным с медицинскими показаниями. Однако прямое применение указанных норм к случаям алгоритмической дискриминации сталкивается с методологическими и процессуальными трудностями: во‑первых, смещение в моделях машинного обучения зачастую носит непреднамеренный и неявный характер, проявляясь через использование прокси-переменных, статистически связанных с защищаемым признаком; во‑вторых, установление факта и степени дискриминации требует проведения специализированной технической экспертизы, включающей стратифицированный анализ метрик по подгруппам и оценку калибровки модели; в‑третьих, действующее регулирование не содержит обязанности разработчиков и медицинских организаций проводить обязательные аудиты алгоритмов на предмет справедливости и отсутствия дискриминационных смещений, равно как и не устанавливает формализованные критерии допустимых расхождений в качестве работы системы по различным демографическим группам.

Системный анализ выявленных правовых проблем позволяет констатировать наличие двух критических коллизий и одного существенного пробела в действующем регулировании. Первая коллизия заключается в противоречии между закрепленным в части четвертой статьи 14 Федерального закона № 152-ФЗ правом субъекта персональных данных на удаление его данных, в том числе в форме отзыва согласия и требования прекращения обработки с последующим уничтожением данных, и обязанностью медицинских организаций по длительному хранению медицинской документации, установленной статьей 70 Федерального закона № 323-ФЗ, предусматривающей для определенных видов документов срок хранения до двадцати пяти лет. При использовании медицинских данных в качестве обучающей выборки для алгоритмов машинного обучения указанная коллизия приобретает дополнительное техническое измерение: требование реализации «права на забвение» по существу трансформируется в сложную техническую задачу исключения вклада конкретного образца из параметров уже обученной модели без полного переобучения всей системы. Современное состояние научно-технической базы демонстрирует ограниченную применимость методов так называемого machine unlearning: воспроизводимые процедуры удаления влияния отдельного примера либо отсутствуют для широкого класса архитектур нейронных сетей и сценариев применения, либо сопряжены с существенными методическими и вычислительными издержками и рисками деградации качества модели. В результате даже при уничтожении первичных персональных данных в источнике след их статистического влияния может сохраняться в весовых коэффициентах модели, что ставит под вопрос полноту исполнения юридического требования об удалении и порождает нормативно-технологический разрыв между правовой обязанностью и фактической технической исполнимостью.

Вторая коллизия возникает на стыке части девятой статьи 10 Федерального закона № 152-ФЗ, допускающей обработку обезличенных персональных данных без каких-либо ограничений, и статьи 13 Федерального закона № 323-ФЗ, закрепляющей режим медицинской тайны без прямого исключения для обезличенных медицинских сведений. Данное противоречие порождает правовую неопределенность в отношении возможности использования обезличенных данных, в том числе извлекаемых из массивов единой государственной информационной системы в сфере здравоохранения, для целей коммерческой разработки и тестирования медицинских систем искусственного интеллекта. С одной стороны, по логике Федерального закона о персональных данных надлежащее обезличивание выводит информацию из категории персональных данных и снимает связанные с ними ограничения обработки; с другой стороны, медицинская тайна по смыслу Федерального закона об основах охраны здоровья граждан охватывает сведения о факте обращения и состоянии здоровья, и закон не содержит явной оговорки о том, что процедура обезличивания автоматически снимает режим конфиденциальности таких сведений. Отсутствие унифицированных нормативно закрепленных критериев «достаточного» обезличивания в клиническом контексте, а также установленной процедуры деперсонификации данных единой государственной информационной системы в сфере здравоохранения, включая допустимые методики, пороговые значения метрик риска реидентификации и формализованный порядок предоставления доступа третьим лицам, ведет к фрагментированным практикам и создает риски ретроактивного пересмотра правомерности использования данных.

Существенный пробел в регулировании выявлен в сфере телемедицинских технологий. Статья 36.2 Федерального закона № 323-ФЗ предусматривает, что при проведении консультаций с применением телемедицинских технологий лечащий врач может быть назначен только при очном приеме, а при дистанционном взаимодействии постановка диагноза и назначение лечения не допускаются. Данная норма исторически была ориентирована на предотвращение клинических ошибок при отсутствии возможности непосредственного физического осмотра пациента, однако в условиях развития цифровых сервисов и инструментов искусственного интеллекта возникает правовой вопрос о допустимости первичной автоматизированной предварительной оценки симптомов, например, в формате алгоритмического триажа или риск-скоринга, с последующей обязательной верификацией медицинским работником. Действующая редакция закона прямо не отвечает на данный вопрос, поскольку терминологическое различие между понятиями «диагноз», «предварительная оценка риска» и «рекомендационная подсказка» не проведено, а правовой статус алгоритмического вывода как медицинского решения либо вспомогательного аналитического материала остается неопределенным.

Результаты проведенного исследования подтверждают выдвинутые гипотезы и позволяют сформулировать развернутые выводы о состоянии правового регулирования применения искусственного интеллекта в российском здравоохранении. Установлена фрагментарность и несистемность регулирования: отсутствие специального федерального закона, посвященного использованию искусственного интеллекта в здравоохранении, создает правовую неопределенность для всех участников правоотношений, включая разработчиков программного обеспечения, медицинские организации, медицинских работников и пациентов. Квалификация систем искусственного интеллекта в качестве медицинских изделий в рамках действующего законодательства не учитывает их специфические свойства, такие как критическая зависимость качества работы от характеристик обучающих данных, вероятностный характер выводов, подверженность дрейфу данных и способность к эволюции характеристик после государственной регистрации, что требует особых режимов пострыночного мониторинга, управления изменениями и периодической валидации на локальных популяциях пациентов.

Выявлены устойчивые коллизии в регулировании обработки медицинских данных, проявляющиеся в виде противоречий между необходимостью использования масштабных и качественных массивов медицинской информации для обучения и валидации моделей искусственного интеллекта и императивными требованиями защиты персональных данных и соблюдения режима медицинской тайны. Отсутствуют юридически закрепленные процедуры управляемого забывания данных в контексте обученных моделей машинного обучения, равно как и единые национальные стандарты обезличивания с установленными метриками оценки остаточного риска реидентификации, что создает барьеры для правомерного использования медицинских данных в целях разработки инновационных технологий.

Установлена правовая неопределенность в распределении ответственности между участниками цепочки разработки и применения систем искусственного интеллекта. Действующие конструкции гражданско-правовой деликтной ответственности демонстрируют ограниченную адекватность применительно к специфике алгоритмических систем, основанных на вероятностных моделях машинного обучения. Отсутствуют нормативно закрепленные критерии разграничения зон ответственности между разработчиком программного обеспечения, медицинской организацией и медицинским работником, а также не определены доказательственные стандарты установления причинной связи в условиях многофакторной детерминации вреда и вероятностного характера алгоритмических выводов.

Доказана недостаточность правовой защиты прав пациентов в условиях применения автоматизированных систем принятия решений. Действующее законодательство не содержит закрепленного права пациента на получение понятного объяснения логики алгоритмического вывода, состава и характеристик использованных данных, степени уверенности системы и ограничений применимости, что ограничивает полноту реализации права на информированное согласие и подрывает принцип автономии пациента. Кроме того, законодательство не устанавливает обязательных требований к проведению оценки и предотвращению алгоритмической дискриминации: не определены критерии допустимых межгрупповых различий в метриках качества работы системы, отсутствуют процедуры обязательного аудита справедливости алгоритмов и механизмы корректирующих действий при выявлении систематических смещений, что создает риск воспроизводства исторических неравенств и неблагоприятного дифференцированного влияния на отдельные подгруппы пациентов по защищаемым признакам.

Выявлен дефицит институциональных механизмов контроля и надзора за разработкой и применением систем искусственного интеллекта в здравоохранении. Существующая система государственной регистрации медицинских изделий недостаточно адаптирована к программному обеспечению на основе машинного обучения: лишены нормативного статуса процедуры обязательного аудита алгоритмов на объяснимость и прозрачность, тесты на отсутствие дискриминационных смещений по релевантным демографическим группам, требования к непрерывному мониторингу дрейфа данных и деградации калибровки в постмаркетинговой фазе, а также формализованные требования к ведению неизменяемых журналов версий программного обеспечения, конфигураций, данных, обновлений и клинически значимых инцидентов. Не институционализированы механизмы независимой междисциплинарной этической экспертизы систем высокого риска, отсутствуют публичные реестры зарегистрированных систем искусственного интеллекта медицинского назначения с раскрытием ключевой информации о показателях клинической эффективности и безопасности, ограничениях применимости и истории обновлений, что снижает прозрачность рынка медицинских технологий и уровень доверия профессионального медицинского сообщества и пациентов к инновационным решениям.

Практическое значение результатов проведенного исследования заключается в формировании системной доказательной базы для законотворческой деятельности по разработке специального федерального законодательства и комплекса национальных стандартов, регулирующих применение технологий искусственного интеллекта в здравоохранении Российской Федерации. Выявленные нормативные пробелы и коллизии определяют приоритетные направления совершенствования правовой базы, направленной на обеспечение баланса между стимулированием развития инновационных цифровых технологий в медицине и защитой конституционных прав граждан на охрану здоровья, неприкосновенность частной жизни и недискриминацию.