Правовые коллизии применения искусственного интеллекта при рассмотрении обращений граждан в системе ФСИН России

Введение

Цифровая трансформация уголовно-исполнительной системы Российской Федерации (УИС) закреплена в Концепции развития УИС на период до 2030 года (далее – Концепция), утвержденной распоряжением Правительства Российской Федерации от 29 апреля 2021 г. № 1138-р. Среди приоритетных направлений мероприятий по реализации Концепции обозначена цифровизация управленческих и административных процессов. В условиях объемного документооборота особое значение приобретает обработка обращений в ФСИН России, поступающих от осужденных, их родственников и иных граждан. Федеральный закон от 2 мая 2006 г. № 59-ФЗ «О порядке рассмотрения обращений граждан Российской Федерации» закрепляет обязательный срок подготовки ответа на обращение, составляющий 30 дней, при этом исключение для автоматизированных процедур не предусматривается.

Научные публикации последних лет фиксируют высокий потенциал алгоритмов обработки больших данных в УИС. В [1] авторы В.В. Пекарева и Ю.И. Фроловская указывают на возможность автоматизированного анализа ходатайств и сопоставления их содержания с материалами личного дела осужденного, а в [2] С.Д. Ковалевым положительно оцениваются перспективы применения цифровых систем анализа информации в учреждениях ФСИН России.

Вместе с тем, указанные работы акцентируют преимущественно технические возможности, не раскрывая правовые последствия автоматизации административной процедуры. В [3] авторами делается положительный вывод о применимости методов машинного обучения (искусственных нейронных сетей) для классификации поступающего потока обращений граждан по тематике с их последующей маршрутизацией по исполнителям в целях снижения трудозатрат на ручную обработку текстов.

Материалы и методы

На этапе трансформации алгоритмической классификации обращения в управленческое решение возникают проблемные аспекты правового толка. Так, если алгоритм машинного обучения распределяет обращения по категориям, выявляя «повторные» или «неподлежащие рассмотрению» обращения, возникает вопрос о юридической природе такого вывода. Федеральный закон № 59-ФЗ возлагает обязанность рассмотрения обращения на должностное лицо. Алгоритмический вывод алгоритма с предсказанием категории не является субъектом публичной власти и не может обладать правоприменительной компетенцией. Следовательно, автоматизированная фильтрация обращений без последующей проверки сотрудником противоречит порядку административной процедуры.

Особое значение имеет принцип уважения достоинства личности, закрепленный в ст. 21 Конституции Российской Федерации. В условиях лишения свободы лицо сохраняет право на обращение в государственные органы и на получение мотивированного ответа. Автоматический отказ или формализованный ответ, сформированный системой без анализа индивидуальных обстоятельств, способен привести к деперсонализации административного взаимодействия. Формаль - ный ответ, основанный на алгоритмическом шаблоне, может быть признан нарушением права на эффективное средство правовой защиты.

Обработка обращений неизбежно связана с использованием персональных данных. Федеральный закон № 152-ФЗ «О персональных данных» устанавливает требования к законности, целевому характеру и безопасности обработки. В обращениях граждан могут содержаться сведения о состоянии здоровья, семейном положении, обстоятельствах уголовного дела. При использовании систем машинного обучения возникает риск вторичного использования данных для иных аналитических целей, не предусмотренных законом. Законодательство не содержит специальных норм, регламентирующих обработку персональных данных осужденных алгоритмическими системами.

Федеральный закон № 149-ФЗ «Об информации, информационных технологиях и о защите информации» закрепляет общие принципы использования информационных систем, однако не определяет правовой статус алгоритмических решений в сфере исполнения наказаний. Таким образом, формируется правовой вакуум: цифровизация документооборота осуществляется, но правовые гарантии алгоритмической прозрачности отсутствуют.

С точки зрения цифрового права особую проблему представляет феномен «черного ящика» для систем искусственного интеллекта, используемых для маршрутизации обращений.

Если обращение классифицировано системой как повторное или необоснованное, заявитель вправе знать основания такого вывода. Статья 10 УИК РФ закрепляет право осужденных на обращение и обжалование действий администрации.

Реализация этого права предполагает доступ к мотивировке решения. Непрозрачность алгоритма лишает заявителя возможности оспорить ошибочную классификацию.

Риски алгоритмической дискриминации проявляются в случае использования поведенческих и статистических моделей. Если система выявляет «типичные» жалобы и автоматически относит их к категории шаблонных, индивидуальные особенности конкретного обращения могут быть проигнорированы. В зарубежной практике применения алгоритмов в публичном управлении фиксировались случаи систематических ошибок в отношении определенных групп лиц. Регламент Европейского союза об искусственном интеллекте относит системы, влияющие на доступ к государственным услугам, к категории повышенного риска и требует обязательного человеческого контроля и оценки воздействия на права человека [6].

Министерство юстиции США в рекомендациях по использованию алгоритмических инструментов в государственном управлении указывает на необходимость обеспечения прозрачности, аудита и запрета полностью автоматизированных решений, затрагивающих права граждан [7], при этом российская правовая система не содержит аналогичных требований применительно к УИС. Проблема ответственности за ошибочные алгоритмические решения также не урегулирована, для нее на современном этапе функционирования УИС возможны три модели. Первая предусматривает ответственность разработчика при наличии дефекта программного обеспечения. Вторая – ответственность оператора, допустившего некорректное использование системы.

С использованием третьей модели ответственность возлагается на руководителя учреждения, подписавшего ответ. В действующем законодательстве отсутствуют специальные нормы, распределяющие ответственность в условиях использования ИИ, что создает неопределенность и риск перекладывания ответственности на должностное лицо независимо от характера ошибки.

Результаты и обсуждение

В целях устранения правового вакуума предлагается трехуровневая модель регулирования, включающая конституционный, законодательный и подзаконный уровни. На конституционном уровне целесообразно признать право на алгоритмическую прозрачность как элемент цифровых прав осужденных и иных заявителей. На законодательном уровне следует дополнить УИК РФ положениями о применении автоматизированных систем при рассмотрении обращений, закрепив обязательность человеческого контроля и запрет принятия окончательного решения исключительно алгоритмом. При этом Федеральный закон № 59-ФЗ может быть дополнен нормой о необходимости раскрытия факта использования автоматизированных средств анализа. На подзаконном уровне требуется разработка стандартов алгоритмического аудита и требований к объяснимости систем обработки текстовой информации.

Выводы

Данное исследование определяет человекоцентричный подход к цифровизации обработки обращений как важнейшее условие сохранения персональной ответственности должностного лица и обеспечение реальности права на обращение. Технологии ИИ могут ускорять сортировку и анализ больших массивов данных, но не подменять административную процедуру и юридиче- скую оценку обстоятельств. В противном случае цифровизация превращается в механизм формализации и сокращения гарантий. В работе показано, что для использования искусственного интеллекта при обработке обращений граждан в уголовно-исполнительной системе Российской Федерации важно нормативное закрепление его вспомогательного характера, алгоритмической прозрачности и четкого распределения ответственности. Без этих гарантий цифровая трансформация органов исполнительной власти рискует вступить в противоречие с конституционными принципами и международными стандартами защиты прав человека.