Правовые коллизии применения искусственного интеллекта при рассмотрении обращений граждан в системе ФСИН России

• ЦАРЬКОВА Евгения Геннадьевнакандидат физико-математических наук, ведущий научный сотрудник ФКУ НИИ ФСИН России, 0000-0002-5610-9895university69@mail.ru

Статья посвящена анализу правовых коллизий, возникающих при внедрении технологий искусственного интеллекта (ИИ) в процесс обработки большого объема обращений граждан в учреждениях и органах Федеральной службы исполнения наказаний России (ФСИН России). Исследование фокусируется на соотношении цифровизации документооборота и ключевых требований российского законодательства, регулирующего порядок рассмотрения обращений, включая конституционные принципы, нормы уголовно-исполнительного права и общие стандарты административных процедур. Особое внимание уделяется современным тенденциям применения цифровых платформ и ИИ в государственных органах и пенитенциарной системе Российской Федерации для приема, регистрации, маршрутизации и анализа обращений от осужденных, их родственников и других заявителей, что позволяет справляться с растущим потоком жалоб в условиях ограниченных ресурсов. Выделяются преимущества автоматизации, такие как ускорение процедур обработки, повышение доступности услуг для удаленных заявителей, снижение административной нагрузки на персонал, оптимизация ресурсов и повышение качества аналитики данных, а также сопутствующие риски: от потенциальных нарушений конфиденциальности до алгоритмических предубеждений. Анализируется соответствие ИИ-решений принципам открытости, оперативности и персонализации рассмотрения обращений с учетом специфики деятельности пенитенциарных учреждений, где обращения часто касаются прав человека и условий отбывания наказания. На основе изучения отечественного и зарубежного опыта предлагаются рекомендации, включая разработку этических стандартов для ФСИН России, обязательные аудиты алгоритмов, внедрение гибридных систем с участием человека, обучение сотрудников цифровым правам и пилотные проекты по автоматизированной предварительной классификации жалоб. Предложенные меры служат гармонизации технологических инноваций с правовыми нормами, минимизации рисков ущемления прав граждан, повышению доверия к деятельности уголовно-исполнительной системы Российской Федерации и росту эффективности административных процессов в условиях ускоренной цифровой трансформации государства.

Ключевые слова: искусственный интеллект, обращения граждан, уголовно-исполнительная система Российской Федерации, алгоритмическая прозрачность, персональные данные, цифровые права, объяснимый ИИ, административная процедура

- ТЕОРИЯ УПРАВЛЕНИЯ-and bodies of the Federal Penitentiary Service of Russia. The study focuses on the correlation between.

Введение

Цифровая трансформация уголовно-исполнительной системы Российской Федерации (УИС) закреплена в Концепции развития УИС на период до 2030 года (далее – Концепция), утвержденной распоряжением Правительства Российской Федерации от 29 апреля 2021 г. № 1138-р. Среди приоритетных направлений мероприятий по реализации Концепции обозначена цифровизация управленческих и административных процессов. В условиях объемного документооборота особое значение приобретает обработка обращений в ФСИН России, поступающих от осужденных, их родственников и иных граждан. Федеральный закон от 2 мая 2006 г. № 59-ФЗ «О порядке рассмотрения обращений граждан Российской Федерации» закрепляет обязательный срок подготовки ответа на обращение, составляющий 30 дней, при этом исключение для автоматизированных процедур не предусматривается.

Научные публикации последних лет фиксируют высокий потенциал алгоритмов обработки больших данных в УИС. В [1] авторы В.В. Пекарева и Ю.И. Фроловская указывают на возможность автоматизированного анализа ходатайств и сопоставления их содержания с материалами личного дела осужденного, а в [2] С.Д. Ковалевым положительно оцениваются перспективы применения цифровых систем анализа информации в учреждениях ФСИН России.

Вместе с тем, указанные работы акцентируют преимущественно технические возможности, не раскрывая правовые последствия автоматизации административной процедуры. В [3] авторами делается положительный вывод о применимости методов машинного обучения (искусственных нейронных сетей) для классификации поступающего потока обращений граждан по тематике с их последующей маршрутизацией по исполнителям в целях снижения трудозатрат на ручную обработку текстов.

Материалы и методы

На этапе трансформации алгоритмической классификации обращения в управленческое решение возникают проблемные аспекты правового толка. Так, если алгоритм машинного обучения распределяет обращения по категориям, выявляя «повторные» или «неподлежащие рассмотрению» обращения, возникает вопрос о юридической природе такого вывода. Федеральный закон № 59-ФЗ возлагает обязанность рассмотрения обращения на должностное лицо. Алгоритмический вывод алгоритма с предсказанием категории не является субъектом публичной власти и не может обладать правоприменительной компетенцией. Следовательно, автоматизированная фильтрация обращений без последующей проверки сотрудником противоречит порядку административной процедуры.

Особое значение имеет принцип уважения достоинства личности, закрепленный в ст. 21 Конституции Российской Федерации. В условиях лишения свободы лицо сохраняет право на обращение в государственные органы и на получение мотивированного ответа. Автоматический отказ или формализованный ответ, сформированный системой без анализа индивидуальных обстоятельств, способен привести к деперсонализации административного взаимодействия. Формаль - ный ответ, основанный на алгоритмическом шаблоне, может быть признан нарушением права на эффективное средство правовой защиты.

Обработка обращений неизбежно связана с использованием персональных данных. Федеральный закон № 152-ФЗ «О персональных данных» устанавливает требования к законности, целевому характеру и безопасности обработки. В обращениях граждан могут содержаться сведения о состоянии здоровья, семейном положении, обстоятельствах уголовного дела. При использовании систем машинного обучения возникает риск вторичного использования данных для иных аналитических целей, не предусмотренных законом. Законодательство не содержит специальных норм, регламентирующих обработку персональных данных осужденных алгоритмическими системами.

Федеральный закон № 149-ФЗ «Об информации, информационных технологиях и о защите информации» закрепляет общие принципы использования информационных систем, однако не определяет правовой статус алгоритмических решений в сфере исполнения наказаний. Таким образом, формируется правовой вакуум: цифровизация документооборота осуществляется, но правовые гарантии алгоритмической прозрачности отсутствуют.

С точки зрения цифрового права особую проблему представляет феномен «черного ящика» для систем искусственного интеллекта, используемых для маршрутизации обращений.

Если обращение классифицировано системой как повторное или необоснованное, заявитель вправе знать основания такого вывода. Статья 10 УИК РФ закрепляет право осужденных на обращение и обжалование действий администрации.

Реализация этого права предполагает доступ к мотивировке решения. Непрозрачность алгоритма лишает заявителя возможности оспорить ошибочную классификацию.

Риски алгоритмической дискриминации проявляются в случае использования поведенческих и статистических моделей. Если система выявляет «типичные» жалобы и автоматически относит их к категории шаблонных, индивидуальные особенности конкретного обращения могут быть проигнорированы. В зарубежной практике применения алгоритмов в публичном управлении фиксировались случаи систематических ошибок в отношении определенных групп лиц. Регламент Европейского союза об искусственном интеллекте относит системы, влияющие на доступ к государственным услугам, к категории повышенного риска и требует обязательного человеческого контроля и оценки воздействия на права человека [6].

Министерство юстиции США в рекомендациях по использованию алгоритмических инструментов в государственном управлении указывает на необходимость обеспечения прозрачности, аудита и запрета полностью автоматизированных решений, затрагивающих права граждан [7], при этом российская правовая система не содержит аналогичных требований применительно к УИС. Проблема ответственности за ошибочные алгоритмические решения также не урегулирована, для нее на современном этапе функционирования УИС возможны три модели. Первая предусматривает ответственность разработчика при наличии дефекта программного обеспечения. Вторая – ответственность оператора, допустившего некорректное использование системы.

С использованием третьей модели ответственность возлагается на руководителя учреждения, подписавшего ответ. В действующем законодательстве отсутствуют специальные нормы, распределяющие ответственность в условиях использования ИИ, что создает неопределенность и риск перекладывания ответственности на должностное лицо независимо от характера ошибки.

Результаты и обсуждение

В целях устранения правового вакуума предлагается трехуровневая модель регулирования, включающая конституционный, законодательный и подзаконный уровни. На конституционном уровне целесообразно признать право на алгоритмическую прозрачность как элемент цифровых прав осужденных и иных заявителей. На законодательном уровне следует дополнить УИК РФ положениями о применении автоматизированных систем при рассмотрении обращений, закрепив обязательность человеческого контроля и запрет принятия окончательного решения исключительно алгоритмом. При этом Федеральный закон № 59-ФЗ может быть дополнен нормой о необходимости раскрытия факта использования автоматизированных средств анализа. На подзаконном уровне требуется разработка стандартов алгоритмического аудита и требований к объяснимости систем обработки текстовой информации.

Выводы

Данное исследование определяет человекоцентричный подход к цифровизации обработки обращений как важнейшее условие сохранения персональной ответственности должностного лица и обеспечение реальности права на обращение. Технологии ИИ могут ускорять сортировку и анализ больших массивов данных, но не подменять административную процедуру и юридиче- скую оценку обстоятельств. В противном случае цифровизация превращается в механизм формализации и сокращения гарантий. В работе показано, что для использования искусственного интеллекта при обработке обращений граждан в уголовно-исполнительной системе Российской Федерации важно нормативное закрепление его вспомогательного характера, алгоритмической прозрачности и четкого распределения ответственности. Без этих гарантий цифровая трансформация органов исполнительной власти рискует вступить в противоречие с конституционными принципами и международными стандартами защиты прав человека.

Список литературы

1. Пекарева В.В., Фроловская Ю.И. Искусственный интеллект в уголовно-исполнительной системе // Право и государство: теория и практика. 2024. № 10. С. 329-331.
2. Ковалев С.Д. Перспективы использования искусственного интеллекта в исправительных учреждениях ФСИН России // Аграрное и земельное право. 2025. № 1. С. 241-243.
3. Царькова Е.Г., Кочкина О.В. Применение искусственного интеллекта при обработке данных в научной и образовательной деятельности Федеральной службы исполнения наказаний // Ведомости уголовно-исполнительной системы. 2022, № 9(244). С. 51-59.
4. Минаев В.А., Бондарь К.М., Федорович В.Ю. Биометрия защиты объектов: возможности и перспективы // Информация и безопасность. 2025. Т. 28, № 1. С. 47-56.
5. Хазиев Ш.Н., Штохов А.Н. Судебные экспертизы по делам об ошибочной биометрической идентификации // Теория и практика судебной экспертизы. 2024. Т. 19, № 3. С. 88-102.
6. Царькова Е.Г. К вопросу формирования обучающих датасетов для выявления источников распространения экстремистского контента в сети Интернет // Научно-технический вестник Поволжья. 2024. № 3. С. 134-136.
7. Пальянова Н.В. Использование искусственного интеллекта в сфере Legal Tech: современные возможности и перспективы // Социально-экономическое развитие и качество правовой среды: Труды VIII Моск. юрид. форума, XIX Междунар. науч.-прак. конф. Ч. 2. М.: МГЮА, 2021 С. 260-267.
8. Понкин И.В. Государственное управление и регуляторное пространство в сфере искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). 2022, № 11 (99). С. 108-116.
9. Минбалеев А.В. Регулирование использования искусственного интеллекта в России // Информационное право. 2020. № 1. С. 36-39.
10. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91-109.

Скачать