Правовые принципы применения искусственного интеллекта для прогнозирования поведения осужденных в учреждениях ФСИН России

• ЦАРЬКОВА Евгения Геннадьевнакандидат физико-математических наук, ведущий научный сотрудник ФКУ НИИ ФСИН России, 0000-0002-5610-9895university69@mail.ru

В статье актуализируется проблема формирования системы правовых принципов, регулирующих внедрение и эксплуатацию технологий искусственного интеллекта (ИИ) для прогнозирования поведения осужденных в учреждениях уголовно-исполнительной системы Российской Федерации. Исследование базируется на анализе перспектив использования алгоритмов предиктивной аналитики как инструмента повышения уровня пенитенциарной безопасности, средства мониторинга взаимодействия с осужденными и способа создания интегрированных систем охраны и надзора. Выявлены противоречия между технологическими возможностями обработки больших массивов данных о поведении осужденных и требованиями законодательства в области защиты персональных данных, а также отсутствие понятийного аппарата для описания «цифрового профиля осужденного» и процедур алгоритмической оценки рисков. Автором предложена функциональная классификация правовых механизмов регулирования ИИ для учреждений УИС, включая создание ведомственного реестра алгоритмов оценки риска рецидива. Опираясь на функциональную классификацию правовых механизмов регулирования ИИ, включая необходимость создания ведомственного реестра алгоритмов оценки риска рецидива, автор предлагает систему взаимосвязанных правовых принципов: приоритет прав осужденного при принятии итоговых решений, алгоритмическая прозрачность и объяснимость моделей, недискриминация и алгоритмическая справедливость, целевое использование и минимизация обрабатываемых данных, обязательный независимый аудит ИИ-систем, процессуальные гарантии и право осужденного на обжалование решений, вынесенных с использованием прогностики, распределенная юридическая ответственность разработчиков, эксплуатантов и должностных лиц. Подчеркивается, что закрепление данных принципов в уголовно-исполнительном законодательстве и ведомственных нормативных актах является необходимым условием обеспечения баланса между эффективностью предиктивных технологий и сохранением правового статуса осужденного, а также гарантией этичного использования искусственного интеллекта в деятельности ФСИН России.

Ключевые слова: искусственный интеллект, уголовно-исполнительная система Российской Федерации, правовое регулирование, биометрическая идентификация, персональные данные, прогноз поведения, безопасность, технические средства охраны и надзора, предиктивная аналитика, цифровая трансформация

Введение

Концепция развития уголовно-исполнительной системы Российской Федерации на период до 2030 года ставит перед пенитенциарным ведомством стратегическую задачу формирования комплексной инфраструктуры противодействия правонарушениям осужденных посредством интеграции передовых инженерно-технических решений в сферу охраны и надзора, включая внедрение технологий искусственного интеллекта (ИИ) для автоматического выявления инцидентов безопасности. Документ задает вектор единой технической политики ФСИН России по унифицированному оснащению учреждений системами информационно-технического обеспечения режима. Тем не менее, реализация этих ориентиров неизбежно вскрывает необходимость тщательной проработки возникающих правовых, институциональных и технологических коллизий.

Как отмечается в исследовании [1, с. 114], внедрение подобных систем требует концептуальной доработки базовых норм. В данной работе Денисенко О.И., Жаров И.С. и Кадралеева Ж.А. детально разбирается опыт эксплуатации комплекса «Синергет СКДЛ», демонстрирующего высокую эффективность применения биометрических модулей в идентификации сотрудников, осужденных и посетителей на контрольно-пропускных пунктах и в сборных помещениях. Здесь ИИ функционирует как инструмент первичной верификации доступа, не претендуя на роль механизма предиктивного моделирования поведения. Авторы констатируют ключевые ограничения технологий, включая фрагментированность баз данных без информационного обмена между учреждениями, чрезмерную длительность сканирования биометрии, значительную капиталоемкость оборудования, риски ложных срабатываний в условиях массового трафика, а также уязвимость распознавания к деформациям лица (рубцы, травмы, отеки). Эти дефекты иллюстрируют, что даже отлаженные биометрические платформы в УИС остаются прикованными к реактивной логике, фиксируя свершившиеся события доступа, но не проникая в домен вероятностного прогнозирования рисков и оставаясь восприимчивыми к ошибкам [2, С. 330].

Материалы и методы

Нормы Уголовно-исполнительного кодекса РФ и соответствующие ведомственные акты позиционируют технические средства исключительно как вспомогательные механизмы поддержки персонала, лишенные автономной юридической силы при вынесении решений, затрагивающих правовое положение осужденного, включая перевод в облегченные или строгие условия содержания, назначение поощрений либо взысканий или корректировку режима охраны. Отсутствует упоминание о прогнозных алгоритмах оценки рецидива или потенциально опасного поведения. В итоге возникает институциональная асимметрия, состоящая в том, что технологическая база для развертывания систем предиктивной видеоаналитики (разветвленные видеосети, биометрические платформы, разрозненные информ ационные хранилища) уже используется, а правовые рамки продолжают ориентироваться на постфактум документирование событий, игнорируя вероятностный анализ грядущих угроз [3, С. 242].

Сдвиг от пассивных биометрических комплексов к интеллектуальной видеоаналитике на базе ИИ трансформирует субъект правового воздействия. Помимо личных изображений и биометрических шаблонов осужденного, в фокус входит его алгоритмическая репрезентация, включая динамическую модель поведения, синтезируемой из петабайтов видеопотоков, логов перемещений, дисциплинарных записей и поведенческих индикаторов. В публичных стратегических документах Российской Федерации в области искусственного интеллекта специализированные регуляторы для пенитенциарного сегмента и предиктивной видеоаналитики не приводятся. Обзор экспериментальных режимов (ФЗ от 24.04.2020 № 123-ФЗ о московских проектах внедрения ИИ-решений) выявляет приоритет распознавания лиц в сценариях обработки видеопотоков в городской среде и не учитывают предиктивные задачи в закрытых учреждениях УИС.

Результаты и обсуждение

Переход от простого мониторинга к прогнозированию поведения осужденных в учреждениях УИС изменяет структуру правоотношений, при этом объектом воздействия становится не только физическое лицо, но и его цифровая репрезентация, с которой работают алгоритмы и должностные лица [4, С. 53]. В ситуации, когда система прогнозной видеоаналитики генерирует оценку высокого риска деструктивного поведения, администрация может принять решение о переводе осужденного в более строгие условия либо о применении дополнительных ограничительных мер, при этом фактические данные о нарушениях могут отсутствовать, а основанием становится модельный прогноз. Данный фактор фактически создает новые обязанности администрации, связанные с корректной интерпретацией и проверкой алгоритмических рекомендаций, а также новые права осужденного, включая право на ознакомление с ключевыми основаниями прогноза и право на оспаривание использования модели в конкретном решении.

Текущая правовая неопределенность проявляется в нескольких измерениях. Статья 83 УИК РФ уполномочивает технические средства надзора, но не дифференцирует реактивные системы от предиктивных. Вместе с тем без описания входных параметров (видеоданные, биометрия, история нарушений), процедур валидации и метрик точности модели решения рискуют быть произвольными [5, С. 49]. Правовой пробел усугубляет размытость ответственности: кто отвечает за ошибочный прогноз: разработчик алгоритма, администрация учреждения или комиссия, слепо последовавшая рекомендации.

Предлагаемая автором система правовых принципов внедрения технологий искусственного интеллекта в процессы прогнозирования поведения осужденных представляет собой набор положений, группируемых в три блока: контроль и приоритет человека, справедливость и прозрачность, гарантии и ответственность. Принципы конкретизированы как правовые инструменты, служащие основой для этичного и безопасного использования ИИ-технологий для обеспечения пенитенциарной безопасности.

Принцип приоритета прав и законных интересов осужденного состоит в том, что прогнозы, построенные на основе ИИ-алгоритмов, имеют исключительно рекомендательный характер, при этом решения, меняющие правовой статус осужденного, включая изменение режима содержания, условно-досрочное освобождение, наложение взысканий, должны приниматься должностным лицом или комиссией после обязательной проверки материалов личного дела и иных доказательств. Данный подход является развитием тезиса о том, что алгоритм не подменяет человеческое суждение, а сохраняет принцип индивидуализации наказания, закрепленный в ст. 60 УИК РФ [6, С. 89]. Необходимость человеческого контроля минимизирует риски автоматизированного произвола, гарантируя, что прогнозные ИИ-системы выступают вспомогательным инструментом, а не доминирующим субъектом правоотношений. В противном случае возникала бы ситуация, при которой математическая модель приобретает управленческие полномочия, что противоречит природе уголовно-исполнительных отношений, основанных на непосредственном усмотрении уполномоченного должностного лица. Принцип алгоритмической прозрачности и объяснимости состоит в необходимости выполнения условий по использованию должностными лицами документированного реестра используемых ИИ-систем, включающего описание архитектуры модели и применяемых алгоритмов, перечень входных параметров (за исключением данных ограниченного распространения), источники данных для обучения и валидации, результаты тестирования на точность, полноту и иные метрики качества, а также историю обновлений и модификаций [7, С. 135]. Осужденный, чьи интересы затронуты прогнозом, должен иметь возможность на получение объяснение принятого алгоритмом решения в доступной форме, включая агрегированные показатели риска, без раскрытия проприетарных деталей модели. Реализация данного принципа требует внесения дополне- ний в ст. 83 УИК РФ в части создания ведомственного реестра алгоритмов оценки риска, а также корректировки Приказа Минюста России № 359 в части требований к документированию программных средств.

Принцип недискриминации и алгоритмической справедливости означает, что законодательство должно содержать прямой запрет на включение в модели искусственного интеллекта признаков, не имеющих доказанной статистической корреляции с прогнозируемым риском противоправного поведения, включая национальность, вероисповедание, политические убеждения, социальное происхождение за пределами релевантного криминологического контекста. Обязательным требованием здесь становится проведение регулярных (например, ежеквартальных) аудитов моделей на предмет систематической ошибки по защищенным атрибутам с публикацией обезличенных результатов аудита. Исследования, посвященные зарубежным вариантам применения прогнозной аналитики на основе искусственного интеллекта, анализируемые в работах [8-11], подтверждают, что без таких мер существуют риски, что предиктивная аналитика рецидива будет воспроизводить и усиливать социальные предубеждения, заложенные в исторических данных, что прямо нарушает ст. 19 Конституции РФ, гарантирующую равенство прав и свобод человека независимо от указанных признаков. В российском контексте данный принцип приобретает особую значимость в связи с полиэтническим составом осужденных и наличием значительного числа иностранных граждан, отбывающих наказание.

Принцип целевого использования и минимизации данных определяет, что обработка информации для целей прогнозирования должна быть строго ограничена задачами, прямо указанными в законе (обеспечение безопасности учреждений УИС, профилактика правонарушений, индивидуализация исполнения наказания, подготовка к освобождению). Необходимо законодательное закрепление запрета на сбор и хранение избыточных данных, не обладающих доказанной предиктивной силой, а также требования обязательной анонимизации или деперсонализации информации по истечении установленных сроков хранения. Представляется обоснованным установление предельного срока хранения данных, использованных для построения прогнозных моделей, например, не более пяти лет после освобождения лица, если иное не предусмотрено федеральным законом для целей статистики или научных исследований. Данный подход приводит с целесообразности дополнения Приказа Минюста России № 359 в части интеграции в ведомственное регулирование принципа минимизации данных, закрепленного в ст. 5 Федерального закона № 152-ФЗ «О персональных данных».

Принцип аудируемости (независимого контроля) подразумевает, что использование систем прогностической аналитики в учреждениях УИС должно быть объектом регулярного независимого аудита, включающего техническую проверку моделей (на устойчивость, корректность, отсутствие дискриминационных смещений) и процедурную проверку соблюдения установленных регламентов. Результаты аудитов подлежат включению в публичный реестр ФСИН России с обеспечением возможности их обжалования заинтересованными лицами. Аудируемость является контрмерой феномена «черного ящика», характерного для систем искусственного интеллекта, однако в предлагаемой модели аудит институционализируется как форма обязательного надзорного производства, результаты которого имеют юридическое значение для оценки законности применяемых алгоритмов. Данный принцип корреспондирует подходам, закрепленным в проекте Регламента ЕС об искусственном интеллекте (AI Act), классифицирующем системы оценки вероятности рецидива как высокорисковые и требующие проведения оценки соответствия до ввода в эксплуатацию [9, С. 110].

Принцип процессуальных гарантий и права на обжалование определяет, что осужденный подлежит уведомлению о факте применения в отношении него систем прогностической аналитики в доступной форме. Решения, вынесенные с использованием прогнозных данных, могут быть обжалованы в порядке, предусмотренном ст. 17 УИК РФ, при этом в перечень оснований для обжалования целесообразно включить ссылку на «использование результатов прогностической аналитики с нарушением установленных требований». При рассмотрении жалобы должны быть реализованы механизмы доступа к документации по модели и результатам ее аудита (в объеме, не содержащем государственную тайну), а также право приостанавливать исполнение решения до завершения проверки. Указанные меры обеспечивают действие принципов состязательности и презумпции невиновности в предиктивном контексте, не допуская ситуации, при которой алгоритмический прогноз приобретает характер неопровержимого доказательства.

Принцип юридической ответственности за вред, причиненный в связи с использованием ИИ-систем, устанавливает дифференцированное распределение ответственности между разработчиками, эксплуатантами и должностными лицами. Разработчик несет ответственность за дефекты модели, вкл ючая систематическую ошибку, превышающую допустимые пороговые значения (например, ошибку прогноза более 20 процентов), или за несоответствие заявленным характеристикам. Эксплуатант (учреждение или орган УИС) отвечает за нарушения процедур использования системы, несанкционированный доступ к данным и неправомерную передачу информации третьим лицам. Должностное лицо, принявшее решение на основе прогноза, несет дисциплинарную, а в случаях, предусмотренных ст. 293 УК РФ (ответственность за халатность), уголовную ответственность за игнорирование иных доказательств, явно противоречащих алгоритмическому прогнозу, или за необоснованное следование заведомо ошибочной рекомендации без должной проверки. Гражданско-правовая ответственность реализуется по общим правилам гл. 59 ГК РФ с учетом особенностей причинения вреда источниками повышенной опасности, если деятельность по эксплуатации ИИ-системы будет признана таковой. Предлагаемая модель делает ответственность проактивной, устанавливая четкие критерии разграничения компетенции и санкций за нарушения на каждом этапе жизненного цикла ИИ-системы.

Выводы

Предложенные правовые принципы образуют замкнутую систему правового регулирования, в которой контрольные механизмы (первый и второй принципы) обеспечивают легитимность вторжения в правовую сферу осужденного, гарантии справедливости (третий и четвертый принципы) предотвращают дискриминацию и избыточный сбор данных, а институциональные гарантии (пятый, шестой и седьмой принципы) создают механизмы подотчетности и восстановления нарушенных прав. Закрепление данной системы на законодательном уровне, в том числе, путем внесения дополнений в Уголовно-исполнительный кодекс РФ (в частности, дополнение ст. 83 положением о ведении реестра ИИ-систем и введение новой главы о цифровом надзоре и прогностической аналитике) позволяет задать четкие правила этичного и безопасного внедрения предиктивной аналитики в деятельность ФСИН России. Тем самым обеспечивается гармонизация курса на цифровую трансформацию в уголовно-исполнительной системе Российской Федерации с безусловным соблюдением конституционных прав граждан, отбывающих наказание, и сохранением базовых принципов пенитенциарного права.

Список литературы

1. Денисенко О. И., Жаров И. С., Кадралеева Ж. А. Использование систем идентификации личности для обеспечения безопасности на режимных объектах уголовно‑исполнительной системы // Вестник Самарского юридического института ФСИН России. 2024. № 4. С. 113-119.
2. Пекарева В.В., Фроловская Ю.И. Искусственный интеллект в уголовно-исполнительной системе // Право и государство: теория и практика. 2024. № 10. С. 329-331.
3. Ковалев С.Д. Перспективы использования искусственного интеллекта в исправительных учреждениях ФСИН России // Аграрное и земельное право. 2025. № 1. С. 241-243.
4. Царькова Е.Г., Кочкина О.В. Применение искусственного интеллекта при обработке данных в научной и образовательной деятельности Федеральной службы исполнения наказаний // Ведомости уголовно-исполнительной системы. 2022, № 9(244). С. 51-59.
5. Минаев В.А., Бондарь К.М., Федорович В.Ю. Биометрия защиты объектов: возможности и перспективы // Информация и безопасность. 2025. Т. 28, № 1. С. 47-56.
6. Хазиев Ш.Н., Штохов А.Н. Судебные экспертизы по делам об ошибочной биометрической идентификации // Теория и практика судебной экспертизы. 2024. Т. 19, № 3. С. 88-102.
7. Царькова Е.Г. К вопросу формирования обучающих датасетов для выявления источников распространения экстремистского контента в сети Интернет // Научно-технический вестник Поволжья. 2024. № 3. С. 134-136.
8. Пальянова Н.В. Использование искусственного интеллекта в сфере Legal Tech: современные возможности и перспективы // Социально-экономическое развитие и качество правовой среды: Труды VIII Моск. юрид. форума, XIX Междунар. науч.-прак. конф. Ч. 2. М.: МГЮА, 2021 С. 260-267.
9. Понкин И.В. Государственное управление и регуляторное пространство в сфере искусственного интеллекта // Вестник Университета имени О.Е. Кутафина (МГЮА). 2022, № 11 (99). С. 108-116.
10. Минбалеев А.В. Регулирование использования искусственного интеллекта в России // Информационное право. 2020. № 1. С. 36-39.
11. Понкин И.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91-109.

Скачать