Правовые аспекты применения искусственного интеллекта в служебной деятельности сотрудников ФСИН России

Введение

Цифровая трансформация уголовно-исполнительной системы Российской Федерации (УИС) в настоящее время постепенно переходит с уровня ведомственных дискуссий на уровень официального государственного планирования [1, С.63]. Концепцией развития уголовно-исполнительной системы Российской Федерации на период до 2030 года в качестве основных направлений развития УИС отмечаются проведение цифровой трансформации и научно-техническое развитие, создание и внедрение единой информационной системы ФСИН России, развитие систем сбора и обработки данных, принятие решений на основе результатов применения искусственного интеллекта, создание единого защищенного управляемого информационного пространства, а также использование видеоаналитики и прогнозирования поведения осужденных и сотрудников. Такая нормативная постановка вопроса меняет предмет научного анализа.

Речь идет уже не о возможности гипотетического применения технологий искусственного интеллекта (ИИ) в пенитенциарной сфере, а о правовых условиях допустимости их использования в текущей и перспективной служебной деятельности сотрудников ФСИН России. ИИ в данном случае выступает не как внешнее технологическое дополнение, а как потенциальный элемент управленческой инфраструктуры, влияющий на сбор, обработку, интерпретацию и использование информации в сфере охраны, надзора, обеспечения режима, медицинского сопровождения, организационного взаимодействия и кадровой подготовки [2, С.113]. Государственный курс на развитие таких технологий закреплен и в более широком нормативном контексте. Так, Указом Президента Российской Федерации от 10 октября 2019 г. № 490 утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года, направленная на ускоренное развитие искусственного интеллекта, проведение научных исследований, повышение доступности информации и вычислительных ресурсов, а также совершенствование системы подготовки кадров. Для УИС этот курс приобретает особое значение, поскольку пенитенциарное ведомство сочетает в своей деятельности властные полномочия, работу с ограничением свободы человека и обращение с информацией ограниченного доступа [3, С.330].

Материалы и методы

Юридическая специфика пенитенциарной сферы во-многом состоит в том, что любое цифровое средство здесь соприкасается с правовым статусом личности. В учреждениях УИС объектами обработки становятся сведения о подозреваемых, обвиняемых, осужденных, сотрудниках, режимной обстановке, медицинском обеспечении, перемещениях, коммуникациях и соблюдении установленных ограничений [4, С.198]. Поэтому алгоритмическая система в служебной деятельности сотрудников ФСИН России не может оцениваться исключительно по техническим критериям производительности, скорости или удобства использования. Для нее принципиальны правовые параметры: допустимость исходных данных, цель обработки, пределы использования результата, возможность проверки ошибки, соразмерность вмешательств [5, С.154]. Важно рассматривать правовые аспекты применения ИИ в служебной деятельности сотрудников ФСИН не в абстрактной форме, а через конкретные управленческие и режимные функции [6, С.241]. В наиболее общем виде такие функции можно разделить на четыре блока [7, С.53]. Первый блок образуют системы наблюдения и видеоаналитики, используемые для обеспечения безопасности, фиксации событий и реагирования на отклонения от режима. Второй блок составляют системы учета, маршрутизации и аналитической обработки данных о лицах и событиях внутри УИС. Третий блок связан с интеллектуальными справочными, экспертными и образовательными системами, которые могут использоваться для подготовки сотрудников, правовой навигации и поддержки принятия управленческих решений. Четвертый блок образуют прогнозные и классификационные алгоритмы, которые потенциально способны влиять на оценку рисков, распределение внимания персонала и выбор дальнейших мер реагирования.

Данный блок порождает наибольшее количество правовых вопросов [8, С.47]. Если технология ограничивается передачей сигнала о событии, например, о появлении постороннего объекта или нарушении заданной границы охраняемой территории, она остается в пределах технического сопровождения режима. Когда система начинает строить прогноз поведения, классифицировать уровень риска, формировать цифровой профиль или предлагать управленческое решение, возникает качественно иной режим правовой оценки. В этом случае алгоритм уже влияет не только на информационную обстановку, но и на структуру служебного усмотрения сотрудника [9, С.135]. Указанная проблема усугубляется тем, что в действующем нормативном массиве стратегические ориентиры цифрового развития сформулированы значительно полнее, чем специальные правовые принципы применения ИИ в служебной деятельности органов правопорядка [10, С.261]. В открытых нормативных актах не представлена завершенная специальная модель, которая бы детально разграничивала допустимые и недопустимые сценарии использования интеллектуальных систем именно в служебной деятельности сотрудников УИС.

Отсюда вытекает первая методологическая позиция настоящего исследования. По мнению автора, правовое регулирование ИИ в деятельности сотрудников ФСИН России должно строиться не вокруг абстрактного понятия «внедрение технологии», а вокруг юридически значимого служебного действия. Для правовой оценки важна не сама архитектура системы, а вопрос о том, какое служебное последствие она способна породить. Одна и та же технологическая платформа может использоваться либо как вспомогательный инструмент обработки информации, либо как механизм, фактически влияющий на решения о безопасности, режиме, контроле поведения, дисциплинарной реакции или организационной оценке деятельности персонала.

Из этого следует, что правовая модель применения искусственного интеллекта в служебной деятельности сотрудников ФСИН России должна быть многоуровневой. Первый уровень — уровень данных. Здесь определяется, какие катего- рии сведений допускаются к алгоритмической обработке, какова цель их использования, соответствует ли объем данных заявленной задаче и допускает ли правовой режим их обработку в конкретной цифровой системе. Следующий уровень — уровень алгоритма. На этой стадии оцениваются интерпретируемость модели, устойчивость результата, наличие ограничений на использование прогноза и способность системы работать в контролируемом правовом режиме, а не только в технически эффективном. Третий уровень — уровень служебного решения. Здесь решается вопрос о том, какое значение может иметь результат алгоритма для конкретного сотрудника: информационное, рекомендательное или фактически определяющее. Четвертый уровень — уровень последующего юридического контроля, где подлежат проверке обоснованность применения системы, корректность исходных данных, допустимость служебной реакции и возможность пересмотра спорного решения.

Результаты и обсуждение

Учет отмеченных выше факторов позволяет сформулировать систему специальных правовых принципов применения искусственного интеллекта в деятельности сотрудников ФСИН России.

Первый принцип состоит в нормативной определенности функции. Каждая применяемая ведомственная ИИ-система должна иметь ясно установленное служебное назначение, а не использоваться «по аналогии» для новых задач без отдельной правовой оценки. Следующий принцип — алгоритмическая интерпретируемость. Важно, чтобы сотрудник, использующий результат системы, понимал не внутреннюю программную математику в полном объеме, а юридически значимые основания применения результата: источник данных, тип события, смысл сигнала, пределы надежности и допустимые варианты реакции. Третий принцип заключается в запрете скрытого нормообразования [11, С.108]. Алгоритм не может превращать накопленные массивы прошлых решений или наблюдений в квазинормативный стандарт, который затем начинает действовать как самостоятельное правило поведения внутри учреждения. Далее, принцип, предусматривающий обязательный человеческий контроль. Формула о сохранении «человека в контуре управления» в пенитенциарной сфере не должна пониматься формально. Необходимо, чтобы сотрудник проверял основания применения алгоритмического результата, соотносил его с фактической ситуацией и принимал самостоятельное решение в пределах компетенции. Пятым принципом вводится разделение статуса данных и статуса вывода. Первичная информация и алгоритмический прогноз не тождественны. Документированный факт, видеозапись, медицинское заключение и машинно построенный рейтинг риска имеют различную правовую природу и не могут пользоваться одинаковым уровнем доверия. Шестой принцип — минимизация вмешательства. Если служебная задача может быть решена менее инвазивным цифровым средством, без формирования устойчивого профиля личности или без расширенного сбора персонализированных сведений, именно такой вариант должен считаться приоритетным. Далее, принцип усиленной защиты уязвимого адресата. Лицо, находящееся в местах лишения свободы или под стражей, изначально ограничено в свободе действий, доступе к коммуникациям и возможностях защиты своих интересов. Это повышает требования к правовой осторожности при использовании алгоритмов, способных влиять на условия содержания, режим контроля, интенсивность наблюдения или организацию обращения с человеком. И, наконец, восьмой принцип вводит двухконтурный аудит. Любая система, применяемая в деятельности ФСИН России, должна быть подотчетна не только в момент внедрения, но и на стадии последующей эксплуатации. Ошибки, ложные срабатывания, спорные сигналы и последствия использования системы должны становиться предметом постоянной ведомственной и правовой проверки.

Отдельного внимания заслуживает связь цифровизации и кадровой политики. В Концепции развития УИС на период до 2030 года отмечается необходимость повышения эффективности служебной деятельности и формирования профессионального кадрового потенциала.

Национальная стратегия развития искусственного интеллекта также включает совершенствование системы подготовки кадров. Поэтому правовое регулирование ИИ в уголовно-исполнительной системе Российской Федерации не может ограничиваться вопросами эксплуатации оборудования и программного обеспечения. Оно должно включать обязательную подготовку сотрудников к работе с интеллектуальными системами, обучение правовым ограничениям алгоритмического анализа, формирование навыков интерпретации цифровых сигналов и понимания различия между технической рекомендацией и юридически значимым решением.

Практическая потребность в такой подготовке подтверждается самим характером информационного обеспечения ФСИН России, поскольку современная ведомственная цифровая среда многослойна. В ней сосуществуют инфраструктурные, аналитические, режимные, организационные и образовательные решения. Чем сложнее становится эта среда, тем опаснее полагаться лишь на общее ведомственное усмотрение без специальной правовой модели.

В научном отношении проблема выходит за пределы ведомственного администрирования, затрагивая соотношение информационного права, уголовно-исполнительного права, административного права и формирующегося направления, которое все чаще связывают с правовым регулированием искусственного интеллекта. Для ФСИН России это соотношение имеет прикладное значение. Уголовно-исполнительное право задает пределы обращения с осужденным и цели исполнения наказания. Информационное право определяет режимы доступа, защиты и обработки сведений. Административное право отвечает за законность деятельности публичной администрации и организацию контроля. Право искусственного интеллекта, если использовать этот термин как рабочую конструкцию, призвано соединить эти блоки применительно к новым алгоритмическим средствам управления [12, С.37]. Перспективной представляется разработка специального ведомственного механизма правовой сертификации ИИ-систем, применяемых в ФСИН России, включая конструктивный контур регулирования. Такой контур может включать реестр ИИ-систем по уровням риска; паспорт системы с описанием ее функций, используемых данных и правовых ограничений; запрет на применение непрозрачных алгоритмов в ситуациях, где результат способен затронуть правовой статус личности; процедуру ведомственного и внешнего аудита; механизм фиксации и оспаривания ошибок; а также специальные программы подготовки сотрудников. Наличие подобного набора инструментов служит гармонизации цифровой трансформации ФСИН России с принципами законности, гуманизации и защиты прав человека.

Выводы

Искусственный интеллект, используемый в служебной деятельности сотрудников ФСИН России, представляет собой не только технологический ресурс, но и самостоятельный юридический вызов. Перспективы его применения очевидны: повышение точности наблюдения, ускорение обработки информации, развитие аналитических возможностей, поддержка управленческих решений, создание единой цифровой среды. Но эти перспективы становятся правомерными лишь при условии, что интеллектуальные системы будут встроены в четкий нормативный контур, исключающий подмену права автоматизированным усмотрением. Дальнейшее развитие рассматриваемой проблематики связано с выработкой специальной отраслевой модели, в которой служебная целесообразность, техническая эффективность и правовая допустимость рассматриваются как взаимосвязанные, но не совпадающие основания применения искусственного интеллекта в учреждениях и органах УИС.