Анализ рисков и правовых ограничений внедрения искусственного интеллекта в образовательных организациях ФСИН России

• ЦАРЬКОВА Евгения Геннадьевнакандидат физико-математических наук, ведущий научный сотрудник ФКУ НИИ ФСИН России, 0000-0002-5610-9895university69@mail.ru

В условиях современного активного внедрения систем искусственного интеллекта (ИИ) в сферу высшего образования актуализируются вопросы, связанные с фрагментарностью правового регулирования и смещением акцента на этические и технические стандарты применения ИИ в профессиональной подготовке сотрудников организаций. В ведомственном образовании ФСИН России данный тренд накладывается на необходимость соблюдения особых требований по обеспечению информационной безопасности и подготовку сотрудников, наделенных правом применения мер принуждения. В работе на основе системного анализа отечественных реалий применения ИИ в образовании и стратегических документов в области цифровой трансформации автором обосновывается модель правовых принципов применения ИИ в профессиональной подготовке сотрудников УИС, включая пять ключевых принципов: человекоцентричности и сохранения воспитательного потенциала, алгоритмической прозрачности и объяснимости, ограничения автономии и сохранения суверенитета, минимизации рисков и защиты прав участников образовательного процесса, профессиональной и этической адаптации. Показано, что общие подходы к регулированию ИИ в высшей школе (экспериментальные правовые режимы, выработка стратегий, локальное нормотворчество вузов) в чистом виде непригодны для образовательных организаций высшего образования ФСИН России и требуют трансформации с учетом ведомственной специфики. Предложены направления совершенствования нормативно-правового обеспечения в сфере применения технологий ИИ в образовательном процессе вузов ФСИН России. Сделан вывод о целесообразности выработки системы специальных правовых принципов как основы для будущей нормотворческой деятельности ФСИН России в сфере цифровой трансформации ведомственного профессионального образования.

Ключевые слова: искусственный интеллект, цифровая зрелость, ведомственное профессиональное образование, защита персональных данных, адаптивное обучение, алгоритмическая прозрачность, биометрические данные, уголовно-исполнительная система Российской Федерации

Введение

В условиях современного активного внедрения искусственного интеллекта (ИИ) в процессы государственного управления применение интеллектуальных технологий в ведомственном профессиональном образовании ФСИН России трансформируется из факультативного направления цифровизации в ключевой инструмент повышения управляемости и качества подготовки кадров для уголовно-исполнительной системы Российской Федерации (УИС). На уровне государственной политики сегодня ИИ рассматривается как один из базовых драйверов научно‑ технологического суверенитета, при этом органы и учреждения УИС включаются в данный контур через задачи цифровой трансформации, мониторинга оперативной обстановки и управления сложными социально-техническими системами.

В такой конфигурации образовательные организации ФСИН России оказываются не просто потребителями готовых решений, а площадкой, где формируются компетенции обращения с ИИ у будущих сотрудников, принимающих правоприменительные решения.

Для профессионального ведомственного образования технологии искусственного интеллекта открывают ряд перспективных направлений внедрения интеллектуальных систем, включая персонализацию подготовки курсантов и слушателей с учетом особенностей службы, использование интеллектуальных тренажеров для отработки действий в экстремальных ситуациях, внедрение диалоговых систем для анализа правовых кейсов и алгоритмов работы с осужденными. При этом расширяются возможности аналитической поддержки управленческих решений руководства образовательных организаций ФСИН России за счет использования аналитических систем прогнозирования успеваемости для раннего выявления рисков профессионального выгорания или дезадаптации обучающихся. Перспективность внедрения ИИ здесь определяется не только возможностями по оптимизации рутинных операций, но и потенциалом по заданию нового стандарта качества подготовки сотрудников УИС. Вместе с тем экстенсивное развитие интеллектуальных образовательных технологий обнаруживает ряд концептуальных противоречий, требующих углубленного научного анализа с учетом специфики их применения учебном процессе образовательных учреждений ФСИН России.

Материалы и методы

Фундаментальные подходы к структурированию правового регулирования ИИ в образовании, предложенные в научной литературе, задают общую матрицу анализа. Так, в работах [1, с.409] авторы Пашнина Т.В. и Винокурова М.А. подчеркивают необходимость учета правовых ограничений применения ИИ в образовательной деятельности, отмечая, что правовое регулирование применения технологий ИИ в высшем образовании должно складываться из двух блоков: общего регулирования ИИ и специальных норм об использовании ИИ непосредственно в образовательной деятельности, причем второй блок распадается на правовые, этические и технические стандарты. В работе [1, с.410] цифровая трансформация образования связывается с достижением показателей «цифровой зрелости» отрасли как ключевого ориентира государственной поли- тики. Для образовательных организаций ФСИН России эта логика усложняется задачей по достижению цифровой зрелости одновременно с сохранением режимных ограничений, связанных с защитой сведений ограниченного доступа и подготовкой сотрудников, применяющих меры принуждения в местах лишения свободы.

Если первый блок исследований фокусируется на нормативной архитектуре, то второй раскрывает технологический стек технологий внедрения ИИ в высшее образование. В работе [2, с. 138] систематизируются направления использования ИИ в высшем образовании: «умные» помощники, роботизированные системы, адаптивные обучающие платформы, системы киберпрокторинга, сервисы автоматизированного перевода и генерации учебного контента. В исследовании [3, с. 61] данный перечень групп дополняется указанием на интеграцию ИИ в системы управления обучением (LMS), интеллектуальные рекомендательные сервисы и автоматизированные оценочные модули. Эти классификации не учитывают специфики подготовки сотрудников УИС, но задают технологический горизонт, к которому неизбежно будет тянуться ведомственное образование ФСИН России при реализации национальной Стратегии развития искусственного интеллекта и отраслевых концепций цифровой трансформации.

Исходя из указанных исследовательских подходов (нормативного и технологического), проблему применения ИИ в профессиональной подготовке сотрудников ФСИН России можно сформулировать как задачу выработки правовых пределов допуска алгоритмов в образовательный процесс, в котором формируются компетенции по применению силы, обеспечению прав осужденных и обращению с информацией ограниченного распространения. В отличии от гражданских вузов, где нарушение академической честности в виде использования ИИ, например, при написании самостоятельных или дипломных работ имеет преимущественно академико-репутационные последствия, в системе ФСИН России деформация профессионального правосознания курсанта под влиянием генеративных моделей, прямо влияет на его будущие решения по режиму содержания осужденных и применению правоприменительных мер. В анализируемых источниках отсутствуют данные о специальных эмпирических исследованиях влияния генеративных моделей на профессиональное правосознание курсантов силовых и пенитенциарных вузов, соответственно, нормативная конструкция для ФСИН России должна опережать эмпирику и строиться на принципах предосторожности и минимизации рисков.

Общие подходы к регулированию ИИ в образовании, представленные в рассмотренных работах, предусматривают использование экспериментальных правовых режимов (регуляторных «песочниц») для отработки новых технологий, общее планирование через национальные стратегии и программы цифровой трансформации, а также развитие локального нормотворчества вузов (включая разработку положений об использовании ИИ, кодексы академической честности, регламенты киберпрокторинга). Эти подходы ориентированы на относительно открытые университетские экосистемы, включенные в рынок образовательных IT-решений и международные академические коммуникации. Однако в образовательных организациях ФСИН России значимая часть учебного процесса может быть связана с работой с информацией ограниченного распространения, отработкой действий в условиях ЧС, оперативно-служебной деятельностью и обращением с персональными и биометрическими данными осужденных и сотрудников. При таких исходных условиях открытые регуляторные песочницы, использование зарубежных платформ и автономных облачных сервисов с передачей данных на внешние серверы противоречат требованиям информационной безопасности, которые уже закреплены в специальных актах, регулирующих деятельность УИС.

Результаты и обсуждение

Перспективы применения ИИ в профессиональном образовании ФСИН России с учетом пенитенциарной специфики расширяются на применение интеллектуальных платформ персонализированного обучения, адаптирующих содержание и темп курса под индивидуальные особенности обучающегося с учетом уровня усвоения правовых норм и навыков стрессоустойчивости, фиксируемых в ходе симуляционных занятий.

Отдельным перспективным направлением является применение диалоговых интеллектуальных систем (чат‑ботов, виртуальных ассистентов), включая как голосовых помощников (Siri, Google Assistant, Cortana, Alexa), так и специализированные боты, интегрированные в электронную образовательную среду (LMS). В контексте ведомственного профессионального образования их функционал может охватывать консультирование курсантов по вопросам режимных требований, изучение алгоритмов действий при чрезвычайных ситуациях, заполнение процессуальных документов, работу с программным обеспечением специального назначения и др. Использование генеративных моделей для таких задач без жестких ограничений несет риск выдачи некорректных ответов, поскольку, как показывает пример применения ChatGPT в университетской среде, модель может генерировать формально корректные, но юридически неверные тексты [4, с. 106]. Для пенитенциарной системы это означает потенциальное формирование у курсанта искаженных представлений о пределах применения силы или основаниях дисциплинарной ответственности осужденных.

Адаптивное обучение, детально описанное в [4] через анализ зарубежных систем, опирается на постоянный сбор и обработку данных об обучающемся, включая успеваемость, поведение в системе LMS, временные паттерны активности. Для ведомственных вузов этот массив потенциально может быть расширен сведениями о психологической устойчивости, результатами медицинских осмотров, возможно, биометрическими данными, если они включены в систему контроля доступа или киберпрокторинга [5, с. 8]. В проанализированных правовых исследованиях вопрос о допустимости объединения учебных и психофизиологических данных в единых системах ИИ не разработан, прямо указаны лишь общие требования к защите персональных данных и риски утечки информации, что порождает правовую неопределенность в рассмотрении перспектив внедрения подобного рода систем в учебный процесс.

Таким образом, несмотря на общие оптимистичные перспективы, применение ИИ в образовательном процесс вуза имеет и ряд ограничивающих факторов. В работе [1, с. 411] авторы указывают на три ключевых негативных эффекта широкого использования ИИ в образовании:

нарушение норм академической этики при использовании генеративных инструментов, снижение творческого потенциала студентов, усиление клипового мышления. В [2, с. 137] отмечается учащение случаев, когда студенты передают ИИ значительную часть интеллектуальной работы, что снижает уровень сформированности компетенций для самостоятельного анализа и аргументации. В ведомственном профессиональном образовании УИС эти риски могут проявиться в форме деформации профессионального правосознания: ученик, привыкший получать готовые решения от алгоритма, менее готов к оценке нестандартных конфликтных ситуаций, связанных с правами осужденных, и к внутреннему принятию ценностей законности и гуманизма. В работе [4] систематизированы риски применения ИИ в образовании в четыре группы: конструктивные дефекты интеллектуальных тьюторских систем, недостаточная результативность персонализированного обучения, проблемы безопасности данных и конфиденциальности, вопросы справедливости и недискриминации. В [3, с. 60] в качестве факторов риска отдельно выделены угрозы утечки персональных данных и недобросовестного использования ИИ для массового производства учебных работ. Для образовательных организаций ФСИН России указанные общие риски дополняются специфическими угрозами информационной безопасности ведомственных информационно-телекоммуникационных сетей, возможной алгоритмической предвзятостью при оценке психологической пригодности к службе, смещением ответственности за образовательные решения с преподавателя на рекомендации алгоритма [6, с.114; 7, с.330; 8, с.242].

Для образовательных организаций высшего профессионального образования ФСИН России общегосударственные этические кодексы и отраслевые стратегии не могут рассматриваться как достаточная гарантия баланса между задачами цифровой трансформации и защитой прав осужденных, курсантов, сотрудников [9, с.52; 10, с.49]. В условиях ориентированности ведомственной системы на вертикаль подчиненности, развитую систему служебной дисциплины и особый режим обращения с информацией, в такой структуре отказ от императивных норм в пользу рекомендательных этических и технических стандартов усиливает риск произвольных решений на уровне вуза [11, с.89; 12, с.134].

Выводы

С учетом сделанных выводов о фрагментарности действующего регулирования ИИ в образовании, уголовно-исполнительной системы Российской Федерации оправдана выработка самостоятельного ведомственного акта, определяющего положения об особенностях применения технологий искусственного интеллекта в образовательном процессе образовательных организаций ФСИН России. Такой акт должен опираться на принципы, выведенные из общих ограничений по ИИ, но адаптированные к пенитенциарным задачам, включая принципы человекоцентричности и сохранения воспитательного потенциала, алгоритмической прозрачности и объяснимости, ограничения автономии и сохранения суверенитета, минимизации рисков и защиты прав участников образовательного процесса, профессиональной и этической адаптации. Разработка подобного акта является основой не только для устранения правовой неопределенности, но и базой для безопасного и этичного использования инновационных технологий, способных повысить качество образования и эффективность профессиональной подготовки сотрудников для уголовно-исполнительной системы Российской Федерации.

Список литературы

1. Пашнина Т.В., Винокурова М.А. Современные проблемы применения и регулирования технологий искусственного интеллекта в сфере высшего образования // Образование и право. 2024. № 4. С. 406-411.
2. Абдусаламов Р.А. Основные направления правового регулирования использования искусственного интеллекта в сфере высшего образования // Юридический вестник ДГУ. 2024. Т. 52, № 4 (72). С. 135-143
3. Давудова С.Я., Рагимханова К.Т. Правовое регулирование искусственного интеллекта в образовании // Закон и право. 2025. № 3. С. 57-62.
4. Чжан Линьци. Использование искусственного интеллекта в образовании // Гуманитарный вектор. 2025. Т. 20, № 1. С. 105-112.
5. Андреева Е.А., Беляев А.К., Еремин Ю.М., Царькова Е.Г. Методы биометрической идентификации на основе применения нейросетевых технологий / // Информационные технологии в УИС. 2019. № 3. С. 2-10.
6. Денисенко О. И., Жаров И. С., Кадралеева Ж. А. Использование систем идентификации личности для обеспечения безопасности на режимных объектах уголовно‑исполнительной системы // Вестник Самарского юридического института ФСИН России. 2024. № 4. С. 113-119.
7. Пекарева В.В., Фроловская Ю.И. Искусственный интеллект в уголовно-исполнительной системе // Право и государство: теория и практика. 2024. № 10. С. 329-331.
8. Ковалев С.Д. Перспективы использования искусственного интеллекта в исправительных учреждениях ФСИН России // Аграрное и земельное право. 2025. № 1. С. 241-243.
9. Царькова Е.Г., Кочкина О.В. Применение искусственного интеллекта при обработке данных в научной и образовательной деятельности Федеральной службы исполнения наказаний // Ведомости уголовно-исполнительной системы. 2022, № 9(244). С. 51-59.
10. Минаев В.А., Бондарь К.М., Федорович В.Ю. Биометрия защиты объектов: возможности и перспективы // Информация и безопасность. 2025. Т. 28, № 1. С. 47-56.
11. Хазиев Ш.Н., Штохов А.Н. Судебные экспертизы по делам об ошибочной биометрической идентификации // Теория и практика судебной экспертизы. 2024. Т. 19, № 3. С. 88-102.
12. Царькова Е.Г. К вопросу формирования обучающих датасетов для выявления источников распространения экстремистского контента в сети Интернет // Научно-технический вестник Поволжья. 2024. № 3. С. 134-136.

Скачать