Система правовых принципов внедрения технологий искусственного интеллекта в деятельность образовательных организаций ФСИН России

Введение

Цифровая трансформация уголовно-исполнительной системы Российской Федерации (УИС), являясь частью общегосударственной стратегии научно-технологического развития, актуализирует вопрос о внедрении систем искусственного интеллекта (ИИ) в деятельность организаций профессионального высшего образования ФСИН России. Эти организации выполняют специфические функции, являясь не только потребителями интеллектуальных образовательных технологий, но и средой формирования профессионального правосознания будущих сотрудников, наделенных правом применения мер принуждения и обеспечения режима в местах лишения свободы.

Перспективы использования ИИ здесь видятся в персонализации подготовки курсантов с учетом их психофизиологических особенностей, внедрении интеллектуальных тренажеров для отработки действий в экстремальных ситуациях, а также в создании аналитических систем прогнозирования успеваемости и рисков дезадаптации.

Вместе с тем, как показывает анализ исследований, активное развитие интеллектуальных образовательных технологий обнаруживает ряд концептуальных противоречий, обусловленных фрагментарностью правового регулирования [1, с.408; 2, с.137]. Существующие подходы, закрепленные в стратегических документах и научной литературе, ориентированы преимущественно на гражданские вузы, функционирующие в открытых экосистемах с возможностью использования регуляторных «песочниц» и зарубежных платформ [1-3]. Для ведомственного профессионального образования ФСИН России, характеризующегося повышенными требованиями информационной безопасности и условиями работы со сведениями ограниченного распространения, такие подходы неприемлемы без существенной трансформации.

С учетом специфики деятельности образовательных организаций ФСИН России, во многом определяющейся тем, что процесс обучения здесь неразрывно связан с формированием компетенций, прямо влияющих на обеспечение прав и свобод осужденных, деформация профессионального правосознания, которая может возникнуть при некритичном использовании генеративных моделей или непрозрачных алгоритмов оценки, несет риски не только академического, но и правоприменительного характера. В этой связи возникает объективная потребность в выработке специального правового инструментария, который позволил бы реализовать потенциал ИИ, одновременно минимизируя риски для участников образовательного процесса и обеспечивая соблюдение требований безопасности.

В научной дискуссии о правовом регулировании ИИ в образовании доминируют подходы, связанные с этической стандартизацией или закрепле- нием общих принципов на уровне национальных стратегий [3, с.61]. Однако применительно к образовательным организациям ФСИН России вопрос о создании иерархически выстроенной системы правовых принципов, адаптированных к пенитенциарной специфике и обладающих императивным характером, остается недостаточно разработанным. Настоящее исследование направлено на восполнение данного пробела. Целью работы является обоснование системы правовых принципов внедрения ИИ в деятельность образовательных организаций ФСИН России, которая может выступить доктринальной основой для последующей нормотворческой деятельности пенитенциарного ведомства.

Материалы и методы

Решение проблемы правовой неопределенности, сопутствующей внедрению ИИ в образовательный процесс ведомственных вузов, лежит в плоскости перехода от фрагментарных этико-технических рекомендаций к формированию системного императивного фундамента. Таким фундаментом может выступить система специальных правовых принципов, закрепленных на уровне ведомственного нормативного акта. В отличие от общих деклараций, содержащихся в национальных стратегиях, данные принципы призваны выполнять функцию непосредственного регулятора, учитывающего двойственную природу образовательных организаций ФСИН России: как институтов профессиональной подготовки и как режимных объектов, обеспечивающих безопасность.

В основу предлагаемой системы положена методология, учитывающая, с одной стороны, доктринальные подходы к ограничению автономии алгоритмов в публично-правовых сферах [4, с.107], а с другой – императивы защиты прав личности, вытекающие из конституционных гарантий и специфики работы с персональными и биометрическими данными [5, с.8; 6, с.115]. Критическое осмысление общих рисков применения ИИ в образовании, включая снижение творческого потенциала, нарушение академической этики, алгоритмическая предвзятость, в контексте пенитенциарной системы позволяет вывести пять ключевых принципов, каждый из которых представляет собой не просто этическое пожелание, а правовое требование, обусловленное ведомственной спецификой.

Результаты и обсуждение

Базовым принципом может служить принцип человекоцентричности и сохранения воспитательного потенциала. В исследованиях по ИИ в образовании подчеркивается, что даже при высокой степени автоматизации адаптивных курсов и интеллектуальных наставников роль преподавателя как носителя ценностей и модератора учебного взаимодействия не исчезает [7, с.330]. Для ведомственных вузов ФСИН России этот тезис приобретает императивное значение: преподаватель остается главным субъектом воспитания правосознания и формирования профессионально значимых качеств (толерантность к стрессу, готовность к ненасильственным способам разрешения конфликтов, уважение к правам осужденных). Системы искусственного интеллекта могут оптимизировать рутинные операции, например, проверку выполнения отдельных заданий, но не вправе подменять собой воспитательный диалог и личностный пример сотрудника УИС.

Далее может быть выделен принцип алгоритмической прозрачности и объяснимости как нормативного требования к системам ИИ, применяемым при оценке знаний и навыков. В международной и российской доктрине объяснимость ИИ связывается с возможностью проследить ход принятия решения и предоставить человеку интерпретируемое обоснование результата [8, с.242; 9, с.53]. Для образовательных организаций ФСИН России алгоритмическая прозрачность должна включать верифицируемость критериев и процедур, по которым ИИ оценивает готовность курсанта к несению службы с возможностью использования специальных средств, доступа к оперативной информации или работе на особо охраняемых объектах. Если система ИИ рекомендует допуск к службе либо, напротив, указывает на недостаточную подготовку, преподаватель и сам обучающийся должны иметь возможность понять, какие показатели (результаты проверки заданий, поведение в симуляциях, ошибки в ситуационных задачах) привели к такому выводу. В противном случае возрастает риск произвольного ограничения прав обучающегося, не подкрепленного прозрачными основаниями.

Третий принцип состоит в ограничении автономии ИИ и сохранении научно- технологического суверенитета. В проанализированных работах неоднократно подчеркивается, что многие популярные ИИ-сервисы функционируют на инфраструктуре зарубежных компаний и предполагают обработку данных на внешних серверах [10, с.55]. Для организаций ФСИН России, обрабатывающих персональные и биометрические данные, а также информацию ограниченного распространения, использование подобных облачных ИИ-решений находится в прямом противоречии с задачами обеспечения национальной безопасности. Целесообразны закрепление запрета на использование в образовательном процессе организаций ФСИН России систем ИИ, передающих данные за пределы контролируемого контура, и установка требований применения только сертифицированных отечественных решений, прошедших аудит на соответствие требованиям информационной безопасности.

Например, недопущение использования облачных сервисов генеративного ИИ для проверки письменных работ курсантов, если обработка данных осуществляется на серверах, физически расположенных за пределами Российской Федерации либо не включенных в перечень разрешенной ведомственной инфраструктуры.

Следующий правовой принцип определяется как требование минимизации рисков и защиты прав субъектов образовательного процесса. Поскольку применение ИИ повышает значимость защиты персональных и биометрических данных обучающихся, а также требует разработки механизмов недопущения дискриминации и необоснованного вмешательства в частную жизнь, для системы образования ФСИН России целесообразно конкретизировать этот принцип через установление специальных режимов обработки данных курсантов и сотрудников, запрет на использование ИИ для принятия окончательных решений об отчислении, допуске к экзаменам, назначении на должности или иных решениях, влияющих на правовой статус обучающегося, без участия должностного лица. Система ИИ может формировать рекомендации, рейтинги, предварительные оценки, но юридически значимое решение принимает уполномоченный преподаватель или руководитель, который несет персональную ответственность и способен аргументировать свое решение с учетом, а не во исполнение алгоритмического вывода.

Пятый принцип – профессиональной и этической адаптации – ориентируется на формирование у обучающихся компетенции «критического пользователя» ИИ. В работах [11, с.89; 12, с.135] подчеркивается, что образовательные программы, интегрирующие ИИ, должны включать элементы объяснения ограничений технологий, разъяснение возможности ошибок и предвзятости, а также механизмов проверки достоверности результатов. Для обучающихся и сотрудников образовательных организаций ФСИН России важно формирование специальных компетенций, включающих умение использовать ИИ-сервисы как вспомогательный инструмент при подготовке к занятиям, анализе правовых ситуаций и отработке практических навыков при сохранении приоритетности самостоятельного юридического суждения и осознания собственной ответственности за последствия принятых решений. Ведомственные стандарты могут предусматривать включение в учебные планы модулей по правовым и этическим аспектам применения ИИ, а также разработку кейсов, в которых курсанты анализируют ошибки ИИ и вырабатывают корректные с точки зрения права и профессиональной этики решения. Исходя из обозначенной системы принципов, представляется целесообразным институционализировать функцию контроля за внедрением ИИ в систему ведомственного профессионального образования ФСИН России.

Дополнительно может быть предложена модель «уровней допуска» ИИ к образовательному процессу. На нижнем уровне допуска ИИ-сервисы используются исключительно для автоматизации рутинных операций (оптимизация расписания, учет посещаемости, техническая проверка заданий) без принятия решений, влияющих на права обучающихся. На промежуточных уровнях допуска возможно применение ИИ для формирования рекомендаций по индивидуальным траекториям обучения, предварительной оценки результатов симуляций и тренажеров при условии обязательного последующего рассмотрения преподавателем. На верхнем уровне, охватывающем итоговую аттестацию, особенности несения службы, назначение на должности, использование ИИ для принятия решений либо категорически исключается, либо допускается только как вспомогательный инструмент анализа, не имеющий самостоятельной юридической силы. Представленная система правовых принципов применения ИИ в профессиональной подготовке сотрудников ФСИН России опирается на выявленные направления цифровой трансформации образования, концепцию цифровой зрелости, классификации технологий и анализ рисков, но переводит их с уровня общих оценок на уровень ведомственно-ориентированных императивов. Предложенная модель может служить теоретическим каркасом для разработки проектов ведомственных положений, методических рекомендаций и регламентов внедрения ИИ в образовательный процесс вузов ФСИН России.

Выводы

Проведенное исследование подтверждает, что общие подходы к правовому регулированию искусственного интеллекта в высшем образовании, ориентированные на экспериментальные правовые режимы и локальное нормотворчество гражданских вузов, не могут быть механически перенесены в образовательные организации ФСИН России. Специфика ведомственного образования, выражающаяся в особых требованиях информационной безопасности, а также в характере формируемых компетенций, связанных с применением мер принуждения и обеспечением прав осужденных, требует выработки самостоятельного правового фундамента. В качестве такого фундамента может быть рассмотрена система из пяти правовых принципов: человекоцентричности и сохранения воспитательного потенциала, алгоритмической прозрачности и объяснимости, ограничения автономии и сохранения суверенитета, минимизации рисков и защиты прав участников образовательного процесса, профессиональной и этической адаптации. Данные принципы не являются декларативными, они задают пределы допуска алгоритмов в образовательный процесс, обеспечивая баланс между задачами цифровой трансформации и необходимостью защиты прав личности, сохранения суверенитета образовательного процесса и формирования у будущих сотрудников УИС адекватного профессионального правосознания.