Уголовно-правовые риски и ограничения применения робототехнических систем в учреждениях ФСИН России: теоретико-правовой анализ

Введение

Технологический переход к использованию робототехнических систем в деятельности учреждений ФСИН России формирует новую конфигурацию уголовно-правовых рисков, поскольку сочетает высокую причиняющую способность роботов с высокой концентрацией уязвимых объектов в пенитенциарной среде [1, с.14]. Анализ уголовно-правовой охраны общественных отношений, связанных с робототехникой, показывает, что роботы рассматриваются как сложные цифровые объекты с программной и аппаратной составляющими и обладают автономным причиняющим потенциалом, который увеличивается по мере развития технологий искусственного интеллекта [2, с.64]. Для учреждений УИС этот фактор приобретает особое значение, поскольку, например, даже ограниченная по массе полезная нагрузка беспилотного летательного аппарата способна обеспечить доставку запрещенных предметов в зону режима, а оснащение робота взрывным устройством трансформирует единичный инцидент в угрозу массового поражения осужденных и личного состава исправительного учреждения.

Материалы и методы

Робототехническая система в контексте деятельности ФСИН России может быть определена как совокупность программной и технической подсистем, предназначенная для выполнения охранных, надзорных, транспортных и досмотровых функций в условиях изоляции осужденных, при этом часть решений при использовании такой системы принимается в автоматическом режиме. Специализированный робот может рассматриваться как сложный объект, включающий программное обеспечение, определяющее набор функций и пределов действий, и аппаратную часть, представленную конструктивными элементами, приводами, датчиками, радарами и иными сенсорными компонентами. Такая конструктивная характеристика в условиях функционирования учреждений УИС означает, что одна и та же робототехническая система одновременно выступает и как объект уголовно-правовой охраны (имущество, оснащенное специфическими функциями контроля и воздействия), и как средство совершения преступления (например, при доставке запрещенных предметов на территорию учреждения), и как как техническая инфраструктура, обеспечивающая исполнение наказания (например, система автоматизированного интеллектуального видеонаблюдения).

Применение технологий искусственного интеллекта ведет к повышению степени автономности роботов и усложняет вопрос определения субъекта ответственности за возможный причи- ненный вред. В условиях УИС аналогичная проблема может проявляться в задачах автоматического применения принудительных мер (например, включение звукового или светового воздействия, блокировка дверей, распределение охранных ресурсов), когда автономный алгоритм фактически завершает объективную сторону возможного преступления (например, причинение вреда здоровью через некорректное использование специальных средств) при минимальном участии оператора [3, с.330; 4, с.160; 4, 5.153]. Перспективные направления применения робототехнических систем в деятельности ФСИН России можно сгруппировать по четырем основным функциональным блокам: охрана внешнего периметра, внутренний надзор за поведением осужденных, доставка грузов, а также досмотр и мониторинг. Возможность перемещения роботов по грунту, в воздушной и водной среде, а при необходимости и в подземном пространстве, служит предпосылкой для использования их в деятельности учреждений УИС как в качестве наземных патрульных платформ, так и в виде беспилотных летательных аппаратов (БПЛА) для воздушной разведки и контроля периметра [6, с.242; 7, с.53]. Современная тенденция к росту полезной нагрузки беспилотных систем и повышению их энергообеспечения увеличивает не только их полезный потенциал для применения в деятельности пенитенциарного ведомства, но и приводит к росту угроз использования робототехники для противоправных действий [8, с.50; 9, с.134]. Системное внедрение робототехники в учреждениях ФСИН России обуславливает необходимость рассмотрения ряда проблемных правовых вопросов. Первый из них связан с тем, что в действующем УК РФ отсутствуют легальные определения «робототехническая система», «автономная интеллектуальная система» и «искусственный интеллект», что затрудняет формирование однозначной практики квалификации деяний, совершенных с их использованием.

Далее, общие положения об обстоятельствах, отягчающих наказание, охватывают только случаи использования «специально изготовленных технических средств», что не позволяет учесть использование серийных робототехнических платформ при внезапно возникшем умысле на совершение преступления. И, наконец, признаки состава преступления, характеризующие средства совершения преступления (оружие, взрывные устройства, средства вычислительной техники), не включают робота как индивидуально-неповторимый объект, совмещающий свойства нескольких категорий одновременно.

С учетом данных факторов возникает задача перехода от общей концепции уголовно-правовой охраны общественных отношений, связанных с робототехникой, к конструированию уголовно-правовых ограничений применения робототехнических систем в пенитенциарных учреждениях. Под правовыми рисками в таком контексте следует понимать риски неверной квалификации деяний, связанных с роботами, возникновения ситуаций отсутствия субъекта уголовной ответственности, нарушения прав осужденных и сотрудников вследствие непрозрачной работы алгоритмов, а также неадекватного распределения ответственности между участниками разработки и эксплуатации роботов. В деятельности ФСИН России эти риски усиливаются особым статусом осужденного, режимным характером территории и повышенными требованиями к обеспечению безопасности и охраны здоровья лиц, находящихся под стражей [10, с.265].

Повышенная причиняющая способность робототехнических систем выступает ключевой объективной предпосылкой установления специальных уголовно-правовых ограничений их применения в УИС. Роботы обладают увеличенным причиняющим потенциалом по сравнению с традиционными материальными объектами благодаря сочетанию мобильности, возможности переносить грузы значительных габаритов и массы, использоваться для доставки взрывчатых веществ и координированных действий группы устройств. Например, скоординированное применение нескольких БПЛА для одновременной доставки оружия в разные участки колонии способно радикально изменить баланс сил при групповых неповиновениях, но в действующей модели уголовно-правовой оценки такой сценарий не находит отражения как качественно иной по уровню общественной опасности.

Сложная природа робота как объекта уголовно-правовой охраны в учреждениях ФСИН России проявляется в том, что посягательство на робототехническую систему выходит за рамки обычного преступления против собственности. Так, например, неправомерное завладение охранным роботом-патрульным затрагивает не только имущественный интерес государства, но и режим исполнения наказания, безопасность осужденных, личного состава и иных лиц, находящихся на территории учреждения. Стандартный подход, при котором робот рассматривается как имущество и включается в предмет хищения либо повреждения, не отражает повышенную опасность нарушения функционирования роботизированной инфраструктуры исполнения наказаний. Если, например, наземный робот, несущий функции видеонаблюдения и физического блокирования периметра, выводится из строя посредством программного воздействия, нарушается не только право собственности, но и обеспеченность надлежащего режима охраны, что должно находить отражение в конструкции состава преступления.

Робот как средство совершения преступления в учреждениях УИС демонстрирует специфические характеристики, уже частично описанные для общей сферы общественных отношений.

Поскольку робототехника позволяет выполнять объективную сторону посягательства при нахождении субъекта на значительном удалении от преступного события за счет дистанционного управления и устойчивых каналов связи, в условиях пенитенциарного учреждения это может приводить к реализации сценариев, когда организатор, находящийся вне учреждения, посредством БПЛА осуществляет доставку запрещенных предметов в локальную зону или инициирует применение взрывного устройства на территории охраняемого объекта.

В качестве отдельного аспекта следует рассмотреть способность роботов согласовывать свои действия, что может быть проиллюстрировано действиями роя БПЛА, когда программа нескольких автономных устройств одновременно блокирует ключевые входы и выходы из режимных корпусов, создавая условия для массовых беспорядков или захвата заложников, хотя ни один из операторов технически не участвует в каждой конкретной операции. Уголовно-правовая оценка подобных действий в существующей конструкции института соучастия осложняется тем, что роботы не признаются субъектами преступления, а цепочка передачи управляющих команд может быть распределена между несколькими лицами и организациями.

Действующее уголовное законодательство в явном виде не рассматривает робота как признак, позволяющий дифференцировать ответственность за преступления, совершенные как с его использованием, так и в отношении него. В УК РФ отсутствуют составы преступлений, в которых робот выступал бы в качестве признака, характеризующего средство совершения преступления. Вместе с тем, потенциал роботов в повышении общественной опасности деяний требует дифференциации ответственности.

В условиях пенитенциарной системы данный пробел проявляется острее. Преступления, совершаемые осужденными и иными лицами в учреждениях ФСИН России, традиционно характеризуются высокой латентностью и концентрацией в ограниченном пространстве, а внедрение робототехники создает новый уровень рисков, не учитываемый нормами о преступлениях против порядка управления, правосудия или режима исполнения наказаний. Нормы об отягчающих обстоятельствах, включающие использование «специально изготовленных технических средств», по обоснованию исходного текста, не применимы к большинству случаев использования серийных роботов в преступных целях. Это тем более верно для УИС, где значительная часть робототехники, скорее всего, будет закупаться как готовые промышленные решения и адаптироваться к условиям конкретного учреждения без «специального изготовления» под преступный замысел.

Сюда же примыкают ограничения, вытекающие из автономности и непредсказуемости поведения систем с искусственным интеллектом.

Поскольку развитие технологий ИИ ведет к переходу от жестко запрограммированных алгоритмов к системам, способным к самообучению и выбору новых алгоритмов действий, затрудняется выявление субъекта ответственности за вред, причиненный автономным роботом. В условиях функционирования учреждений УИС это приводит к возникновению рисков ситуаций, когда, например, автономная система надзора или управления доступом сможет самостоятельно вырабатывать паттерны реагирования (например, блокировку дверей при определенной комбинации показаний датчиков), которые в конкретной обстановке могут приводить к гибели или травмам людей, при отсутствии прямого управления роботом со стороны оператора.

Отсутствие специального регулирования создает институциональное ограничение, связанное с тем, что в традиционном уголовном праве субъектом преступления является физическое лицо, достигшее установленного возраста, однако на уровне позитивного права роботу не может быть придан статус субъекта ответственности. Поэтому при высокой автономности роботов возникает вопрос о субъекте ответственности, который в нынешней модели решается исключительно через поиск виновного среди разработчиков, операторов или иных участников обращения робота. В контексте деятельности УИС такая конструкция увеличивает риск ситуаций, когда вред значителен, а доказать вину конкретного должностного лица затруднительно из-за сложной архитектуры программного обеспечения и распределенных полномочий по его настройке.

Результаты и обсуждение

Исходя из вывода о повышенной причиняющей способности робота, можно сформулировать систему уголовно-правовых ограничений применения робототехнических систем в деятельности ФСИН России. Первое ограничение связано с обязательной привязкой внедрения автономных интеллектуальных систем к принципу сохранения существенного человеческого контроля над критически значимыми решениями. Это означает, что любые действия робота, способные повлечь причинение вреда жизни и здоровью осужденных или сотрудников (применение силы, использование специальных средств, изменение режима доступа к помещениям, управление инженерной защитой), должны оставаться либо полностью инициируемыми человеком, либо подлежать немедленному постфактум-контролю с возможностью документированного вмешательства.

Второе ограничение связано с алгоритмической прозрачностью как нормативным требованием к робототехническим системам, внедряемым в УИС. Для пенитенциарной практики это означает, что структура алгоритмов и журналы принятия решений автономными системами должны быть доступны для последующей проверки следственными органами и судами, включая возможность экспертного восстановления логики действий робота при наступлении вредных последствий [11, с.111].

Третье ограничение относится к материализации автономности в дифференциации уголовной ответственности. Человеческое участие при использовании робота для совершения преступления может сводиться к программированию или однократному вводу целевой команды, после чего робот самостоятельно реализует объективную сторону состава преступления. В УИС аналогичная ситуация может возникнуть, когда должностное лицо задаст автономной системе задачу усиления наблюдения или блокировки доступа, а алгоритм, действуя в условиях неопределенности, ошибочно выберет меры, приводящие к тяжким последствиям. Уголовно-правовое регулирование должно отражать этот сдвиг, устанавливая специальные правила оценки вины при опосредованном причинении вреда через автономную интеллектуальную систему, в том числе через формулирование специальных составов преступлений, предусматривающих ответственность за неправомерное программирование или настройку робототехнических систем в учреждениях ФСИН России.

Четвертый элемент системы ограничений сводится к разграничению видов робототехники и учету характера ее использования. Необходима дифференциация ответственности за посягательства в отношении различных видов робототехники и за деяния, в объективной стороне которых присутствует признак использования робота, например, с использованием, трехуровневой системы: роботы охранного и надзорного назначения (периметр, видеонаблюдение, патрулирование), роботы логистического и сервисного назначения (доставка, уборка, обслуживание) и роботы специализированного воздействия (средства физического сдерживания, дистанционные системы применения спецсредств). Характер рисков и требуемые ограничения должны различаться для каждой группы, что следует отразить как в конструкциях специальных составов, так и в формулировке квалифицирующих признаков.

Целесообразно ввести квалифицирующий признак «с использованием робототехнической системы или автономной интеллектуальной системы» в составы преступлений, совершаемых в местах лишения свободы. Речь идет об основаниях для установления повышенной ответственности за деяния, причиняющая способность которых возрастает за счет использования робота. В пенитенциарном контексте такой признак может быть предусмотрен, например, для ст. 321 УК РФ (дезорганизация деятельности учреждений, обеспечивающих изоляцию от общества), ст. 313 УК РФ (побег из места лишения свободы или из-под стражи) и ст. 205 УК РФ (террористический акт), если деяние совершено с использованием робототехнической системы или автономной интеллектуальной системы.

Дополнительно на уровне ведомственного законодательства возможно выделение самостоятельного состава, связанного с неправомерным доступом к робототехнической инфраструктуре учреждений УИС и ее использованием в преступных целях. На уровне толкования закона и судебной практики целесообразно закрепить в постановлении Пленума Верховного Суда РФ специальные правила квалификации деяний, при которых объективная сторона преступления полностью выполнена автономным роботом, а роль человека ограничилась программированием или удаленной постановкой цели. Целесообразно, чтобы соответствующее разъяснение Пленума закрепило бы, что в подобных ситуациях деяния квалифицируются по общим составам преступлений против личности, правосудия или порядка управления с указанием на использование автономной интеллектуальной системы; описывало бы подход к установлению вины лица, которое осуществляло программирование и настройку робота, несмотря на отсутствие его физического присутствия на месте совершения преступления; прямо указывало на недопустимость ссылки на «ошибки алгоритма» как обстоятельство, исключающее уголовную ответственность при наличии заведомых нарушений при проектировании и внедрении системы в условиях УИС.

Выводы

Совокупность изложенных положений показывает, что уголовно-правовые риски и ограничения применения робототехнических систем в деятельности ФСИН России не сводятся к традиционной проблематике охраны общественных отношений, связанных с робототехникой. Специфика пенитенциарного ведомства в данном вопросе выражена в высокой концентрации уязвимых объектов, особом режиме территорий, нормативной обязанности государства обеспечить безопасность осужденных, что трансформирует вопрос в задачу построения иерархии ограничений, в которой технологические возможности роботов заведомо подчинены требованиям уголовного и уголовно-исполнительного права [12, с.37]. Предложенная система ограничений и отдельных изменений законодательства может служить основой для последующей правотворческой работы по формированию устойчивого режима правомерного и эффективного использования робототехники в уголовно-исполнительной системе Российской Федерации.