Скачать статью (PDF)

Правовое регулирование маркировки информационных материалов, созданных с использованием искусственного интеллекта

Авторы
  • ВОЛЧЕНКО Анастасия Владимировнакандидат юридических наук, старший преподаватель кафедры уголовного процесса Белгородского юридического института МВД России имени И.Д. Путилина, подполковник полиции
  • КОГТЕВА Анна Николаевнакандидат экономических наук, доцент, доцент кафедры информационной безопасности Финансового Университета при Правительстве РФ
  • КОННОВА Ирина Геннадьевнастарший преподаватель кафедры информационной безопасности Финансового Университета при Правительстве РФ
Аннотация и ключевые слова

Аннотация. В статье исследована проблема нормативной неопределенности правовых оснований, содержания и порядка применения маркировки информационных материалов, созданных с использованием технологий искусственного интеллекта. Установлено, что российское законодательство предусматривает возможность размещения предупреждения при создании материала в аудио- и (или) визуальной форме с применением большой фундаментальной модели искусственного интеллекта, однако не формирует общего правового режима маркировки таких материалов, не закрепляет критерии существенности участия искусственного интеллекта в их создании и не определяет требования к сохранению соответствующего обозначения при последующем распространении. Проведен сравнительный анализ ключевых моделей правового регулирования, каждая из которых в отдельности не обеспечивает комплексного регулирования соответствующих информационных отношений. Предложена двухуровневая модель маркировки, предусматривающая сохранение машиночитаемых сведений о происхождении материала на всех этапах его обращения и размещение видимого предупреждения при публичном распространении контента, характеризующегося существенным синтетическим вкладом. Обоснована необходимость закрепления общей нормы о маркировке материалов, созданных с использованием искусственного интеллекта, в законодательстве об информации, унификации технических форматов маркировки, установлении запрета на ее умышленное удаление, а также введении процедуры исправления ошибочного обозначения.

Ключевые слова: генеративный искусственный интеллект, происхождение информации, прослеживаемость, информационный материал, маркировка, метаданные, информационная безопасность.

Текст статьи

Введение

Распространение генеративных систем искусственного интеллекта обусловило существенную трансформацию механизмов создания и распространения информации в публичной среде. Текстовые, графические, аудиальные и аудиовизуальные материалы могут быть полностью синтезированы, подвергнуты содержательному преобразованию либо технической обработке с использованием одной и той же генеративной системы. При этом адресат, как правило, не располагает достоверными сведениями о способе создания или модификации соответствующего материала, тогда как внешние признаки его искусственного происхождения по мере совершенствования технологических решений утрачивают доказательственное значение [2].

В указанных условиях маркировка приобретает значение специального правового средства раскрытия сведений о происхождении информационного материала. Ее функциональное назначение состоит в снижении информационной асимметрии между лицом, создавшим или преобразовавшим материал, его последующим распространителем и конечным адресатом. Формирование специальной правовой регламентации соответствующих отношений началось и в российском законодательстве. Федеральным законом от  26 июля 2026 г. № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» предусмотрено, что лицу, применяющему большую фундаментальную модель искусственного интеллекта для создания информационного материала в аудио- и (или) визуальной форме, должна быть обеспечена возможность размещения информационного предупреждения о применении технологий искусственного интеллекта (ч. 1 ст. 9); формат, содержание и порядок размещения такого предупреждения определяются соглашением между лицом, применяющим большую фундаментальную модель искусственного интеллекта, и лицом, предоставляющим возможность ее применения (ч. 2 ст. 9); на владельца крупного пользовательского информационного ресурса, отвечающего установленным законом критериям, возлагается обязанность обеспечить пользователям техническую возможность размещения соответствующего предупреждения (ч. 3 ст. 9). Указанные положения ст. 9 вступают в силу с  1 марта 2027 г. в соответствии с ч. 2 ст. 13 названного Федерального закона.

Вместе с тем, установленная конструкция преимущественно формирует техническую инфраструктуру добровольного обозначения материалов и не образует комплексного правового механизма их маркировки. Закон не закрепляет общего юридического факта, обусловливающего возникновение обязанности по размещению предупреждения, оставляет неопределенным соотношение специальных требований к аудио- и визуальным материалам с общим указанием на информацию в ч. 3 ст. 9 и не устанавливает требований к сохранению сведений о происхождении контента после его выгрузки, копирования и последующего распространения на иных информационных ресурсах.

Выявленные особенности обусловливают необходимость определения нормативной модели, которая позволила бы установить юридически значимые критерии применения маркировки и разграничить случаи, в которых использование искусственного интеллекта требует специального информирования адресата.

Основание обязанности по маркировке определяется в научной литературе через факт создания материала с использованием искусственного интеллекта либо через опасность введения адресата в заблуждение [1, с. 351-355; 2, с. 179; 3, с. 60-62; 8, р. 142; 11, р. 4-6]. Обязательное обозначение генеративного материала предполагает также определение обязанного лица и последствий нарушения. В частности, Н. Ф. Бодров и А. К. Лебедева предлагают «установление ответственности за отказ от маркировки или удаление какого-либо вида маркировки» [1, с. 354]. При отсутствии автоматически предустановленного обозначения М. В. Самарцева считает, что «обязанность по их маркировке лежит на пользователе системы искусственного интеллекта или на лице, осуществляющем использование таких результатов» [3, с. 66]. Обе позиции связывают раскрытие происхождения материала с обязанностями участников его создания и использования. Иное основание видимого предупреждения состоит в способности материала сформировать ошибочное представление о реальном лице или событии либо повлиять на решение адресата [8, р. 142; 11, р. 4-6]. Технические средства решают самостоятельную задачу: сохраняют сведения о создании и изменении материала для последующей проверки [7; 10, р. 9-13]. Поэтому выбор основания маркировки необходимо отделять от определения способа исполнения соответствующей обязанности.

Цель исследования состоит в обосновании условий возникновения обязанности по маркировке и распределении обязанностей по сохранению сведений о происхождении материала между участниками его создания и распространения. Для этого сопоставляются российское, европейское и китайское регулирование, научные положения об основаниях маркировки, данные о восприятии предупреждений и возможности проверки происхождения материалов. Формально-юридический метод применяется для установления содержания обязанностей, сравнительно-правовой – для выявления различий в их основаниях и адресатах, системный – для согласования требований к созданию, публикации и последующему распространению материала.

Основная часть

Под информационным материалом предлагается понимать совокупность сведений, выраженную в текстовой, графической, аудиальной, аудиовизуальной либо комбинированной форме и предназначенную для восприятия человеком или распространения. Объектом маркировки выступает доступный восприятию результат применения искусственного интеллекта; модель и промежуточные вычислительные данные в указанную категорию не входят. Маркировку следует определить как присоединение к материалу воспринимаемого адресатом предупреждения и (или) машиночитаемых сведений о его создании либо изменении с использованием искусственного интеллекта. Она раскрывает способ создания материала. Установление авторства, проверка достоверности сведений и определение возрастной категории аудитории составляют самостоятельные задачи, поэтому соответствующие обозначения имеют разные основания и содержание.

Маркировка должна предоставлять адресату сведения, позволяющие отличить запись реального события от его искусственного воспроизведения и установить характер изменения исходного материала. Факт применения искусственного интеллекта подтверждает способ создания результата, но не доказывает ложность содержащихся в нем утверждений. Содержательное основание такого разграничения выражено в позиции C. Wittenberg и соавторов: информирование о способе создания материала и предупреждение о возможных последствиях его восприятия преследуют разные цели [11, р. 4]. Ложное сообщение, в свою очередь, может быть создано человеком без применения генеративной системы.

Формальная модель маркировки основывается на объективно устанавливаемом факте использования генеративной системы при создании информационного материала. Объектом правового регулирования в данном случае выступает материал, созданный с применением искусственного интеллекта; юридически значимым основанием – участие соответствующей технологии в его формировании; критерием возникновения обязанности – сам факт генерации; правовым последствием – необходимость размещения предупреждения независимо от содержания материала, целей его создания и контекста последующего распространения. В российской научной литературе Н. Ф. Бодров и А. К. Лебедева обосновывают необходимость обязательного обозначения генеративного контента и установления ответственности за удаление маркировки, предлагая сочетать визуальное обозначение с техническими средствами идентификации происхождения материала [1, с. 354]. М. В. Самарцева также связывает возникновение общей обязанности по маркировке с автономным созданием результата искусственным интеллектом и предлагает возлагать соответствующую обязанность на пользователя в случаях, когда разработчиком не обеспечено автоматическое обозначение такого результата [3, с. 66].

Преимуществом формальной модели является широкий охват регулируемых случаев и относительная определенность первичной юридической квалификации факта использования искусственного интеллекта. Вместе с тем, юридическая определенность формальной модели сопровождается снижением информативности маркировки при существенном различии характера и объема использования искусственного интеллекта.

Современные генеративные и иные алгоритмические системы могут применяться как для выполнения вспомогательных технических операций (исправления пунктуации, удаления фонового шума, повышения разрешения изображения, перевода текста или замены фона), так и для создания основного содержания информационного материала. Применение единого обозначения ко всем перечисленным случаям не позволяет адресату установить характер и степень машинного участия в формировании результата.

Кроме того, систематическое использование однотипного предупреждения способно снижать его информационную значимость и формировать ошибочную ассоциацию между искусственным происхождением материала и его недостоверностью. В двух экспериментах проведенных S. Altay и F. Gilardi с участием 4 976 респондентов в США и Великобритании, установлено снижение воспринимаемой точности материалов, обозначенных как созданные искусственным интеллектом, независимо от их фактической достоверности и действительного способа создания. При этом выраженность указанного эффекта уменьшалась при более конкретном раскрытии степени автоматизации [4]. Полученные результаты свидетельствуют о том, что формально определенная, но содержательно недифференцированная маркировка способна сама выступать источником систематического искажения восприятия информационного материала.

Альтернативное решение предлагает риск-ориентированная модель, в рамках которой юридическое значение придается не любому факту использования искусственного интеллекта, а способности созданного или измененного с его применением материала сформировать ошибочное представление о подлинности либо оказать влияние на принятие общественно или юридически значимого решения. Для возникновения обязанности требуется установить, кому и с какой целью сообщается материал, представлен ли он как достоверное воспроизведение реального лица или события и какое решение адресата способен обусловить. Например, искусственно воспроизведенный голос в сообщении от имени контрагента может повлиять на распоряжение денежными средствами. В таком случае раскрытие способа создания записи связано с предупреждением заблуждения относительно личности отправителя. Исключение для технической обработки допустимо, если содержание и признаки, позволяющие установить источник сообщения, сохранены. Непубличное использование следует освобождать от видимого предупреждения лишь при отсутствии связи с осуществлением прав и исполнением обязанностей.

Установление обязанности в зависимости от обстоятельств распространения требует разграничить сведения, доступные каждому участнику. Поставщик системы может фиксировать способ создания результата, но обычно не определяет, где и для чего пользователь его разместит. Владелец информационного ресурса контролирует условия публикации, однако может получить файл без сведений о его происхождении. Пользователь располагает данными о применении искусственного интеллекта и цели размещения, но добровольность раскрытия позволяет ему скрыть эти сведения. Из этого следует необходимость раздельного закрепления обязанностей: поставщик фиксирует происхождение результата, публикующее лицо сообщает о характере его использования, а владелец ресурса обеспечивает сохранение и отображение полученных сведений.

Связь между созданием материала и его последующим распространением может поддерживаться машиночитаемой маркировкой. Для этого применяются цифровые водяные знаки, метаданные и записи о происхождении и изменениях файла, защищенные криптографической подписью. Возможность маркирования текста подтверждена испытанием S. Dathathri и соавторов, охватившим почти 20 млн ответов генеративной системы: применение водяного знака не ухудшило качество ответов по результатам пользовательской оценки [7, р. 818]. В стандарте C2PA подпись позволяет проверить связь записи с материалом и выявить изменение подписанных сведений; проверка истинности содержания в ее назначение не входит [5]. Следовательно, такие средства могут обеспечивать исполнение обязанности по сохранению сведений о происхождении, тогда как доведение предупреждения до адресата требует отдельного правила об отображении маркировки.

Сохранность маркировки зависит от операций, выполняемых с материалом. Метаданные могут утрачиваться при создании снимка экрана или перекодировании, а водяной знак – переставать обнаруживаться после обработки. Вероятностное распознавание также допускает ошибочное отнесение созданного человеком материала к результатам генерации. В исследовании B. Rijsbosch, G. van Dijck и K. Kollnig машиночитаемое обозначение выявлено у 19 из 50 генераторов изображений (38 %), видимое – у 9 (18 %); последние маркировали изображения независимо от наличия признаков дипфейка [10, р. 9]. Эти данные подтверждают неполноту применения доступных средств в исследованной выборке. Для правового регулирования отсюда следует необходимость определить, кто обязан сохранять маркировку при преобразовании файла и как устанавливается причина ее утраты. Отсутствие обозначения не позволяет достоверно установить способ создания материала.

Сопоставление рассмотренных решений позволяет разграничить основание обязанности, содержание раскрываемых сведений и способ их передачи. Факт генерации может служить основанием машиночитаемой фиксации, а характер изменения материала и обстоятельства его использования – основанием предупреждения адресата. Применение одинаковых требований к этим действиям возлагало бы обязанность публичного обозначения уже на стадии создания частного материала либо оставляло бы сведения о происхождении незафиксированными до публикации. Поэтому предлагаются два взаимосвязанных вида обязанностей:

фиксировать происхождение материала в машиночитаемой форме при его создании и сохранять эти сведения при последующих операциях;

размещать воспринимаемое адресатом предупреждение при распространении или использовании материала в установленных законом случаях.

Содержание предупреждения следует определять с учетом различий между раскрытием происхождения и оценкой достоверности. В двух экспериментах C. Wittenberg и соавторов, охвативших более 7500 участников из США, маркировка вводящих в заблуждение изображений, созданных искусственным интеллектом, снижала доверие к ним. Влияние на намерение поделиться изображением зависело от формулировки предупреждения [11, р. 6-7]. Данные об этих эффектах обосновывают необходимость раздельного обозначения способа создания материала и результатов проверки его содержания. Для первой цели предлагаются формулы «сгенерировано с использованием ИИ» и «существенно изменено с применением ИИ». Вывод о ложности или способности ввести в заблуждение требует самостоятельного установления соответствующих обстоятельств; факт генерации такого вывода не подтверждает.

Раздельное закрепление обязанностей по технической маркировке и информированию адресата предусмотрено европейским регулированием. В п. 2 и 4 ст. 50 Регламента (ЕС) 2024/1689 обязанности поставщика системы и лица, применяющего ее, различаются по содержанию и основаниям возникновения. Регламент (ЕС) 2024/1689 обязывает поставщика генеративной системы обеспечить маркировку синтетических аудио-, видео-, графических и текстовых результатов в машиночитаемом формате, отвечающем требованиям эффективности, совместимости, устойчивости и надежности. В п. 2 ст. 50 предусмотрено исключение для вспомогательного стандартного редактирования и обработки, не изменяющей существенно входные данные или их смысл.

В п. 4 ст. 50 обязанность раскрывать искусственное происхождение предусмотрена для дипфейков, а также для текста, публикуемого в целях информирования общества по вопросам публичного интереса. Для последнего исключение связано с проверкой человеком или редакционным контролем при наличии лица, несущего редакционную ответственность за публикацию. Определение дипфейка ограничивает круг обозначаемых материалов: D. Gabor указывает на исключение из него текста и вымышленных лиц, хотя последние способны восприниматься как реально существующие [8, р. 142]. Редакционную ответственность он связывает с фактическим контролем публикации посредством редакционных решений [8, р. 146-147]. По общему правилу ст. 50 применяется со 2 августа 2026 г.; для систем, выведенных на рынок до этой даты, исполнение обязанностей по п. 2 ст. 50 предусмотрено с 2 декабря 2026 г. Кодекс практики прозрачности контента, созданного с использованием искусственного интеллекта, является добровольным средством подтверждения соблюдения требований [6].

Китайская модель в большей степени ориентирована на обеспечение непрерывности сведений о происхождении материала при его последующем распространении. Меры по маркировке искусственно созданного и синтезированного контента распространяются на текст, изображения, аудио, видео и виртуальные сцены, и предусматривают использование явных и скрытых обозначений. В состав метаданных включается информация о синтетическом происхождении материала, поставщике соответствующей услуги и идентификаторе контента.

Платформа обязана проверять метаданные, учитывать сведения, представленные пользователем, размещать видимое обозначение, а при выявлении технических признаков синтетического происхождения без подтверждающих данных – квалифицировать материал как предположительно созданный с применением искусственного интеллекта. На пользователя возлагаются обязанности сообщать о публикации такого контента, не удалять и не искажать маркировку; сведения о последующем распространении также включаются в метаданные [9]. В сравнении с европейской моделью, китайский подход более детально регламентирует сохранение сведений по всей цепочке распространения, одновременно предоставляя платформе более значительный объем квалификационных полномочий.

Предусмотренное российским законом регулирование исходит из предоставления пользователю возможности обозначить происхождение материала. В ч. 1 ст. 9 Федерального закона «О поддержке развития технологий искусственного интеллекта в Российской Федерации» использованы формулы «в аудио- и (или) визуальной форме» и «обеспечивается возможность размещения информационного предупреждения». Обязанность пользователя размещать такое предупреждение в каждом случае из этих положений не следует. При этом ч. 3 ст. 9 определяет обязанность владельца соответствующего информационного ресурса применительно к информации, созданной с использованием большой фундаментальной модели, без повторения ограничения по форме. Названные положения вступают в силу с 1 марта 2027 г. В отличие от европейского и китайского регулирования, российский закон оставляет применение предупреждения на усмотрение пользователя, а его формат, содержание и порядок размещения – на договорное определение сторонами.

Предоставление возможности разместить предупреждение оставляет нерешенными вопросы о случаях обязательного раскрытия происхождения, минимальном содержании обозначения и его сохранении при последующем распространении. Применительно к текстовым материалам требуется уточнить соотношение ч. 1 и 3 ст. 9: первая прямо их не называет, вторая использует общую категорию информации. Кроме того, связь регулирования с установленными законом признаками большой фундаментальной модели ограничивает круг охватываемых результатов. Количество параметров модели характеризует используемую систему, но не определяет способность конкретного материала ввести адресата в заблуждение. Изображение лица или запись голоса могут быть искусственно изменены средствами, не отвечающими указанным признакам. Поэтому основание обязательной маркировки предлагается связывать с характером созданного результата и условиями его распространения.

Для определения случаев обязательного предупреждения предлагается критерий существенного синтетического вклада. Под ним следует понимать создание либо изменение средствами искусственного интеллекта содержания материала, изображения, голоса или признаков, позволяющих отнести его к определенному лицу или источнику, способное повлиять на вывод адресата о происхождении или подлинности материала либо на решение, влекущее возникновение, изменение или прекращение прав и обязанностей. К таким изменениям относятся включение новых утверждений, воспроизведение незафиксированных действий, замена лица или голоса, создание признаков сообщения от определенного отправителя. Основание маркировки определяется содержанием внесенного изменения, а не долей автоматически обработанных элементов.

Количественная доля измененных элементов не позволяет последовательно разграничить случаи обязательного предупреждения. Сходное возражение против процентного порога формулирует D. Gabor: изменение меньшей части материала может затронуть сведения, определяющие восприятие целого [8, р. 143]. Замена лица на небольшом участке изображения способна создать ложное представление об участнике события, тогда как изменение размера всего изображения может сохранить его содержание. Поэтому исправление орфографии, форматирование, масштабирование и шумоподавление предлагается освобождать от видимого обозначения при условии сохранения смысла, изображенных обстоятельств и признаков, позволяющих установить лицо или источник сообщения. Исключение должно применяться по результату обработки. Если при удалении шума система создает ранее отсутствовавшую речь или восстанавливает детали, меняющие представление о событии, такая операция подлежит оценке по критерию существенного синтетического вклада.

Указанный критерий определяет основание предупреждения адресата. Фиксация происхождения решает иную задачу – сохранение сведений, необходимых для последующей проверки. Поэтому предлагаемые обязанности должны различаться по моменту возникновения, обязанному лицу и способу исполнения.

Обязанность формировать машиночитаемые сведения предлагается возложить на поставщика генеративной системы. При создании результата он должен обеспечивать включение метаданных либо идентификатора, позволяющего получить сведения о выполненной операции, поставщике или системе и времени создания. При последующем изменении содержания или признаков, позволяющих установить лицо либо источник сообщения, предлагается возложить обязанность дополнить запись на участника, осуществляющего такую обработку, при наличии технической возможности. Связь с исходной записью должна сохраняться. Возникновение этих обязанностей следует связывать с созданием и преобразованием результата независимо от намерения его опубликовать. При частном использовании сведения могут сохраняться без непосредственного отображения. Состав маркировки необходимо ограничить данными, необходимыми для проверки происхождения: раскрытие личности пользователя и содержания запроса не входит в предлагаемую обязанность. Обработка персональных данных требует самостоятельного правового основания.

Обязанность размещать воспринимаемое адресатом предупреждение предлагается возложить на лицо, публично распространяющее материал с существенным синтетическим вкладом либо использующее его при совершении сделки, обращении в государственный орган или ином действии, способном повлечь правовые последствия. Предупреждение должно быть доступно при восприятии материала: для текста и изображения – размещаться рядом с ними, для видео – отображаться при воспроизведении, для аудиозаписи – передаваться звуковым сообщением и сопровождать файл. При копировании и распространении фрагмента, содержащего синтетическое изменение, обозначение необходимо сохранять. Для художественного или заведомо вымышленного материала допустимо раскрытие в титрах либо сопровождающем описании, если способ представления позволяет адресату отличить вымысел от документальной записи.

Распределение обязанностей должно соответствовать действиям, которые участник вправе и технически способен совершать с материалом. Поставщик системы обеспечивает фиксацию происхождения результата и возможность размещения предупреждения. Публикующее лицо определяет наличие существенного синтетического вклада и размещает установленное обозначение. Владелец информационного ресурса считывает совместимые метаданные, сохраняет их при преобразовании файла и отображает предупреждение в случаях, когда его размещение обязательно. Последующий распространитель сохраняет доступные сведения о происхождении и сопровождающее материал обозначение. Если метаданные удаляются при автоматическом перекодировании на ресурсе, исполнение обязанности по их сохранению должно обеспечиваться владельцем ресурса: пользователь не контролирует эту операцию.

Для применения указанных требований необходимо различать проверку включенных в файл сведений и вероятностное распознавание признаков генерации. Эти способы дают разные основания для маркировки и последующего оспаривания обозначения.

Проверка криптографической подписи подтверждает целостность подписанной записи и ее связь с материалом, но не удостоверяет истинность всех включенных в нее утверждений. Поэтому ресурс может сообщать о наличии проверенной записи и ее источнике. Для результата вероятностного распознавания предлагается обозначение «возможно создано или изменено с использованием ИИ». Такой результат не должен служить единственным основанием санкции или ограничения распространения. Различие между подтвержденными сведениями, заявлением пользователя и техническими признаками предполагаемой генерации учитывается, в частности, в ст. 6 китайских Мер по маркировке [9]. Лицу, чей материал обозначен автоматически, следует предоставить право получить сведения об основании маркировки, представить исходный файл и потребовать пересмотра. Обязанность рассмотреть обращение в установленный срок и исправить необоснованное обозначение предлагается возложить на владельца ресурса.

Предлагается запретить умышленное удаление, искажение или подделку обязательной маркировки с целью сокрытия происхождения материала при его дальнейшем распространении. Для привлечения к ответственности за такое нарушение требуется установить обязанность сохранять обозначение, возможность ее исполнения и умышленный характер действий. Утрата метаданных вследствие несовместимости программ или перекодирования без установления этих обстоятельств недостаточна для вменения умышленного сокрытия. Если материал используется в агитации, коммерческом предложении, сообщении от имени другого лица либо представляется в качестве доказательства, наряду с нарушением требований к маркировке подлежат самостоятельной оценке возможное введение в заблуждение, нарушение чужих прав и предусмотренные соответствующей отраслью права основания ответственности.

Общие обязанности по маркировке целесообразно закрепить в Федеральном законе от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации». Предметом предлагаемой нормы должны стать отношения по созданию, предоставлению и распространению материалов независимо от технических характеристик примененной системы. В законе необходимо определить маркировку и существенный синтетический вклад, основания возникновения обязанностей по фиксации происхождения и предупреждению адресата, круг обязанных лиц, запрет умышленного сокрытия обязательного обозначения и право требовать исправления ошибочной маркировки.

Предусмотренные ст. 9 Федерального закона от 26 июля 2026 г. № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» обязанности по обеспечению возможности размещения предупреждения следует согласовать с предлагаемыми общими требованиями. Условия возникновения обязанности и минимальный состав раскрываемых сведений должны определяться законом. Требования к отображению обозначения и совместимости технических форматов допустимо установить подзаконным актом при прямом законодательном определении компетенции уполномоченного органа. Соглашение поставщика и пользователя может конкретизировать порядок размещения предупреждения в пределах обязательных требований; его условия не должны уменьшать объем сведений, раскрываемых адресату.

По предлагаемому правилу для возникновения обязанности предупреждать адресата необходима совокупность двух условий: существенный синтетический вклад и публичное распространение материала либо его использование при совершении юридически значимого действия. Таким образом, частное использование, не связанное с осуществлением прав или исполнением обязанностей, освобождается от непосредственного предупреждения. Это исключение не препятствует сохранению машиночитаемых сведений на стадии создания результата.

При применении данного правила требуется устанавливать, какие сведения или признаки были созданы либо изменены и как они способны повлиять на восприятие лица, события или источника сообщения. Такой предмет проверки позволяет отличить вспомогательную обработку от изменения содержания. Ограничение обязанности предупреждения этими случаями соотносит раскрытие происхождения материала с конкретной возможностью заблуждения адресата и сохраняет свободу использования технических средств при подготовке информации.

Заключение

Правовое регулирование маркировки требует согласовать обязанности лиц, участвующих в создании, публикации и последующем распространении материала. Предоставление пользователю технической возможности разместить предупреждение оставляет открытыми вопросы об обязательности его применения, сохранении сведений после передачи файла и исправлении ошибочного обозначения.

Обосновано разграничение обязанности фиксировать происхождение материала и обязанности предупреждать адресата. Первая возникает при создании или изменении результата и обеспечивает возможность последующей проверки. Для второй предложена совокупность условий: существенный синтетический вклад и публичное распространение материала либо его использование при совершении действия, способного повлечь правовые последствия. Критерий существенности определяется изменением содержания, изображения, голоса или признаков, позволяющих отнести материал к определенному лицу или источнику, способным повлиять на представление адресата о происхождении или подлинности либо на юридически значимое решение.

Маркировка должна раскрывать способ создания или изменения материала. Вывод о его недостоверности требует самостоятельных оснований. Проверка подписанных метаданных и вероятностное распознавание генерации подлежат разграничению по содержанию подтверждаемых обстоятельств; автоматическое предположение должно сопровождаться правом на проверку и исправление обозначения.

Предлагаемые обязанности целесообразно закрепить в Федеральном законе от 27 июля 2006 г. № 149-ФЗ «Об информации, информационных технологиях и о защите информации» применительно к текстовым, графическим, аудиальным и аудиовизуальным материалам. Поставщик системы должен обеспечивать фиксацию происхождения, публикующее лицо – предупреждение адресата, владелец ресурса – сохранение и отображение сведений, последующий распространитель – передачу материала с установленным обозначением. Такое распределение связывает каждую обязанность с действиями, находящимися под контролем соответствующего лица.

Исполнение этих обязанностей требует совместимых форматов, сохранения сведений при преобразовании файлов и процедуры пересмотра ошибочной маркировки. Ответственность за умышленное сокрытие следует связывать с доказанным удалением, искажением или подделкой обязательного обозначения при возможности его сохранить. В результате предметом правового контроля становятся конкретные действия участников распространения, а обозначение искусственного происхождения сохраняет информационное назначение и не создает презумпции ложности или противоправности материала.

Список литературы

  • [1] Бодров Н.Ф., Лебедева А.К. Перспективы правового регулирования и алгоритм маркировки генеративного контента // Пенитенциарная наука. 2024. Т. 18. № 4 (68). с. 348-357.
  • [2] Брюховецкий И.В. Правовые особенности маркировки созданного генеративным искусственным интеллектом контента в КНР // Вестник Университета имени О.Е. Кутафина. 2024. № 10 (122). с. 176-181.
  • [3] Самарцева М.В. Маркировка результатов, автономно создаваемых генеративным искусственным интеллектом // Пролог: журнал о праве. 2025. № 2. с. 57-67.
  • [4] Altay S., Gilardi F. People Are Skeptical of Headlines Labeled as AI‑Generated, Even If True or Human-Made, Because They Assume Full AI Automation // PNAS Nexus. 2024. Vol. 3. № 10. 11 p.
  • [5] C2PA and Content Credentials Explainer. Version 2.2 / Coalition for Content Provenance and Authenticity. 2025 [Электронный ресурс]. // Режим доступа: https:​/​/​spec.​c2pa.​org/​specificatio​ns/​specificatio​ns/​2.​2/​explainer/​_​attachments/​Explainer.​pdf (дата обращения: 04.09.2026).
  • [6] Code of Practice on Transparency of AI‑Generated Content / European Commission [Электронный ресурс]. // Режим доступа: https:​/​/​digital-​strategy.​ec.​europa.​eu/​en/​policies/​code-​practice-​ai‑generated​-​content (дата обращения: 04.09.2026).
  • [7] Dathathri S., See A., Ghaisas S. et al. Scalable Watermarking for Identifying Large Language Model Outputs // Nature. 2024. Vol. 634. № 8035. р. 818-823.
  • [8] Gabor D. Labelling Deepfakes under EU Law: The AI Act and Beyond // Ruch Prawniczy, Ekonomiczny i Socjologiczny. 2025. Vol. 87. № 4. р. 139-160.
  • [9] Measures for Labelling Artificial Intelligence-Generated and Synthetic Content / Cyberspace Administration of China. Promulgated [Электронный ресурс]. // Режим доступа: https:​/​/​www.​cac.​gov.​cn/​2025-​03/​14/​c_​174365468478​2215.​htm (дата обращения: 04.09.2026).
  • [10] Rijsbosch B., van Dijck G., Kollnig K. Missing the Mark: Adoption of Watermarking for Generative AI Systems in Practice and Implications under the New EU AI Act // Policy & Internet. 2026. Vol. 18. № 2. Article e70041. 17 p.
  • [11] Wittenberg C., Epstein Z., Berinsky A. J., Rand D. G. Labeling AI‑Generated Content: Promises, Perils, and Future Directions // An MIT Exploration of Generative AI. 2024. 16 p.

Скачать

English summary

Legal regulation of the labelling of information materials created with the use of artificial intelligence

Authors
  • VOLCHENKO Anastasia VladimirovnaCandidate of Law, Senior Lecturer at the Department of Criminal Procedure of the I.D. Putilin Belgorod Law Institute of the Ministry of Internal Affairs of Russia, ieutenant Colonel of Police
  • KOGTEVA Anna NikolaevnaCandidate of Economic Sciences, Associate Professor, Associate Professor of the Department of Information Security University of Finance under the Government of the Russian Federation
  • KONNOVA Irina GennadievnaSenior Lecturer at the Department of Information Security, Financial University under the Government of the Russian Federation

Annotation. The article examines the issue of regulatory uncertainty regarding the legal grounds, content, and application procedures for labeling information materials created using artificial intelligence technologies. It is established that while Russian legislation allows for the inclusion of a warning when material in audio and/or visual form is created using a large foundational AI model, it fails to establish a general legal framework for labeling such materials, does not define criteria for the significance of AI involvement in their creation, and does not specify requirements for retaining the relevant designation during subsequent distribution. A comparative analysis of key regulatory models reveals that none of them individually provides comprehensive regulation of the relevant information-related interactions. A two‑tier labeling model is proposed, involving the retention of machine-readable data on the material's origin throughout its lifecycle and the display of a visible warning during the public dissemination of content characterized by a significant synthetic contribution. The article substantiates the need to enshrine a general rule on labeling AI‑generated materials within information legislation, to standardize technical labeling formats, to prohibit the intentional removal of such labels, and to introduce a procedure for correcting erroneous designations.

Key words: generative artificial intelligence, information origin, traceability, information material, labeling, metadata, information security.

References

  • [1] Bodrov N.F., Lebedeva A.K. Prospects for legal regulation and algorithm for labeling generative content // Penitentiary science. 2024. T. 18. № 4 (68). from. 348-357.
  • [2] Bryukhovetsky I.V. Legal features of labeling content created by generative artificial intelligence in the PRC // Bulletin of the University named after O.E. Kutafin. 2024. № 10 (122). p. 176-181.
  • [3] Samartseva M.V. Marking of results autonomously created by generative artificial intelligence // Prologue: Journal of Law. 2025. № 2. p. 57-67.
  • [4] Altay S., Gilardi F. People Are Skeptical of Headlines Labeled as AI‑Generated, Even If True or Human-Made, Because They Assume Full AI Automation // PNAS Nexus. 2024. Vol. 3. № 10. 11 p.
  • [5] C2PA and Content Credentials Explainer. Version 2.2 / Coalition for Content Provenance and Authenticity. 2025 [Electronic resource] // Access mode: https:​/​/​spec.​c2pa.​org/​specificatio​ns/​specificatio​ns/​2.​2/​explainer/​_​attachments/​Explainer.​pdf (access date: 04.09.2026).
  • [6] Code of Practice on Transparency of AI‑Generated Content / European Commission [Электронный ресурс]. // Режим доступа: https:​/​/​digital-​strategy.​ec.​europa.​eu/​en/​policies/​code-​practice-​ai‑generated​-​content (дата обращения: 04.09.2026).
  • [7] Dathathri S., See A., Ghaisas S. et al. Scalable Watermarking for Identifying Large Language Model Outputs // Nature. 2024. Vol. 634. № 8035. p. 818-823.
  • [8] Gabor D. Labelling Deepfakes under EU Law: The AI Act and Beyond // Ruch Prawniczy, Ekonomiczny i Socjologiczny. 2025. Vol. 87. № 4. p. 139-160.
  • [9] Measures for Labelling Artificial Intelligence-Generated and Synthetic Content / Cyberspace Administration of China. Promoted // Access mode: https:​/​/​www.​cac.​gov.​cn/​2025-​03/​14/​c_​174365468478​2215.​htm (access date: 04.09.2026).
  • [10] Rijsbosch B., van Dijck G., Kollnig K. Missing the Mark: Adoption of Watermarking for Generative AI Systems in Practice and Implications under the New EU AI Act // Policy & Internet. 2026. Vol. 18. № 2. Article e70041. 17 p.
  • [11] Wittenberg C., Epstein Z., Berinsky A. J., Rand D. G. Labeling AI‑Generated Content: Promises, Perils, and Future Directions // An MIT Exploration of Generative AI. 2024. 16 p.

Creative Commons Attribution 4.0 License Контент доступен под лицензией Creative Commons Attribution 4.0 License.