Эволюция понятия «искусственный интеллект» и проблемы правового регулирования

• ПАМПУРА Александра Валериевнасудья Ленинского районного суда города Луганскаsesknderova@mail.ru
• ГОЛУБЦОВА Оксана Анатольевнакандидат экономических наук, доцент кафедры прокурорско-следственной деятельности Луганского государственного университета им. В. Даля (Луганск, Российская Федерация), ORCID 0000-0003-2428-3642gragov777@mail.ru
• ПАРАМЗИНА Дария Сергеевнастудентка 3 курса направления подготовки «Юриспруденция» Луганского государственного университета им. В. Даляmail@law-books.ru

Настоящая статья посвящена исторической ретроспективе и анализу современного состояния правового определения понятия «искусственный интеллект» (ИИ). Исследование прослеживает эволюцию концепции от первых теоретических работ Алана Тьюринга, заложившего основы машинного интеллекта через концепцию «Игры в имитацию», и введения термина Джоном Маккарти в середине XX века, до текущего момента. Анализируются фундаментальные подходы, включая отсылки к когнитивным наукам, чьи теории о человеческом интеллекте (Пиаже, Векслер, Солсо) легли в основу попыток моделирования машинного разума. В центре внимания находится обзор и сопоставление различных национальных и международных правовых дефиниций ИИ, представленных в законодательстве США (включая отмененные и действующие указы, а также Кодекс США) и Российской Федерации (ФЗ № 123- ФЗ, Указ Президента № 490, ГОСТы). Обнаружена существенная неоднозначность в толковании термина: отечественное законодательство оперирует широким понятием, охватывающим имитацию всего спектра когнитивных функций человека, что потенциально создает коллизии и неопределенность в регулировании. Материал демонстрирует переход от «мягкого права» (рекомендательных кодексов этики и добровольных стандартов) к формированию механизмов ответственности (например, в рамках экспериментальных правовых режимов). Автора заключают, что для гармоничной интеграции ИИ в общественные отношения необходима доработка правовой базы, требующая конкретизации функций, относимых к ИИ, и установления четких границ между естественным и искусственным интеллектом, чтобы обеспечить защиту прав граждан, не замедляя технологическое развитие. Цель статьи – анализ исторической эволюции понятия «искусственный интеллект» и критическая оценка современного состояния его правовых дефиниций с целью выявления существующих юридических коллизий и формулирования предложений по их устранению для обеспечения сбалансированного и прозрачного правового регулирования.

Ключевые слова: искусственный интеллект (ИИ), правовое регулирование ИИ, дефиниция ИИ, когнитивные функции, тест Тьюринга, история ИИ, машина Тьюринга, законодательство РФ, ответственность разработчиков ИИ, когнитивные науки

.

«Перед нами стоит задача составить машинную программу для игры в имитацию….»

А. М. Тьюринг

Введение

Сколько существует человечество – столько оно предпринимает попытки заменить технологическими изобретениями тяжелый физический труд. Механизация имеет достаточно длительный исторический путь, вместе с тем, идеи человека в этом направлении безграничны, и на каком - то этапе сформировались в устойчивое убеждение, возложить на умные механизмы выполнение не только трудоемкого и рутинного физического труда, но и интеллектуального. Стремительное внедрение систем искусственного интеллекта (ИИ) во все сферы жизни — от медицины до государственного управления — сделало вопрос о его четком и однозначном правовом определении критически актуальным, поскольку текущие законодательные дефиниции, зачастую заимствующие абстрактные метафоры из когнитивной науки, демонстрируют значительную неконсистентность и широту толкования, что неминуемо ведет к правовым коллизиям, размыванию границ ответственности и создает барьеры для выстраивания доверительных отношений между обществом, разработчиками и регуляторами в условиях беспрецедентного технологического рывка.

Что из себя представляет такой механизм, способный решать вместо человека высокоин - теллектуальные задачи, и каким разумом должен быть наделен? Или, все-таки, не одно искусственное изобретение не способно на это?

Чтобы ответь на поставленные вопросы следует обратиться не только к современным правовым позициям, но и к основным историческим аспектам, положившим начало формированию понятия искусственного интеллекта.

Результаты и обсуждение

Начальный период становления науки искусственного интеллекта относят к 1950-1970 годам и справедливо называют «золотым веком», так как на него приходятся не только фундаментальные теоретические исследования, положившие начало созданию машинного разума, но и практические прорывы в области его экспериментального применения, сформировавшие в совокупности его будущее.

Неоценимый вклад в развитие искусственного интеллекта в этот период сделан британским математиком, логиком, криптографом, одним из основателей информатики Аланом Тьюрингом.

В своей статье «On computable numbers, with an application to the entscheidungsproblem» (О вычислимых числах, с приложением к проблеме разрешимости) Алан Тьюринг впервые употребляет понятие «automatic machine» (A-machine), сейчас известная, как «Машина Тьюринга» [1, c. 232-234]. Машина Тьюринга была первой попыткой автоматизировать логические и математические вычисления, которые на том момент мог выполнять только человек.

20 февраля 1947 года он выступил с лекцией «Intelligent Machinery» (Мыслящие машины») в Лондоне, где впервые публично рассказал о своем видении компьютерного интеллекта — «машинах, способных учиться на собственном опыте» [2].

Позднее, в 1950 году была опубликована его статья под названием «Сomputing machinery and intelligence» (А могут ли машины мыслить?) [3, с.433] в которой он не только ставил задачу о разработке такого алгоритма работы автоматизированной машины, которая будет имитировать работу человеческого мозга, но и пытался объяснить, что запрограммировать ее на это можно лишь путем обучения. «…Перед нами стоит задача составить машинную программу для игры в имитацию…» [4, c.34], писал он в своей работе «…пытаясь имитировать ум взрослого человека, мы вынуждены много размышлять о том процессе, в результате которого человеческий интеллект достиг своего нынешнего состояния. Мы, можем выделить три компонента: 1) первоначальное состояние ума, скажем, в момент рождения; 2) воспитание, объектом которого он был; 3) другого рода опыт, воздействовавший на ум,— опыт, который нельзя назвать воспитанием. Почему бы нам вместо того, чтобы пытаться создать программу, имитирующую ум взрослого, не попытаться создать программу, которая бы имитировала ум ребенка? Ведь если ум ребенка получает соответствующее воспитание, он становится умом взрослого человека…» [4].

Именно эта статья, в частности ее раздел, - «The Imitation Game» (Игра в имитацию), - стала не только первым импульсом для создания «искусственного интеллекта», но и стартовым этапом внедрения «системы мониторинга» развивающихся возможностей искусственного интеллекта. В этой связи Тьюрингом был разработан тест, ставший основой исследований в области определения критериев оценки разумности автоматизированных механизмов [4, c.12]. Тест заключается в собеседовании, во время которого, основной участник – человек, одновременно ведет текстовый диалог с машиной и другим человеком, не видя их. Если после серии вопросов и ответов невозможно определить, с кем он общался (с машиной или человеком), то считается, что машина прошла тест. Само же понятие «искусственный интеллект» впервые публично озвучено Джоном Маккарти в 1956 году на семинаре в Дартмутском колледже, на тот момент он входил в состав преподавателей и занимал должность доцента кафедры математики Дартмутского колледжа. А сформулировано еще раньше – 31 августа 1955 года в его заявке на проведение научного семинара под заголовком - «A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence» (Предложение для летнего исследования проекта в Дартмуте по искусственному интеллекту) [5, c.13].

Заявка на проведение научного семинара по вопросам искусственного интеллекта, содержала 8 тезисов, основная мысль которых заключалась в том, чтобы запрограммировать машину на выработку «высших функций человеческого мозга», а именно научить ее искусством «манипулирования словами в соответствии с правилами рассуждения и правилами догадки….. с этой точки зрения, формирование обобщения состоит в том, чтобы ввести новое слово и некоторые правила, по которым предложения, содержащие его, подразумеваются другими предложениями и сами являются таковыми…», то есть ставилась задача посредством определенного расположения (гипотетических) нейронов и запрограммированных правил ввода данных получить на выходе сформированные понятия.

С тех пор прошло 70 лет, и искусственный интеллект из концептуального понятия уже давно превратился в ключевой элемент, влияющий на глобализацию мира, однако до настоящего времени так и не сформировалось единое правовое понятие этой движущей миром силы. Современное развитие интеллектуальных программ включает применение технологий искусственного интеллекта в разных сферах и областях человеческой деятельности в связи с чем требует не только четкого законодательно закрепленного определения этому термину, но и отрегулированных правовыми нормами правил его применения.

Постоянным комитетом по патентному праву Всемирной организации интеллектуальной собственности, в рамках проведения 35 сессии в Женеве, осенью 2023 года в документе «SCP/35/7: Искусственный Интеллект (ИИ) и авторство на изобретения» предложено следующее понятие искусственного интеллекта - «самообучающиеся системы, т.е. машины, способные обучаться и за счет этого лучше справляться с задачами, которые обычно выполняются человеком. Машинное обучение является доминирующей технологией Искусственного интеллекта» [6].

В декабре 2017 года в Сенат США был внесен проект закона «Об основополагающем понимании применимости и реалистичной эволюции искусственного интеллекта» (S. 2217 (115th): FUTURE of Artificial Intelligence Act of 2017), в котором дается следующее определение искусственному интеллекту: «(A) Любые искусственные системы, которые выполняют задачи в изменяющихся и непредсказуемых обстоятельствах, без значительного человеческого контроля, или которые могут извлечь уроки из своего опыта и улучшить свои показатели. Такие системы могут быть разработаны в компьютерном программном обеспечении, физическом оборудовании или в других контекстах, которые еще не рассматриваются. Они могут решать задачи, требующие человеческого восприятия, познания, планирования, обучения, общения или физических действий. В целом, чем более человекоподобна система в контексте своих задач, тем больше можно сказать, что она использует искусственный интеллект. (B) Системы, которые думают, как люди, такие как когнитивные архитектуры и нейронные сети. (C) Системы, которые действуют, как люди, такие как системы, которые могут пройти тест Тьюринга или другой сопоставимый тест с помощью обработки естественного языка, представления знаний, автоматического рассуждения и обучения (D). Набор методов, включая машинное обучение, которые стремятся приблизиться к некоторой познавательной задаче. (E) Системы, которые действуют рационально, такие как интеллектуальные программные агенты и встроенные роботы, которые достигают целей посредством восприятия, планирования, рассуждения, обучения, общения, принятия решений и действий». Кроме того законопроект разграничивает понятие «искусственного интеллекта общего профиля» (artificial general intelligence), - систему искусственного интеллекта, которая демонстрирует явно разумное поведение, по крайней мере, столь же развитое, как и человек, в области когнитивного, эмоционального и социального поведения и «искусственный интеллект узкого профиля» (narrow artificial intelligence), - систему искусственного интеллекта, которая предназначена для конкретных областей применения, таких как стратегические игры, языковой перевод, самоуправляемые транспортные средства и распознавание изображений [7]. Однако данный законопроект так и не вступил в силу. Генеральной Ассамблеи штата Колорадо США в Законе Сената № 24-205 «О защите прав потребителей при взаимодействии с системой искусственного интеллекта», который вступает в силу в 2026 году, под «системой искусственного интеллекта» определено понимать «любую систему, основанную на машинном обучении, которая для любой явной или неявной цели анализирует получаемые входные данные, для того чтобы формировать выходные данные, включая контент, решения, прогнозы или рекомендации, которые могут влиять на реальную или виртуальную среду» [8].

Вместе с тем 23.01.2025 указом президента США Д. Трампа 14179 «Removing Barriers to American Leadership in Artificial Intelligence» («Устранение барьеров на пути американского лидерства в области искусственного интеллекта») анонсировано создание комиссий по судебным обжалованиям законов штатов США, противоречащим федеральным нормам в данной сфере, - ограничивая возможности штатов вводить собственные правила в отношении искусственного интеллекта, где в качестве примера и был приведен указанный выше закон штата Колорадо.

Согласно Указу президента США Дж. Байдена «О разработке и использовании искусственного интеллекта в условиях безопасности, надёжности и доверия» (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence) (раздел 3 пункт «в» и «c») от 30 октября 2023 года термин «искусственный интеллект» - компьютерная система, которая может для заданного набора задач, определенных человеком, делать прогнозы, рекомендации или принимать решения, влияющие на реальную или виртуальную среду. Системы искусственного интеллекта используют машинные и человеческие данные для восприятия реальной и вирту- альной среды; преобразуют такое восприятие в модели путем автоматического анализа; и используют выводы из модели для формулирования вариантов информации или действий [8].

Однако 23 января 2025 года президент США Д. Трамп отменил его, приняв вместо него новый - «Устранение барьеров для американского лидерства в искусственном интеллекте» (Removing Barriers to American Leadership in Artificial Intelligence)[7], в котором отмечено, что «для целей настоящего приказа термин «искусственный интеллект» соответствует 15 U.S.C.

9401(3)» (Кодекс Соединённых Штатов Америки раздел 15 «Коммерция и торговля» (Commerce and Trade)).

Таким образом в США единственным легальным определением является понятие внесенное в Кодекс Соединённых Штатов Америки раздел 15 § 9401 (3), согласно которому «искусственный интеллект» означает компьютерную систему, которая может для достижения заданного набора целей, определенных человеком, делать прогнозы, рекомендации или принимать решения, влияющие на реальную или виртуальную среду. Системы искусственного интеллекта используют машинные и человеческие данные для - (A) восприятия реальной и виртуальной сред; (Б) обобщения таких представлений в модели посредством автоматизированного анализа; и (В) использования выводов из модели для формулирования вариантов информации или действий [10].

В национальном законодательстве понятие «искусственный интеллект» закреплено в Федеральном законе от 24.04.2020 № 123-ФЗ (ред. от 08.08.2024) «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве, об особенностях обработки персональных данных при формировании региональных составов данных и предоставления доступа к региональным составам данных и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных», и имеет следующую формулировку, - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их».

В п.5 Указа Президента РФ от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации» содержится аналогичное правовое понятие искусственного интеллекта, однако тут еще сформулировано понятие сильного «искусственного интеллекта», – тип искусственного интеллекта, который способен выполнять различные задачи, взаимодействовать с человеком и самостоятельно (без участия человека) адаптироваться к изменяющимся условиям» [13].

Схожая формулировка этих понятий отражена в п. 3.6 и п. 3.15 «ГОСТ Р 59276-2020. Национальный стандарт Российской Федерации.

Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения» (утв. и введен в действие Приказом Росстандарта от 23.12.2020 N 1371-ст): искусственный интеллект - способность технической системы имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. искусственный интеллект. Сильный (общий) искусственный интеллект - способность технической системы, подобно человеку, мыслить, взаимодействовать, адаптироваться к изменяющимся условиям и решать другие задачи в области обработки информации, ассоциирующиеся с естественным интеллектом человека [14].

Анализируя все вышеизложенное, сложно не заметить, что, как и в процессе создания машинных программ А. Тьюрингом и Дж. Маккарти, так и в процессе конструирования правовой дефиниции «искусственного интеллекта», проводится тонкая грань между машинным и естественным интеллектом сквозь абстрактные сравнения процессов обучения человека через его когнитивные способности и автоматизированной системы с помощью заданных алгоритмов.

Вместе с тем такие метафорические аналогии между естественным и искусственным интеллектами не всегда оправданы, так как восприятие последнего пользователями искажается ввиду чрезмерных ожиданий.

Таким образом, на современном этапе стремительного развития искусственного интеллекта, его правовая дефиниция требует регулярной доработки, которая исключала бы двойственное толкование и мнимое уравнение с естественным интеллектом, в частности последнее стало возможным ввиду исследований и открытий в области «биологических наук», так как программы, разработанные на основе искусственного интеллекта основаны на имитации работы нейронных сетей мозга человека.

В связи с чем представляется первоочередной задачей выяснить в правильном ли контексте воспринимается и используется понятие «искусственный интеллект», так как существующая неоднозначность в определении этого термина, конвергенция и дифференциация с интеллектом естественным, усложняет его интеграцию в основные сферы деятельности человека, становясь причиной постоянно возникающих юридических коллизий.

В справочниках, раскрывающих и толкующих значения слов, термину «интеллект» даются следующие определения: интеллект (от латинского «intellectus» - восприятие; разуме́ние, понимание, понятие, рассудок [15]) или ум — способность человека мыслить, основа сознательной, разумной жизни [16], общее название познавательной и заключительной способности человека [17]. Интеллект – это способность человеческого разума, которая позволяет рассуждать, абстрагироваться, создавать концепции и выносить суждения [18].

Вместе с тем, значение слова в сознании общества не всегда соответствует его словарной дефиниции, - для описания реального функционирования слова необходимо учитывать виды деятельности, в которых оно используется. При таких обстоятельствах попытка раскрыть значение понятия «интеллект» с помощью толковых словарей не будет отвечает поставленным в исследовании задачам и требует более широкого – научного подхода.

По Д. Векслеру, интеллект — это глобальная способность разумно действовать, рационально мыслить и хорошо справляться с жизненными обстоятельствами — успешно меряться силами с окружающим миром [19].

Р. Солсо, американский психолог, специалист в области когнитивной психологии, рассматривает человеческий интеллект как способность приобретать, воспроизводить и использовать знания для понимания конкретных и абстрактных понятий и отношений между объектами и идеями, применять знания осмысленным способом [20, c.60].

Современные исследования естественного интеллекта, имеют огромный спектр научных подходов, но не имеют единого операционного определения.

В данном случае предпочтение отдадим когнитивным наукам по той причине, что большинство легальных определений «искусственного интеллекта», закрепленных как в национальном, так и зарубежном законодательстве, относят нас именно к этим областям познаний.

Стэнфордская философская энциклопедия (The Stanford Encyclopedia of Philosophy — публичная интернет-энциклопедия по философии) называет когнитивные науки «исследованиями сознания и интеллекта» [21].

Вместе с тем, когнитивная наука - это междисциплинарное исследование сознания и интеллекта, охватывающее философию, психологию, искусственный интеллект, нейронауку, лингвистику и антропологию. И как справедливо отметила М. Фаликман: «сердцевину исследований когнитивной науки составляет традиционный реестр познавательных процессов, оформившийся в рамках психологии: ощущение, восприятие, мышление, память, внимание, воображение и речь как процесс использования языка, - или когнитивные (исполнительные) функции человека» [22, с.3].

Основы современного течения когнитивных наук были заложены Жаном Пиаже — Швейцарским психологом и философом, он являлся представителем когнитивной и детской психологии, именно ему принадлежит теория когнитивного развития или его генетическая эпистемология [23, c.80].

Так в 1919 г. Пиаже, будучи преподавателем парижской школы, директором которой был А.

Бине, разработавший тест IQ, за обработкой результатов этого теста, заметил закономерность, что дети одного и того же возраста давали на задания тестов одинаково «неверные» ответы, при этом, становясь старше, дети переставали допускать эти ошибки, воспринимая мир уже иначе.

Попытки понять причину этого феномена и определили направление, ставшее впоследствии делом всей Ж. Пиаже - эволюции человеческого интеллекта, который ученый разделил на «интеллект» и «мыслительную деятельность», предложив понимать под интеллектом психологическую адаптацию к новым условиям среды.

Дж. Миллер, еще один весомый представитель и основоположник когнитивной науки, выделял шесть основных дисциплин, разработки которых легли в основу когнитивной науки: экспериментальная психология познания, философия сознания, нейронаука, когнитивная антропология, лингвистика, компьютерные науки и искусственный интеллект [24, c.105].

Стоит отметить неоценимый вклад в становление когнитивных наук, в частности нейропсихологии, труды отечественного научного деятеля А.Р. Лурии, который исследовал речь, мышление, память, эмоции и то, как культурная среда формирует психику, в том числе и у детей. Им было введено понятие ВПФ (высшие психические функции) — сложные самоорганизующиеся процессы в деятельности человека (мышление, речь, восприятие и др.), опосредованных знаками, произвольных и имеющих социальное происхождение.

Таким образом, можно сделать справедливый вывод, что сходство искусственного интел- лекта с биологическими нейронами в мозге абстрактно, и не смотря на их общую способность к обучению – искусственный интеллект, хотя и способен обрабатывать большие объемы данных, изучать закономерности и делать прогнозы, но тем не менее - намного проще биологического, и до сих пор не способен имитировать всю сложность человеческого мозга.

Тем не менее нейрофизиологические процессы, составляющие основу умственных способностей человека, продолжают оставаться объектами не только в области нейрофизиологии, биохимии, психогенетики, но и информационных технологий, кибернетики, так как разработка новейших технологий в сфере «искусственного интеллекта», невозможна без понимания работы механизмов, обеспечивающих высшие формы деятельности мозга человека, которые последний использует для моделирования познавательных (когнитивных) процессов, способных решать интеллектуальные задачи.

Вместе с тем, когнитивные функции (от англ. cognition - «познание») - наиболее сложные функции головного мозга, с помощью которых осуществляется рациональное познание мира и взаимодействие с ним [25, c.49].

К ним относятся: восприятие (гнозис) - способность распознавать информацию, полученную от органов чувств; память - способность запечатлевать, сохранять и многократно воспроизводить полученную информацию; психомоторная функцию (праксис) - способность составлять, сохранять и выполнять двигательные программы; речь - способность понимать и выражать свои мысли с помощью слов; интеллект (мышление) - способность анализировать информацию, обобщать, выявлять сходства и различия, выносить суждения и умозаключения, решать задачи; внимание - способность выделить из общего потока информации наиболее важное, концентрироваться на текущей деятельности, поддерживать активную умственную работу; регуляция произвольной деятельности - способность произвольно выбрать цель деятельности, построить программу для достижения этой цели и контролировать выполнение данной программы на различных этапах деятельности [25, c.108].

Таким образом когнитивные функции – это более широкое понятие, охватывающее все познавательные процессы мозга, а интеллект, - структурный элемент этого процесса.

Однако, исходя из легально закрепленного в отечественном законодательстве понятия (ФЗ № 123-ФЗ от 24.04.2020 [26] и Указ Президента РФ № 490 от 10.10.2019 [13]), искусственный интеллект это - техническая способность программы имитировать не только мыслительную деятельность человека, а абсолютно любую его деятельность в сфере познания окружающего мира,- то есть всю «когнитивную сферу человека».

Следовательно, правовая дефиниция «искусственного интеллекта» допускает создание компьютерных прообразов всех когнитивных функций человека, нормативно не ограничивая разработчиков в достижении целей автоматизации и оптимизация человеческого труда, что на современном этапе беспрецедентного развития в области искусственного интеллекта может иметь непредвиденные последствия.

На наш взгляд такое широкое понятие искусственного интеллекта не дает четкого и лаконичного объяснения этой правовой дефиниции, а является понятием, охватывающим для целей машинной имитации абсолютно все высшие психические функции человека, в связи с чем допускает неоднозначные толкования и создает сложности в правовом поле регулирования этой деятельности, как среди разработчиков, так и потребителей.

В этой связи предлагаем дополнить ФЗ № 123-ФЗ от 24.04.2020 и Указ Президента РФ № 490 от 10.10.2019 нормой, которая бы конкретизировала те функции, которые законодатель относит к когнитивным в контексте закрепленного им правового понятия «искусственный интеллект», тем самым определяя вектор развития этой стратегической сферы таким образом, чтобы технологии искусственного интеллекта развивались не нарушая, при этом, прав и законных интересов граждан и государства.

Кроме того, стоит обратить внимание на определения искусственного интеллекта, содержащиеся в Национальных стандартах.

Так согласно п. 3.20 «ГОСТ Р 43.0.7-2011.

Национальный стандарт Российской Федерации. Информационное обеспечение техники и операторской деятельности. Гибридно-интеллектуализированное человекоинформационное взаимодействие. Общие положения» (утв. и введен в действие Приказом Росстандарта от 13.12.2011 N 1242-ст) и с п 3.14 «ГОСТ Р 43.0.8-2017. Национальный стандарт Российской Федерации.

Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения» (утв. и введен в действие Приказом Росстандарта от 27.07.2017 N 757-ст) искусственный интеллект - моделируемая (искусственно-воспроизводимая) интеллектуальная деятельность мышления человека.

Согласно преамбулы «ГОСТ Р 71476-2024 (ИСО/МЭК 22989:2022). Национальный стандарт Российской Федерации. Искусственный интеллект. Концепции и терминология искусственного интеллекта» (утв. и введен в действие Приказом Росстандарта от 28.10.2024 N 1550-ст), искусственный интеллект - область науки и техники, рассматривающая технические системы, которые порождают такие результаты, как контент, прогнозы, рекомендации или решения для заданного набора поставленных человеком задач.

Не трудно заметить, что понятие «искусственный интеллект» в Национальных стандартах имеет иное определение, в связи с чем стоит обратить внимание законодателя на, что не единообразное употребление правового понятия, может приводить к юридическим коллизиям и конфликтам между участниками правоотношений, в связи с чем важно закрепить в законе одну единственную легальную дефиницию этого правового понятия.

В целом, на данный момент, регламентация искусственного интеллекта в Российской Федерации осуществляется документами рекомендательного характера, построенных на саморегулировании этой сферы, как среди разработчиков, так и среди пользователей программ, основанных на системах искусственного интеллекта.

Практически все нормативные правовые акты в этой сфере лишь предупреждают о возможных негативных последствиях, которые могут наступить вследствие необдуманного использования либо создания программ, основанных на искусственном интеллекте, не предусматривая санкционных ограничений.

Например положения Указа Президента Российской Федерации от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации», которым утверждена Национальная стратегия развития ИИ на период до 2030 года, содержат следующие рекомендации: «недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и организациям, предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта (в том числе несоблюдения конфиденциальности персональных данных и раскрытия иной информации ограниченного доступа), а также использование искусственного интеллекта в целях обеспечения информационной безопасности (п.19) [13].

Кодекс этики в сфере искусственного интеллекта, предусматривающий добровольный порядок присоединения, устанавливает лишь общие этические принципы и стандарты поведения, которыми следует руководствоваться Акторам (участникам отношений в сфере искусственного интеллекта) в своей деятельности.

Так п.1.2 Кодекса предполагает: «Акторы ИИ должны на этапе создания СИИ прогнозировать возможные негативные последствия для развития когнитивных способностей человека, и не допускать разработку СИИ, которые целенаправленно вызывают такие последствия». «Уровень внимания к этическим вопросам в области ИИ и характер соответствующих действий Акторов ИИ должен быть пропорционален оценке уровня рисков, создаваемых конкретными технологиями и системам искусственного интеллекта для интересов человека и общества. Оценка уровня рисков учитывает как известные, так и возможные риски, при этом принимается во внимание как уровень вероятности угроз, так и их возможный масштаб в краткосрочной и долгосрочной перспективе» [27].

ГОСТ Р ИСО/МЭК 42001/2024 «Национальный стандарт Российской Федерации. Искусственный интеллект. Система менеджмента», который действует с 01.01.2025 содержит требования к созданию, внедрению, поддержанию в рабочем состоянии и постоянному улучшению системы менеджмента ИИ в среде организации независимо от размера, типа и рода деятельности, которая предоставляет или использует продукты или услуги, применяющие системы искусственного интеллекта. Также в стандарте прописаны правила и способы определения критериев рисков в целях: обеспечения уверенности в том, что система менеджмента искусственного интеллекта может достичь намеченных результатов; предотвращения или уменьшения их нежелательного воздействия; достижения постоянного улучшения [28].

Вместе с тем порядок действий и механизм привлечения к ответственности в случае выявления нежелательного воздействия искусственного интеллекта, настоящим стандартом не разработан. Кроме того, согласно ст. 26 Федерального закона от 29 июня 2015 г. N 162-ФЗ «О стандартизации в Российской Федерации» [29], применение Национального стандарта ГОСТ Р ИСО/МЭК 42001/2024 основано на добровольном участии. При этом следует обратить внимание на изменения внесенные 05.01.2025 в ч. 5 Закона «Об экспериментальных правовых режимах в сфере цифровых инноваций» от 22.07.2020, которые запустили механизм предоставления компенсации в случае причинения ущерба от использования технологий искусственного интеллекта в рамках экспериментальных правовых режимов.

Согласно новым правилам, участники экспериментальных режимов в сфере цифровых инноваций обязаны страховать ответственность за негативные последствия их применения, а в случае наступления таких последствий - специальноуполномоченнная комиссия будет анализировать ситуацию с участием регуляторов, с целью оценки степени ущерба и выявления причин.

Однако требования этого закона распространяются сугубо на участников экспериментальных правовых режимов.

Установление причинно-следственной связи между негативными последствиями и действиями разработчика системы искусственного интеллекта, использование которой причинило вред, является крайне сложным аспектом, и отсутствие особых правил, регулирующих сферу этой деятельности, а также порядка применения и привлечения виновных лиц к ответственности в случае их нарушения, усложняет установление юридически значимых обстоятельств и порождает увеличение числа правовых конфликтов, требующих административного либо судебного разрешения.

Ведь ошибка в системе искусственного интеллекта возможна лишь по вине его разработчика, при этом вопрос ответственности разработчиков системы искусственного интеллекта, остается неоднозначным.

В целом «мягкое право» в системе регулирования искусственного интеллекта положительно влияет на развитие данной сферы деятельности, вместе с тем, отсутствие специальных норм и санкций, в случае возникновения споров, вынуждают использовать общие нормы права, закрепленные в Гражданском кодексе РФ, а также в Законе РФ от 07.02.1992 N 2300-1 (ред. от 07.07.2025) «О защите прав потребителей», что приводит к размытию границ между «нормами-рекомендациями» и «общепризнанными нормами».

Поэтому при проектировании подобных актов регулирования государству необходимо устанавливать дополнительные уровни защиты, связанные с ограничениями в использовании систем искусственного интеллекта в таких сферах деятельности как государственная безопасность, социальная сфера, государственное управление и образование.

И нам видится что начало в этом направлении в виде обязательного страхования ответственности за негативные последствия применения технологий искусственного интеллекта, хотя и лишь для участников экспериментальных правовых режимов, положено и является позитивным сигналом.

К этому числу стоит отнести и проект федерального закона № 1069302-8, который находится на данный момент на рассмотрении в Государственной Думе «О внесении изменений в Федеральный закон «Об информации, информационных технологиях и о защите информации» в части обязательной маркировки видеоматериалов, созданных с использованием технологий искусственного интеллекта принятие которого будет способствовать прозрачности и достоверности информации в цифровом пространстве.

В контексте затронутого вопроса, стоит отметить, что 09.12.2025, на Заседании Совета по развитию гражданского общества и правам человека были внесены предложения о принятии Закона о безопасном использовании искусственного интеллекта в социальной сфере, госуправлении и образовании, которые Президентом РФ В.В. Путиным был одобрены.

Заключение

В заключение необходимо отметить, что создание концепции эффективного правового регулирования отношений, связанных с созданием искусственного интеллекта, требует комплексного подхода. Это должен быть справедливый баланс, который будет устанавливать границы допустимого в сфере инновационных технологий, обеспечивающий соблюдение прав человека, конфиденциальности, справедливости, алгоритмической прозрачности и подотчетности, обеспечивающих укрепление позиции России в области разработок искусственного интеллекта, но при этом не стать барьером, который через принятие необоснованных и архаичных запретов будет тормозить развитие технологий в мировой гонке за лидерство в этой сфере.

Список литературы

1. Turing A. On Computable Numbers, with an Application to the Entscheidungsproblem, On Computable Numbers, with an Application to the Entscheidungsproblem (англ.) // Proceedings of the London Mathematical Society – London Mathematical Society, 1936. – Vol. s2-42, Iss. 1. – P. 230-265.
2. Тьюринг А. Intelligent Machinery (Мыслящие машины») [Электронный ресурс]: https:// weightagnostic.github.io/papers/turing1948.pdf
3. Turing, A.M. (1950). Computing machinery and intelligence. Mind, 59, р. 433-46 [Электронный ресурс]: https://philosophie.universite.tours/ documents/1950_Alan_Turing.pdf, 0.
4. Тьюринг А., фон Нейман Дж. Может ли машина мыслить? Общая и логическая теория автоматов. С предистовием Яновской С.А. и вступительной статьей Бирюкова Б.В. Пер. с англ. Изд. 3, испр. и доп. Alan Mathison Turing, John von Neumann. Can the Machine Think? General and Logical Theory of Automata. – 2025. – 232 с.
5. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence August 31, 1955 – p.12-14 [Электронный ресурс]: https:// www.cs.utexas.edu/~pstone/Courses/109fall23/ readings/W9-Dartmouth.pdf
6. Резюме документа SCP/35/7: Искусственный интеллект (ИИ) и авторство на изобретения [Электронный ресурс]: https://www.wipo.int/ edocs/mdocs/scp/ru/scp_35/scp_35_7_summ.pdf
7. Текст законопроекта Закон о будущем искусственного интеллекта 2017 года [Электронный ресурс]: https://www.govtrack.us/congress/ bills/115/s2217/text
8. Закон штата Колорадо № 24-205 «О защите прав потребителей при взаимодействии с системой искусственного интеллекта» [Электронный ресурс]: https://translated.turbopages.org/ proxy_u/en-ru.ru.1d7ebfeb-697f74fc-c80d26e7- 74722d776562/https/www.yahoo.com/news/articles /colorados-ai-law-cautionary-tale-152019149. html
9. Removing Barriers to American Leadership in Artificial Intelligence [Электронный ресурс]: https://www.whitehouse.gov/presidential-actions/ 2025/01/removing-barriers-to-american-leadershipin-artificial-intelligence/
10. Безопасная и заслуживающая доверия разработка и использования искусственного интеллекта Executive Order 14110 of October 30, 2023 [Электронный ресурс]: https://www.govinfo. gov/content/pkg/FR-2023-11-01/pdf/2023-24283. pdf
11. Указ президента США Дж. Байдена «О разработке и использовании искусственного интеллекта в условиях безопасности, надёжности и доверия» (Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence) Federal Register/Vol. 88, No. 210/ Wednesday, November 1, 2023 [Электронный ресурс]: https://www.govinfo.gov/content/pkg/ FR-2023-11-01/pdf/2023-24283.pdf
12. Кодекс Соединённых Штатов Америки раздел 15 § 9401 «Определение» [Электронный ресурс]: https://www.law.cornell.edu/uscode/ text/15/9401
13. Указ Президента РФ от 10 октября 2019 г. N 490 «О развитии искусственного интеллекта в Российской Федерации» (с изменениями и дополнениями от 15 февраля 2024 г. N 124)
14. ГОСТ Р 59276-2020. Национальный стандарт Российской Федерации. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения» (утв. и введен в действие Приказом Росстандарта от 23.12.2020 N 1371-ст) - интранет версия КонсультантПлюс
15. Дворецкий И. Х. Латинско-русский словарь, изд. 10-е, стереотипное, М.: Русский язык — Медиа. – 2006. – 1096 c.
16. Ожегов С. И. Толковый словарь русского языка [Текст]: 72500 слов и 7500 фразеологических выражений / С. И. Ожегов, Н. Ю. Шведова; Российская АН, Ин-т рус. яз., Российский фонд культуры. - 2-е изд., испр. и доп. - Москва: Азъ, 1994. – 907 с.
17. Даль, Владимир Иванович (1801-1872). Толковый словарь живого великорусского языка: избр. ст. / В.И. Даль; совмещ. ред. изд. В.И. Даля и И.А. Бодуэна де Куртенэ. – Москва: Олма-Пресс: Крас. пролетарий, 2004. - 700 с.
18. Корсини, Рэймонд Дж. Словарь по психологии / Р. Дж. Корсини. — Лондон: Routledge, 2016. – 1156 р.
19. Жмуров В. А. Психопатология: [В 2 ч.] / В. А. Жмуров. - Иркутск: Изд-во Иркут. ун-та, 1994. - 21 см. Ч. 2: Психопатологические синдромы. Ч. 2. - Иркутск: Изд-во Иркут. ун-та, 1994. - 304 с.
20. Солсо, Роберт Л. Когнитивная психология / Роберт Солсо; [пер. с англ. С. Комаров]. - 6-е изд. - М. [и др.]: Питер, 2006. - 588 с.
21. Cognitive Science // Stanford Encyclopedia of Philosophy. [Электронный ресурс] – Mode of access: http://plato.stanford.edu/entries/cognitivescience /
22. Фаликман М. «Когнитивная наука: основоположения и перспективы» / Фаликман Мария // Логос. — 2014. — №1 (97). — С. 1–18
23. Пиаже, Жан. Избранные психологические труды [Текст]: Психология интеллекта. Генезис числа у ребенка. Логика и психология: [пер. с фр.]- Москва: Просвещение, [1969]. - 659 с.
24. Миллер Дж. А. «Когнитивная революция с исторической точки зрения» (перевод с английского Я. Киселевой под редакцией М. Фаликман) // «Вопросы психологии». — 2005. — №6. — С. 104–109.
25. Неврология. Национальное руководство. Краткое издание / под ред. Е. И. Гусева, А. Н. Коновалова, А. Б. Гехт. - М.: ГЭОТАР-Медиа, 2018. – 688 с.
26. Федеральный закон «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» от 24.04.2020 N 123-ФЗ
27. Кодекс этики в сфере искусственного интеллекта (от 26 октября 2021 г.) [Электронный ресурс]: https://base.garant.ru/406862712/
28. ГОСТ Р ИСО/МЭК 42001-2024. Национальный стандарт Российской Федерации. Искусственный интеллект. Система менеджмента» (утв. и введен в действие Приказом Росстандарта от 28.10.2024 N 1549-ст) - интранет версия Консультант Плюс
29. Федеральный закон от 29.06.2015 N 162-ФЗ (ред. от 30.12.2020) «О стандартизации в Российской Федерации» - интранет версия Консультант Плюс
30. Законопроект №1069302-8 О внесении изменений в Федеральный закон «Об информации, информационных технологиях и о защите информации» (в части обязательной маркировки видеоматериалов, созданных с использованием технологий искусственного интеллекта) [Электронный ресурс]: https://sozd.duma.gov.ru/ bill/1069302-8#bh_hron

Скачать