Как атификал интелидженс Вы назовете?

Кирилл Черновол Кирилл Черновол Эксперт Центра Россия-ОЭСР опубликовано Цифровая экономика · Устойчивое развитие
Как атификал интелидженс Вы назовете?

Как Центр Россия-ОЭСР уже отмечал в одной из предыдущих новостей, 7 февраля в Госдуму был внесён законопроект о создании в Москве экспериментального правового режима для развития искусственного интеллекта (ИИ).

К самому законопроекту есть ряд вопросов, однако основным является вопрос того, что законодатель понимает под искусственным интеллектом.

Законопроектом ИИ определён как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Такой комплекс решений включает в себя «информационно-коммуникационную инфраструктуру (в том числе информационные системы, информационно-телекоммуникационные сети, иные технические средства обработки информации), программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений». Данное определение практически идентично понятию искусственного интеллекта, содержащемуся в Национальной стратегии развития ИИ, утверждённой Указом Президента РФ от 10 октября 2019 г. № 490.

Искусственный интеллект представляет собой сложное и быстро эволюционирующее явление.

Нормативное определение данного термина должно не только охватывать его сущность и применение, но и учитывать возможное будущее изменение ИИ как явления.

Данная аналитика представляет собой попытку понять, насколько внедряемое в российское право определение ИИ соответствует международной и зарубежной практике?

Концепция искусственного интеллекта (ИИ) имеет более чем полувековую историю. Ещё в 1950 г. Алан Тьюринг высказал мнение, что со временем машины будут конкурировать с людьми во всех чисто интеллектуальных сферах. Из доклада Джона Маккарти по результатам исследований в Дармуте в 1955 году можно определить «искусственный интеллект» как способность машин использовать естественный язык, формировать абстракции и концепции, решать задачи, которые сейчас решаются только человеком, и совершенствовать себя, а также способность машины демонстрировать поведение, которое характеризовалось бы как «разумное» («intelligent»), если бы его демонстрировал человек.

10 лет спустя в МТИ была разработана программа ELIZA, способная распознавать естественный язык и поддерживать простейшую беседу по заданным сценариям (самый известный из них – «Доктор» - имитировал беседу с психотерапевтом). Ещё 25 лет спустя в университете Карнеги-Мелона начали разработку нейросети, способной управлять транспортным средством.

В настоящее время искусственный интеллект применяется во множестве сфер: от государственного управления и обороны до здравоохранения, финансов и искусства. Однако с развитием ИИ понимание его сущности коренным образом не менялось.

Так, G20 в настоящее время определяет искусственный интеллект как устройство, выполняющее когнитивные функции, схожие с человеческими (например, способность к обучению, пониманию, формированию рассуждений и взаимодействию с человеком). Это определение основано на стандартах ОЭСР. К слову, Центр Россия-ОЭСР принимал участие в их разработке весной-летом 2019 года.

ЕС приводит более детальное определение: системы, демонстрирующие разумное (intelligent) поведение за счет анализа собственного окружения и совершения действий с некоторой степенью автономии для достижения заданных целей. ЕС отмечает, что такие системы могут существовать целиком в программном виде, действовать в виртуальном мире или быть частью физического устройства (автономные машины, дроны, ИИ-составляющие «Интернета вещей»).

Как видно из приведённых определений, ИИ на международном уровне характеризуется свойством «разумности» как способности к рассуждению, формированию логических связей и рефлексии. Программа развития ООН (UNDP) наряду, например, с Банком Нидерландов приняли определение ИИ из Оксфордского словаря: «теория и разработка компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие как визуальное восприятие, распознавание речи, принятие решений, перевод и восприятие смысла речи». Данное определение понятно на обывательском уровне, однако для целей правового регулирования оно слишком абстрактно.

Впрочем, в США термин «искусственный интеллект» не определяется набором признаков, а включает в себя ряд понятий, некоторые из которых не менее абстрактны:

  • Любая искусственная система, выполняющая задачи в непредсказуемых и разнообразных обстоятельствах без существенного вмешательства человека или способная учиться на опыте и улучшать собственные результаты [по выполнению задач] за счет восприятия наборов данных.
  • Искусственная система, разработанная с использованием компьютерного программного, аппаратного обеспечения или иных средств, решающая задачи, требующие способности воспринимать, осознавать, планировать, учиться, взаимодействовать или реагировать физически подобно человеку.
  • Искусственная система, разработанная таким образом, чтобы мыслить или действовать подобно человеку, включая когнитивные архитектуры и нейросети.
  • Набор техник (techniques), в том числе машинное обучение, имитирующих когнитивные задачи.
  • Искусственная система, разработанная с целью осуществления рационального поведения, в том числе программный агент или робот, выполняющие задачи посредством восприятия, планирования, выстраивания рассуждений, обучения, взаимодействия, принятия решений и совершения действий.

Перечисленные в праве США определения также представляются недостаточно определёнными в смысле ясности терминов. Так, например, критерий человекоподобия, имеющий место почти во всех приведенных определениях, носит оценочный характер, неясны возможности его правового применения.

В праве Великобритании ИИ определяется как использование цифровых технологий для создания систем, способных выполнять задачи, для которых обычно требуется наличие разумности (intelligence). ИИ постоянно эволюционирует, но в общем данное понятие включает в себя машины, использующие статистические данные для поиска закономерностей в больших объёмах данных и способность выполнять повторяющиеся задачи с данными без необходимости человеческого руководства (guidance).

Приведённое определение отходит от концепции «человекоподобия», но сохраняет критерий «разумности» как элемента, необходимого для выполнения задач, определяющих функционал ИИ. Представляется, что под «разумностью» понимается способность воспринимать данные, создавать логические связи в рамках полученных данных, выявлять закономерности, делать выводы и принимать решения с учётом поставленных задач, а также способность учитывать ранее обработанную информацию, выявленные закономерности, сделанные выводы и принятые решения при последующем выполнении аналогичных задач (способность обучаться).

Наконец, ОЭСР определяет ИИ-системы как основанные на технических средствах системы, способные - в рамках набора определяемых человеком задач – делать прогнозы, рекомендации или принимать решения, влияющие на реальное или виртуальное пространство. Такие системы используют данные, введенные человеком или машиной, для восприятия реального и/или виртуального окружения; обобщать такие данные в модели (автоматически, например, посредством машинного обучения или вручную) и использовать такие модели для составления выводов, на основе которых формулируются варианты создания информации или действий. ИИ-системы создаются для работы в условиях разной степени автономности.

Как следует из определения ОЭСР, более утилитарный подход к определению ИИ позволяет не применять оценочную концепцию «человекоподобия». Такой подход представляется более подходящим для целей правового регулирования.

Возвращаясь к приведенному выше определению ИИ, содержащемуся в законопроекте и Национальной стратегии развития ИИ, можно сделать вывод о том, что в целом оно соответствует международной и зарубежной практике, однако российским законодателем были также переняты недостатки таких определений, а именно, оценочная и в целом неподходящая для целей нормативного регулирования формула «имитирования когнитивных функций человека». Сами такие функции нормативно не закреплены, данная категория относится к сфере когнитивистики. Применение данной формулы может создать проблемы при отнесении того или иного программного продукта к ИИ на основании признака «имитирования когнитивных функций». Как показывает определение ОЭСР, определение ИИ вполне возможно без привязки к проведению аналогии с когнитивными функциями человека.