Интеллект идёт в народ

Кирилл Черновол Кирилл Черновол Эксперт Центра Россия-ОЭСР опубликовано Инновации · Цифровая экономика
Интеллект идёт в народ

Внедрение искусственного интеллекта - большая ответственность.

За ним нужно ухаживать, учиться понимать его нужды, ему нужно уделять много внимания. Нельзя внедрять ИИ по сиюминутной прихоти, это решение должно быть взвешенным и требует подготовки. ИИ будет Вам беззаветно предан, и Вы должны быть готовы ответить ему тем же. Люди забыли эту истину, но компания или орган власти не должны ее забывать. Мы всегда будем в ответе за тех, кого внедрили. И Вы отвечаете за свою систему ИИ...

Недавно утвержденный Федеральный проект "Искусственный интеллект" разрабатывался как часть Национальной программы "Цифровая экономика". Центр уже освещал проблемы регулирования искусственного интеллекта в России, в частности, проблемы, связанные с внедрением экспериментального правового режима в Москве и с определением искусственного интеллекта в российском праве.

Федеральный проект "Искусственный интеллект" имеет целью повышение использования предприятиями и гражданами преимущественно отечественных решений в сфере ИИ, которые "обеспечивают качественно новый уровень эффективности деятельности". Задачи при этом ставятся следующие:

  1. Разработка и развитие программного обеспечения, в котором используются технологии ИИ
  2. Поддержка научных исследований в целях обеспечения опережающего развития ИИ
  3. Повышение уровня кадрового обеспечения российского рынка технологий ИИ
  4. Повышение доступности аппаратного обеспечения, необходимого для решения задач в области ИИ
  5. Создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий ИИ
  6. Популяризация и развитие сообщества
  7. Внедрение ИИ-решений в отраслях экономики и повышение доступности и качества данных, необходимых для развития технологий ИИ

В каких сферах планируется внедрение ИИ в России?

Согласно Федеральному проекту, технологии искусственного интеллекта планируется целенаправленно внедрять и повышать доступность и качество данных, необходимых для развития технологии, в пяти отраслях:

  1. Здравоохранение
  2. Сельское хозяйство
  3. Транспортная отрасль
  4. Топливно-энергетический комплекс
  5. Обрабатывающие отрасли промышленности

Неясно, почему не выделены в отдельные отрасли, например, государственное управление, городское хозяйство, безопасность или финансовая сфера.

В данных сферах ИИ активно внедряется по всему миру (в том числе и в России), и, как минимум, было бы целесообразно предусмотреть создание единых стандартов в сфере ИИ в данных отраслях.

Какие у Федерального проекта плюсы?

Федеральным проектом предусмотрено продвижение российских научных разработок в сфере ИИ за счет представления работ на международных конференциях, в 2024 г. публикаций российских специалистов на таких конференциях должно быть не менее 90. Это как минимум означает необходимость стимулировать и продвигать результаты исследований в международном академическом пространстве, остаётся только надеяться, что такое продвижение не будет осуществляться силами только вузов или институтов и самих исследователей.

Другой важный основной показатель федерального проекта - увеличение количества специалистов в области ИИ, в 2024 г. должно быть подготовлено не менее 4241 специалиста, при этом, например, предакселерацию в реализации проектов ИИ к 2024 г. должны пройти не менее 97800 школьников и студентов (неясно, впрочем, что понимается под "предакселерацией"). Для этого предполагается повышать квалификацию преподавателей всех уровней образования, выдавать сертификаты на получение дополнительного профессионального образования, гранты вузам на повышение квалификации преподавателей, увеличивать число студентов на специальностях в сфере ИИ, а также актуализировать соответствующие образовательные стандарты. При этом мероприятий по поддержке в сфере материально-технического обеспечения школ и вузов, которые позволили бы эффективно готовить специалистов в сфере ИИ, в рамках данного показателя не предусмотрено.

Хорошим и крайне важным показателем является повышение доступности аппаратного обеспечения, необходимого для решения задач в области ИИ. В частности, в рамках данного показателя предусмотрено создание центра коллективного пользования с оборудованием и ПО в области разработки аппаратно-программных комплексов для целей ИИ. Создание такого центра сильно упростит доступ стартапов к средствам разработки и тестирования и поможет создавать минимальные жизнеспособные продукты, например, для последующего привлечения инвестиций на развитие таких продуктов. Однако странно то, что проектом предполагается ведение деятельности на базе таких центров всего не менее, чем 10 компаниями - с чем связан такой скромный в масштабах Федерального проекта показатель, неясно.

Показатель "Популяризация и развитие сообщества" предполагает, что к концу 2024 г. российское ИИ-сообщество вырастет вдвое. Неясно только, что понимается под "сообществом", какие группы в нём учитываются, и как планируется их измерять. Тем не менее, связанные с этим мероприятия – проведение хакатонов и популяризационной кампании по повышению доверия к ИИ – можно только приветствовать.

Наконец, несомненным плюсом является наличие дополнительного показателя "Удовлетворенность условиями работы граждан, заинтересованных в развитии искусственного интеллекта". Правда, оценка и мероприятия по достижению данного показателя могут быть выработаны только после разработки соответствующей методики, которой пока не существует в России. ОЭСР отмечает, что работа во многом определяет качество жизни людей и их благополучие. Более того, качественные рабочие места являются важным фактором увеличения участия рабочей силы, производительности и экономических показателей. ОЭСР разработала систему измерения и оценки качества рабочих мест, которая учитывает три объективных и измеримых аспекта. Вместе они дают всестороннюю оценку качества работы:

  • Качество заработка отражает степень, в которой заработок способствует благосостоянию работников с точки зрения среднего заработка и его распределения по рабочей силе.
  • Безопасность на рынке труда охватывает те аспекты экономической безопасности, которые связаны с рисками потери работы и ее экономическими издержками для работников. Он определяется рисками безработицы и полученными пособиями в случае безработицы.
  • Качество рабочей среды охватывает неэкономические аспекты работы, включая характер и содержание выполняемой работы, режим рабочего времени и отношения на рабочем месте. Они измеряются как частота рабочей нагрузки, характеризующаяся высокими требованиями к работе, при ограниченных рабочих ресурсах.

Нам никто не нужен?

Проблема содержания данного Федерального проекта заключается в том, что в рамках его реализации практически не предусмотрено осуществление международного взаимодействия в сфере регулирования ИИ, участия в разработке международных стандартов в сфере использования ИИ. Отсутствие такого взаимодействия и участия повлечет за собой ситуацию, при которой российский подход к регулированию искусственного интеллекта не будет учитываться при разработке международных стандартов, что будет заведомо означать отставание России от стран, участвующих в такой разработке. Не предусмотрено и присоединение к существующим международным соглашениям в сфере использования ИИ, что означает, что положения таких соглашений не будут учитываться при формировании правового регулирования искусственного интеллекта в России. Из-за этого системы ИИ, разрабатываемые в России, не будут соответствовать базовым международным принципам (не будет обеспечиваться, например, реализация принципов надежности и отслеживаемости данных), что создаст барьеры для экспорта таких систем.

Нам бы схемку, аль чертёж...

В Федеральном проекте не уточнены сферы правового регулирования, в которых планируется принятие норм в отношении разработки и использования систем искусственного интеллекта. Для обеспечения международной конкурентоспособности российских разработок в сфере ИИ необходимо закладывать в российское правовое регулирование ИИ указанные выше международные стандарты (Рекомендации ОЭСР), а также лучшие международные практики в сфере регулирования и ответственного использования ИИ.

Это необходимо, в частности, в правовом регулировании защиты персональных данных (для минимизации рисков неправомерного использования таких данных системами ИИ), защиты прав потребителей и конкуренции (для минимизации риска дискриминации при формировании предложений потребителям или риска дискриминационного ценообразования), интеллектуальной собственности (для устранения правовой неопределенности в вопросе того, кому принадлежат права на результаты интеллектуальной деятельности, созданной ИИ: заказчику, разработчику, оператору и т.д.), регулировании информации, информационных технологий и защиты информации (для минимизации рисков нарушения системами ИИ обязанностей операторов поисковых систем, новостных агрегаторов, аудиовизуальных сервисов, требований в сфере применения информационных технологий в целях идентификации граждан РФ, требований о защите информации), трудового законодательства (для минимизации рисков дискриминации при приёме на работу, если такой приём осуществляется с участием систем ИИ), законодательства о закупках (для устранения неопределенности в части возможности и порядка использования систем ИИ для анализа предложений по закупкам), о государственной муниципальной службе (для устранения неопределенности в части возможности и порядка использования систем ИИ органами власти, а также снижения рисков неэффективного внедрения систем ИИ в государственном секторе), правовых актов в сфере регулирования автономных транспортных средств и ответственности за ущерб, причиненный системами ИИ (для устранения неопределенности в вопросах распределения такой ответственности между разработчиками, операторами, пользователями и иными субъектами), а также в иных сферах, в рамках которых осуществляется правовое регулирование систем искусственного интеллекта.

Как органам и компаниям понять, стоит ли им внедрять у себя ИИ?

В рамках Федерального проекта не предусмотрено создание порядков, типовых руководств или методических рекомендаций, которые позволили бы органам власти самостоятельно оценивать необходимость внедрения систем искусственного интеллекта, сферы деятельности, в которые такие системы целесообразно внедрять. Отсутствие таких руководств и рекомендаций означает отсутствие единых критериев для определения целесообразности такого внедрения.

К таким критериям могут относиться критерии для определения категорий задач, для автоматизации которых необходимо именно внедрение искусственного интеллекта, указание на необходимость обеспечения системы достаточным набором качественных данных, в том числе для обучения системы, необходимость обеспечения законности использования таких данных в соответствии с законодательством о защите персональных данных и об информации, информационных технологиях и защите информации, необходимость обеспечения программами и аппаратами для систем ИИ, а также специалистами, которые будет внедрять и обслуживать систему. При этом Федеральным проектом предусмотрен, например, такой показатель реализации, как доля ФОИВ, реализующих мероприятия по внедрению ИИ и подготовке дата-сетов. В отсутствие указанных руководств и критериев достижение показателя повлечет за собой риски неэффективного внедрения систем искусственного интеллекта, внедрение таких систем без должной оценки целесообразности такого внедрения и, как следствие, снижение положительных социально-экономических эффектов от такого внедрения.

Искусственный интеллект - мощный и дорогой инструмент, но его возможности ограничены. ИИ способен обрабатывать большие объемы данных, взаимодействовать с окружающей средой (виртуальной или реальной), делать выводы и прогнозы и т.д., но он не может, например, понимать контекст данных, мыслить творчески или решать задачи помимо тех, которые были перед ним поставлены.

Поэтому, с одной стороны, нужно понимать, нужен ли для поставленных задач именно искусственный интеллект (или справятся более простые роботы), а с другой, справится ли ИИ с задачами, которые перед ним планируют поставить. Также качество работы ИИ определяется качеством данных, которые он получает, поэтому, решая вопрос о том, стоит ли внедрять (дорогостоящую) систему ИИ, нужно сперва понять, может ли ей быть предоставлен достаточный объём качественных данных. Не менее важны вопросы обеспечения этики использования искусственного интеллекта: при его использовании не должно нарушаться законодательство о защите персональных данных, конкуренции, прав потребителей, интеллектуальной собственности, не должна допускаться дискриминация со стороны ИИ, должны обеспечиваться прозрачность, объяснимость решений искусственного интеллекта и т.д.

Поэтому страны создают руководства для компаний и органов власти, с помощью которых те могут решить для себя, нужно ли им внедрять в свою работу систему искусственного интеллекта.

Так, например, в Великобритании разработано Руководство по использованию искусственного интеллекта в государственном секторе. Руководство содержит рекомендации по определению целесообразности внедрения системы искусственного интеллекта, планированию и подготовке к внедрению, управлению процессом внедрения и по этике и безопасности искусственного интеллекта. В США также разработано руководство (Playbook), в котором описаны этапы внедрения искусственного интеллекта: оценка проблемы, подготовка организации, выбор конкретного решения, имплементация и интеграция ИИ. В каждой фазе определены ключевые моменты в вопросах управления, персонала, процессов в организации, необходимых технологий и особенностей получения информации и сопровождения процессов (мониторинг внедрения, осуществление закупок, контрактный менеджмент и т.д.).

В заключение

Конечно, российское законодательство в сфере ИИ ещё находится в зачаточном состоянии. Но нужно понимать, что, во-первых, это значит, что в смысле регулирования мы уже отстаём от ряда других стран (таких, как, например, Корея, Канада, Нидерланды), а во-вторых, что необходимо обеспечивать как соответствие российских разработок в сфере ИИ международным стандартам (что также не заявлено в Федеральном проекте), так и продвижение российских подходов к регулированию ИИ (когда они появятся) при формировании таких международных стандартов. Если мы хотим избежать "внедрения ради внедрения" технологий и вместо этого решать с помощью ИИ какие-то конкретные задачи, необходимо централизованно объяснять органам и компаниям, когда внедрять ИИ, и как это делать правильно.