Молодой новый AI

Кирилл Черновол Кирилл Черновол Эксперт Центра Россия-ОЭСР опубликовано в Инновации · Научно-технологическая политика
Молодой новый AI

28 февраля Папской академией жизни в Ватикане было представлено "Римское воззвание к этике ИИ" - этические принципы развития искусственного интеллекта. Документ подписали IBM и Microsoft.

В "Воззвании" отмечается, что системы ИИ должны разрабатываться и внедряться для службы людям и с целью защищать людей и окружающую среду, в которой они живут. В документе также подчёркивается, что растущее значение ИИ в мире должно отражаться в образовании, причём как для молодёжи, так и для старших поколений. Главной целью обучения в сфере ИИ должно стать, по мнению составителей, повышение осведомлённости о возможностях и вероятных проблемах применения ИИ в обществе и в личной жизни людей. Кроме того, подчёркивается, что для продвижения прозрачности и соответствия развития ИИ этическим принципам необходимы новые формы правового регулирования, особенно в отношении технологий, способных значительно повлиять на жизни людей - такие, как технология распознавания лиц.

Сами этические принципы в документе названы "алгоритмической этикой" или "алгор-этикой" (algor-ethics). Всего установлено 6 основных принципов:

  1. Прозрачность: системы ИИ должны быть объяснимы

  2. Инклюзивность: должны учитываться нужды всех людей с тем, чтобы каждый мог воспользоваться благами, даваемыми ИИ, и чтобы для каждого создавались условия для самовыражения и развития

  3. Ответственность: те, кто разрабатывает и применяет ИИ, должны делать это прозрачно и ответственно

  4. Беспристрастность: ИИ не должен создаваться или действовать с предвзятостью, должны защищать справедливость и человеческое достоинство

  5. Надежность: системы ИИ должны работать так, чтобы на них можно было полагаться

  6. Безопасность и приватность: системы ИИ должны работать безопасно и с уважением к тайне личной жизни.

Папа Франциск в своём письме Академии также выразил поддержку этическим принципам ИИ и указал на необходимость дальнейшего развития "алгор-этики", а также выразил обеспокоенность системами извлечения данных в коммерческих или политических целях, часто без ведома отдельных людей.