Этика слежки

Алина Валамат-Заде Алина Валамат-Заде Эксперт Клуба Россия-ОЭСР опубликовано Цифровая экономика
Этика слежки

На фоне массовых протестов против полицейского насилия в отношении расовых меньшинств, американская технологическая компания IBM подняла вопрос об этичности использования правоохранительными органами систем опознавания лиц.

Искусственный интеллект (далее - ИИ) является мощным инструментом по обеспечению безопасности граждан. Тем не менее, использование ИИ-технологий, например, систем распознавания лиц, может быть сопряжено с предвзятостью и расовым профилированием, а, следовательно, нарушением базовых прав человека и дискриминацией.

Генеральный директор IBM направил в Конгресс США открытое письмо, в котором заявил о прекращении компанией разработок и продаж технологии распознавания лиц, а также призвал остальных производителей взять ответственность за тестирование подобных алгоритмов на предвзятость, особенно в случае их дальнейшего использования правоохранительными органами.

В 2019 г. ряд городов США (Сан-Франциско, Сан-Диего и т.д.) уже ввели запрет на использование технологий распознавания лиц в связи с отсутствием стандартов их использования и высоким риском предвзятости в отношении расовых и национальных меньшинств. Власти ЕС также рассматривают возможность введения пятилетнего моратория на применение технологий распознавания лиц в общественных местах с целью проработки законодательства, которое смогло бы гарантировать отсутствие злоупотребления технологией.

Следует отметить, что Принципы искусственного интеллекта, разработанные ОЭСР, содержат рекомендацию предусматривать адекватные защитные механизмы для обеспечения прав человека. Новые технологии должны разрабатываться с особой осторожностью к возможным нарушениям прав человека, если мы не хотим воплотить сюжет антиутопий наяву.