Технологии в конфликте

Кирилл Черновол Кирилл Черновол Эксперт Центра Россия-ОЭСР опубликовано Инновации · Устойчивое развитие
Технологии в конфликте

Консалтинговая компания JustPeace Labs выпустила обзор «Технологии в конфликтной ситуации: чувствительность отрасли технологий к конфликтам».

В обзоре приводятся риски, с которыми технологические компании сталкивались за последнее время, причем обращается внимание, что сегодня большинство стран мира вовлечены в какие-либо конфликты. Такие конфликты не всегда носят насильственный характер и могут быть вызваны множеством причин, в числе которых нарушение прав человека и гражданина, социальная, расовая или этническая напряженность, экономическая незащищенность и несправедливое государственное управление.

Новые технологии могут во многих отношениях существенно повлиять на динамику таких конфликтов. В обзоре приводятся некоторые примеры:

  • использование СМИ как оружия (Media Weaponization). Социальные сети использовались для организации и координации стрельбы в общественных местах, пропаганды и распространения информации о терактах и подстрекательства к этническим чисткам и геноциду. Шри-Ланка представляет собой наглядный пример того, как социальные сети могут негативно влиять на отношения в обществе в сложном постконфликтном контексте.

Шри-Ланка имеет долгую и сложную историю насилия между разными общинами. Спустя почти десять лет после окончания 25-летней гражданской войны многие причины конфликта остаются без внимания. Эта динамика усугубляется распространением ложной информации в социальных сетях, таких как Twitter, Facebook и WhatsApp. Экстремисты используют социальные сети в качестве оружия, чтобы манипулировать обычными людьми и усиливать разжигание ненависти. Так, в 2018 году Шри-Ланка погрузилась в насилие: слухи в Интернете спровоцировали нападения представителей буддийского большинства на мусульман. Экстремисты использовали социальные сети, чтобы призвать людей выступать против мусульман в ответ на слухи о том, что мусульмане замышляют массовые убийства буддистов. В течение трех дней марта толпы сожгли несколько мечетей, домов мусульман и магазинов, принадлежащих мусульманам. Один человек был сожжен заживо. В ответ правительство временно заблокировало социальные сети, включая Facebook, WhatsApp и Instagram.

  • намеренные обрывы интернета (internet shutdown). Правительства по всему миру используют обрывы доступа в Интернет как орудие угнетения и орудие войны. В 2019 году 33 правительства принудительно отключали интернет 2013 раз. В число таких правительств входят Судан, Бангладеш, Эфиопия, Индия и Мьянма. А в 2020 году мы видим в числе таких стран и Белоруссию. Правительства все чаще ориентируются на конкретные географические районы, что означает, что такие обрывы направлены против конкретных группы населения, например, маргинальных меньшинств и других лиц, чьи права человека которых находятся под угрозой.

  • использование технологий искусственного интеллекта в вооружённых конфликтах (AI-driven warfare). Есть много разных сценариев, в которых ИИ можно использовать в качестве оружия войны. Развитие систем искусственного интеллекта сделает атаки более эффективными, точными и более сложными для выявления. Потенциальные способы использования ИИ в конфликтах пока что носят гипотетический характер, но они считаются одной из самых больших угроз 2020 года. Злоумышленники будут использовать технологию ИИ различными способами, чтобы сыграть на эмоциях и недовольстве людей, основанном на неравенстве, маргинализации и социальной несправедливости, и обострять общественное восприятие проблем, которые могут подорвать доверие и вызвать столкновения с применением насилия. Такое использование технологий тесно связано с использованием социальных сетей в качестве оружия, но не ограничивается им.

  • технологии распознания лиц могут негативно повлиять на неприкосновенность частной жизни, безопасность и доступ к социальным услугам. Известно, что эта технология может институционализировать системную дискриминацию и расизм. Например, в США полиция использует технологию распознавания лиц несправедливо против афроамериканцев. Полиция Детройта признает, что ее программное обеспечение для распознавания лиц работает с ошибками, но все равно полагается на него при проведении арестов.

  • контроль за перемещением в условиях COVID-19. Одним из признанных методов борьбы с вирусными инфекциями является отслеживание контактов и перемещений человека. Чтобы ускорить и упростить этот процесс для отслеживания и борьбы с пандемией, правительства и частные компании объединились для разработки новых технологических инструментов, которые отслеживают местоположение пользователя, чтобы определить, когда он находился рядом с лицами, у которых был диагностирован COVID-19. Эффективность этих приложений все еще остается неопределенной, особенно там, где не распространены смартфоны. Но несомненно то, что в текущих условиях они создают ряд серьезных рисков. Существенную озабоченность вызывает то, что данные, собранные для отслеживания контактов, могут быть объединены с другими наборами данных для идентификации и профилирования людей. Это может привести к массовому наблюдению за людьми и иметь серьезные гуманитарные последствия.

С учетом этих рисков, как быть с чувствительностью к ним технологических компаний? Многие такие компании активно поддерживают права человека и имеют четкие внутренние политики для решения например, проблем неприкосновенности частной жизни или свободы слова. Однако эти политики не распространяются на чувствительность к конфликтам или на принятие мер по снижению воздействия их продуктов и услуг на насильственные конфликты.

В этой связи JustPeace предлагает несколько возможных вариантов действий для технологических компаний:

  1. внедрения технических стандартов в саму продукцию
  2. поддержание добросовестной репутации
  3. соблюдение стратегии устойчивого развития компании
  4. участие в многосторонних инициативах, проектах, публичных экспертных группах по правам человека
  5. проведение должной осмотрительности для поддержания мира

Главная рекомендация для технологических компаний - принять чувствительность к конфликтам как один из главных принципов разработки и выпуска продукции компании. Такой подход предполагает, что компания будет внедрять меры, направленные на минимизацию негативных воздействий (таких, как разжигание ненависти или нарушение прав человека) и максимизацию положительных эффектов от использования продукции компании в рамках конфликтов.

Зачем нужна чувствительность к конфликтам?

JustPeace Labs отмечает, что принятие подхода чувствительности к конфликтам несет в себе выгоды, которые значительно перевешивают издержки на его внедрение, например:

  • Снижение юридической ответственности. Понимая, как продукты и услуги используются на зарубежных рынках, и разрабатывая соответствующие корпоративные политики и меры, направленные на недопущение негативных последствий использования продукции в конфликтах, компании могут снизить риски юридической ответственности: судебных исков заинтересованных сторон, гражданской и других видов ответственности.

  • Снижение репутационных издержек и ущерба идентичности бренда. Такие издержки и ущерб могут отрицательно сказаться на лояльности клиентов, а также на найме и удержании сотрудников. Плохая репутация компании может привести к дополнительным расходам на 10% на найм сотрудников.

  • Повышение финансовой защищенности. Помимо репутационных издержек, конфликты увеличивают транзакционные издержки ведения бизнеса. При этом устойчивые практики ведения бизнеса положительно коррелируют с доходностью инвестиций. Существует положительная взаимосвязь между корпоративными инвестициями в устойчивость и финансовыми и производственными показателями. В Индии, где правительство регулярно отключает Интернет в конфликтном регионе Кашмир, операторы связи теряют около 24,5 миллиона рупий (350 000 долларов США) в час из-за намеренных обрывов доступа в Интернет.

  • Повышение влиятельности компаний, первыми принявших подход чувствительности к конфликтам. Многие технологические компании вовлечены в деятельность, которая прямо противоречит обязательствам в области прав человека. При этом институты гражданского общества, рекламодатели и инвесторы призывают технологические компании не просто уважать, а активно защищать права человека. Участвуя в таких инициативах, как инициативы по вовлечению заинтересованных сторон, компании могут влиять на разработку соответствующих принципам чувствительности к конфликтам нормативных положений и стандартов.

  • Сегодня все крупные многонациональные компании приняли на себя обязательство уважать права человека и сопутствующие этому обязательства. Многие технологические компании уже вкладывают значительные средства в комплексную экспертизу прав человека и в предотвращение непреднамеренного соучастия в нарушениях прав человека. Поэтому логично, что такие будут стремиться включать в те же подходы положения о чувствительности к конфликтам, чтобы избежать непреднамеренного соучастия в конфликтах.

Для получения ежедневных новостей из мира ответственного ведения бизнеса подписывайтесь на нашу страничку Центра ответственного ведения бизнеса в Facebook.