Глобальный план контроля онлайн-контента от ВЭФ с использованием искусственного интеллекта

Общество

Всемирный экономический форум в этом месяце опубликовал статью, призывающую к системе онлайн-цензуры, основанной на сочетании искусственного и человеческого интеллекта, которая, по мнению одного критика, “глобализирует” “поиск неправильного мышления”.

Неутвержденные мнения становятся все более популярными, и онлайн-цензоры не могут угнаться за миллионами людей, которые становятся все более осведомленными и громкими.

Механизмы цензуры, используемые интернет-платформами, оказались довольно глупыми и неспособными. Люди даже осмеливаются жаловаться на Всемирный экономический форум, что, очевидно, совершенно неприемлемо для них.

Беспокойство ВЭФ

Анонс новостей в подкасте ВЭФ (https://archive.ph/vjo3T), директор ООН по коммуникациям Мелисса Флеминг сказала: “На данный момент мы набрали 110 000 информационных волонтеров, и мы снабжаем этих информационных волонтеров знаниями о том, как распространяется дезинформация, и просим их служить своего рода ”цифровыми спасателями» в тех местах, где распространяется дезинформация».

Предупреждая о “темном мире онлайн-вреда”, который необходимо устранить, Всемирный экономический форум (ВЭФ) в этом месяце опубликовал статью, призывающую к “решению” проблемы “онлайн-злоупотреблений”, которое будет основано на искусственном интеллекте (ИИ) и человеческом интеллекте.

В предложении содержится призыв к системе, основанной на ИИ, которая автоматизировала бы цензуру “дезинформации” и “разжигания ненависти” и работала бы над преодолением распространения “жестокого обращения с детьми, экстремизма, дезинформации, разжигания ненависти и мошенничества” в Интернете.

Чтобы преодолеть барьеры традиционных методологий обнаружения, мы предлагаем новую структуру: вместо того, чтобы полагаться на ИИ для обнаружения в масштабе и людей для рассмотрения крайних случаев, подход, основанный на разведке, имеет решающее значение.

Привнося в обучающие наборы управляемую человеком, многоязычную, внеплатформенную информацию, ИИ сможет выявлять нюансы, новые масштабные злоупотребления, прежде чем они достигнут основных платформ

Дополняя это более умное автоматическое обнаружение человеческим опытом для анализа крайних случаев и выявления ложноположительных и отрицательных результатов, а затем возвращая эти результаты в обучающие наборы, мы сможем создать ИИ с использованием человеческого интеллекта. 

Этот более интеллектуальный ИИ становится все более изощренным с каждым решением о модерации, в конечном итоге обеспечивая почти идеальное обнаружение в масштабе.

По словам автора статьи Инбал Голдбергер, человеческие “команды доверия и безопасности” сами по себе не в состоянии полностью контролировать такой контент в Интернете.

Голдбергер — вице-президент ActiveFence Trust & Safety, технологической компании, базирующейся в Нью-Йорке и Тель-Авиве, которая утверждает, что “автоматически собирает данные из миллионов источников и применяет контекстный ИИ для обеспечения доверия и безопасности операций любого масштаба”.

Вместо того, чтобы полагаться исключительно на команды модераторов, Голдбергер предлагает систему, основанную на “управляемом человеком, многоязычном, внеплатформенном интеллекте” — другими словами, ввод, предоставляемый “экспертными” человеческими источниками, которые затем создадут “обучающие наборы”, которые обучат ИИ распознавать предположительно вредные илиопасный контент.

По словам Диди Ранкович из ReclaimTheNet.org — будет собираться из “миллионов источников”, а затем сопоставляться и объединяться, прежде чем использоваться для “принятия решений об удалении контента” со стороны “интернет-платформ”.

По словам Голдбергер, система дополнит “умное автоматическое обнаружение с использованием человеческого опыта” и позволит создать “ИИ с использованием человеческого интеллекта”.

Это, в свою очередь, обеспечит защиту от “все более продвинутых игроков, злоупотребляющих платформами уникальными способами”.

“Человек-модератор, который является экспертом в области превосходства белой расы в Европе, не обязательно сможет распознать вредоносный контент в Индии или дезинформационные повествования в Кении”, — объяснила Голдбергер.

Тем не менее, “Благодаря уникальному сочетанию возможностей инновационных технологий, сбора данных вне платформы и мастерства экспертов в данной области, которые понимают, как действуют субъекты угроз, масштабируемое обнаружение онлайн-злоупотреблений может достичь почти идеальной точности”, поскольку эти обучающие наборы со временем “внедряются” в ИИ, — сказала Голдбергер.

Это, в свою очередь, позволит “группам доверия и безопасности” “предотвращать угрозы, возникающие в Интернете, прежде чем они достигнут пользователей”, — добавила она.

О чем это нам говорит?

В наши дни цензура осуществляется так, что каждая интернет-платформа, такая как Twitter, например, или любая другая, имеет свою собственную команду модераторов и механизм принятия решений. 

Twitter будет просматривать твиты любого конкретного пользователя Twitter только при принятии решения о том, удалять ли какие-либо твиты или приостанавливать их авторов. Модераторы Twitter НЕ просматривают Gettr или другие внешние веб-сайты.

Это объясняет, почему ВЭФ необходимо выйти за рамки основных интернет-платформ, чтобы собирать разведданные о людях и идеях повсюду. Такой подход позволил бы им лучше знать, какого человека или идею подвергнуть цензуре — сразу на всех основных платформах.

Они хотят собирать разведданные из “миллионов источников” и обучать свои “системы ИИ” обнаруживать мысли, которые им не нравятся, принимать решения об удалении контента, передаваемые таким, как Twitter, Facebook и так далее. Это серьезное изменение по сравнению со статусом-кво, когда каждая платформа решает, что делать, на основе сообщений, размещенных только на этой конкретной платформе.

Например, в дополнение к просмотру  профиля в Твиттере, предложенный ИИ ВЭФ также посмотрит на  профиль Gettr, а затем примет “разумное решение» немедленно удалить пользователя из Интернета.

Это своего рода упрощение, потому что они также хотят искать идеи, а не только отдельных людей, но, тем не менее, поиск неправильного мышления становится глобальным.

Это звучит как безумная теория заговора, но это так: ВЭФ собирает информацию обо всех и повсюду, а затем сообщает всем платформам, какие сообщения следует удалить, на основе глобального механизма ИИ, принимающего решения, который видит все и может идентифицировать отдельных людей и идеи за пределами любой данной платформы.

Если бы кто-нибудь когда-нибудь сказал мне, что это будет рассматриваться, я бы, вероятно, подумал, что этот человек сумасшедший. Это звучит как больная технологическая фантазия или надуманная теория заговора. К сожалению, эти безумные вещи реальны, они включены в повестку дня ВЭФ, которая официально размещена на их веб-сайте в разделе “Повестка дня ВЭФ”. И ВЭФ не бездельничает.

У вас не будет голоса, и вы будете счастливы!

Согласно Daily Caller, “В документе ВЭФ не указано, как будут определяться члены учебной группы по ИИ, как они будут привлечены к ответственности или могут ли страны осуществлять контроль над ИИ”.

В заявлении об отказе от ответственности, сопровождающем статью Голдбергер, ВЭФ заверил общественность, что содержание, изложенное в статье, “является мнением автора, а не Всемирного экономического форума”, добавив, что “эта статья была опубликована на веб-сайтах, которые обычно искажают контент и распространяют дезинформацию”.

Тем не менее, ВЭФ, похоже, открыт для предложений, подобных Голдбергер. Например, в статье, опубликованной в мае 2022 года на веб-сайте ВЭФ, “Надзорный совет” Facebook предлагается в качестве примера “модели управления в реальном мире”, которая может быть применена к управлению в метавселенной.

ООН при поддержке Фонда Гейтса также стремится ‘разорвать цепь дезинформации’

ВЭФ — не единственная организация, призывающая к более строгому контролю за онлайн-контентом и “дезинформацией”.

Например, ЮНЕСКО недавно объявила о партнерстве с Twitter, Европейской комиссией и Всемирным еврейским конгрессом, что привело к запуску кампании #ThinkBeforeSharing, чтобы “остановить распространение теорий заговора”.

По данным ЮНЕСКО:

“Пандемия COVID-19 вызвала тревожный рост дезинформации и теорий заговора.

“Теории заговора могут быть опасными: они часто нацелены на уязвимые группы и дискриминируют их, игнорируют научные данные и поляризуют общество с серьезными последствиями. Это нужно остановить ”.

Генеральный директор ЮНЕСКО Одри Азулай заявила:

“Теории заговора наносят реальный вред людям, их здоровью, а также их физической безопасности. Они усиливают и узаконивают неправильные представления о пандемии и укрепляют стереотипы, которые могут подпитывать насилие и насильственные экстремистские идеологии”.

ЮНЕСКО заявила, что партнерство с Twitter информирует людей о том, что события, происходящие по всему миру, не “тайно управляются за кулисами могущественными силами с негативными намерениями”.

ЮНЕСКО выпустила руководство о том, что делать в случае, если кто-то столкнется с “теоретиком заговора” в Интернете: нужно немедленно “отреагировать”, разместив соответствующую ссылку на “веб-сайт для проверки фактов” в комментариях.

ЮНЕСКО также консультирует общественность на случай, если кто-то столкнется с “теоретиком заговора” во плоти. В этом случае человек должен избегать споров, поскольку “любой аргумент может быть воспринят как доказательство того, что вы являетесь частью заговора, и укрепить это убеждение”.

Кампания #ThinkBeforeSharing предоставляет множество инфографики и сопроводительных материалов, призванных объяснить, что такое “теории заговора”, как их идентифицировать, как сообщать о них и как реагировать на них в более широком смысле.

Согласно этим материалам, теории заговора имеют шесть общих черт, в том числе:

  • “Предполагаемый тайный заговор”.
  • “Группа заговорщиков”.
  • “»Доказательства», которые, похоже, подтверждают теорию заговора”.
  • Предложения, которые “ложно” утверждают, что “ничего не происходит случайно и что совпадений не бывает”, и что “ничто не так, как кажется, и все взаимосвязано”.
  • Они делят мир на “хороший или плохой”.
  • Они делают козлов отпущения людьми и группами.

ЮНЕСКО не отвергает полностью существование “теорий заговора”, вместо этого признавая, что “реальные заговоры, большие и маленькие, ДЕЙСТВИТЕЛЬНО существуют”.

Однако, утверждает организация, такие “заговоры” “чаще сосредоточены на отдельных автономных событиях или отдельных лицах, таких как убийство или государственный переворот”, и “реальны”, только если “обнаружены средствами массовой информации”.

В дополнение к ВЭФ и ЮНЕСКО, Совет по правам человека Организации Объединенных Наций (ООН) ранее в этом году принял “план действий по борьбе с дезинформацией”.

“План действий”, спонсируемый США, Великобританией, Украиной, Японией, Латвией, Литвой и Польшей, подчеркивает “первостепенную роль правительств в противодействии ложным повествованиям”, выражая при этом обеспокоенность:

“Растущее и далеко идущее негативное воздействие на осуществление и реализацию прав человека преднамеренного создания и распространения ложной или искаженной информации, предназначенной для обмана и введения аудитории в заблуждение, либо для причинения вреда, либо для личной, политической или финансовой выгоды”.

Даже страны, которые официально не одобрили план Совета по правам человека, выразили обеспокоенность по поводу онлайн-“дезинформации”.

Например, Китай назвал такую “дезинформацию” “общим врагом международного сообщества».

Более ранняя инициатива ООН в партнерстве с ВЭФ “привлекла 110 000 информационных добровольцев”, которые, по словам директора ООН по глобальным коммуникациям Мелиссы Флеминг, будут действовать в качестве “первых цифровых служб реагирования” на “дезинформацию в Интернете”.

Инициатива ООН #PledgeToPause, хотя и недавно распространившаяся в качестве новой разработки в социальных сетях, была анонсирована в ноябре 2020 года и была описана ООН как “первая глобальная кампания по изменению поведения в отношении дезинформации”.

В то время Флеминг сказал, что ООН также “работает с платформами социальных сетей, чтобы рекомендовать изменения”, чтобы “помочь разорвать цепь дезинформации”.

Инициатива “Проверено” реализуется совместно с Purpose, группой активистов, которая сотрудничала с Фондом Билла и Мелинды Гейтс, Фондом Рокфеллера, благотворительными организациями Bloomberg, Всемирной организацией здравоохранения, Инициативой Чана Цукерберга, Google и Starbucks.

С 2019 года ООН поддерживает стратегическое партнерство с ВЭФ на основе шести “приоритетных областей”, одной из которых является “цифровое сотрудничество”.

Майкл Неврадакис, доктор философии, Игорь Чудов

Оцените автора
( 21 оценка, среднее 5 из 5 )
R&M Статья по вам плачет!
Добавить комментарий для Александр Отменить ответ

  1. Александр

    Что они там у себя курят? Они реально думают, что люди такие тупые, и если каждый день долдонить по всем каналам, что колоться жижей хорошо и жрать саранчу с мучными червями тоже, то все будут это делать? Над убогими можно только посмеяться. Радужный флаг им в руки

    Ответить