Разработан искусственный интеллект, который отличает истинные заговоры от теорий заговора, но может и навредить

Теории заговора, которые потенциально могут причинить значительный вред, когда у них появляются неадекватные последователи, нашли пристанище в социальных сетях , где совершенно немодерируемые паблики и форумы позволяют единомышленникам общаться на любые темы, развивая свои теории, а главное, координировать действия по «противодействию возникающим угрозам».

Проблема заключается в том, что теории заговора быстро набирают последователей, так как они опираются на эмоциональную составляющую, из-за чего их сложно отличить от реально существующего заговора.

Как оказалось, в этом могут помочь инструменты машинного обучения, способные выстраивать графики элементов, слоёв и связей повествования. Эти инструменты могли бы лечь в основу системы раннего предупреждения властей об онлайн-нарративах, которые представляют угрозу в реальном мире. Здравствуй, новая теория заговора, но об этом ниже.

Группа специалистов из Калифорнийского университета разработала автоматизированный подход к определению того, когда разговоры в социальных сетях отражают явные признаки теории заговора, на основе которого предполагается создать #искусственный интеллект .

Методы уже были успешно применены для изучения инцидента Pizzagate , когда мужчина убил человека в пиццерии, сказав, что расследует дело о педофилии, теорий заговоров, появившихся во время пандемии Covid-19 , и движения антивакцинаторов .

Специалисты разработали набор инструментов машинного обучения, собранные в один алгоритм , способный идентифицировать нарративы, основанные на множествах людей, мест, вещей и их отношениях между собой.

Алгоритм определяет основные слои повествования и то, как эти слои объединяются, чтобы сформировать повествование в целом.

Формирование повествования на основе различных слоёв на примере Bridgegate — одной из политических теорий заговора.
Формирование повествования на основе различных слоёв на примере Bridgegate — одной из политических теорий заговора.

#теории заговора преднамеренно сложны и отражают всеобъемлющее мировоззрение. В процессе формирования теорий заговора связи формируются там, где их априори быть не может, из-за чего повествование становится настолько запутанным, что неподготовленному человеку максимально легко в него поверить. Ну а свободные распространение и обмен информацией в интернете напрямую способствуют формированию таких связей.

Так или иначе, есть явные этические проблемы, которые поднимает данная работа. К примеру, такой алгоритм может быть использован для разработки системы раннего предупреждения, которая отслеживает появление и согласование нарративов теории заговора, о чём сказано выше.

С другой стороны, он же может быть использован для разработки совершенно новой теории заговора — настолько убедительной, что это станет очень серьёзной проблемой, ведь позволит создать такие связи между слоями, которые сложно будет распознать как искусственные.

Так или иначе, работа действительно интересная, поэтому предлагаю ознакомиться с оригиналом.