OpenAI выявила российские и иранские операции влияния, размещавшие фальшивые истории в реальных СМИ

OpenAI разоблачила российскую и иранскую операции влияния и заблокировала связанные с ними аккаунты ChatGPT. Согласно отчёту расследования компании, обе операции использовали фальшивые личности для размещения материалов в легитимных СМИ, а не для проведения кампаний в социальных сетях. Ранее OpenAI раскрыла другую российскую кампанию, основанную на социальных сетях и фиктивном аналитическом центре.

Российская операция «Dark Clark» распространяла дезинформацию по всей Латинской Америке, чтобы дискредитировать Украину и дестабилизировать местную политику. Участники контролировали аналитический центр через вымышленную личность и, вероятно, привлекали местных сотрудников, не ставя их в известность. Сфабрикованные аудиофайлы и документы привели к проверкам фактов и официальным опровержениям в Эквадоре и Перу. OpenAI оценивает её в 5 баллов из 6 по шкале прорыва (Breakout Scale), поскольку политики отреагировали на этот контент. Это первый случай категории 5 за два с половиной года ведения отчётности.

Иранская операция «Bogus Bylines» использовала семь фиктивных журналистов, чтобы разместить почти 100 статей о конфликте между США и Ираном в интернет-изданиях по всему миру. Участники также создавали комментарии в социальных сетях, однако они почти не получили распространения. В обеих операциях ИИ в основном использовался для подготовки внутренних отчётов и адаптации пропаганды к разным языкам.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.