Искусственный интеллект используют в TikTok для распространения политической дезинформации — NewsGuard

Проект NewsGuard, занимающийся выявлением и борьбой с дезинформацией, обнаружил контент-фермы в TikTok, которые используют инструменты озвучки на основе искусственного интеллекта в видеороликах, распространяющих политическую дезинформацию.

NewsGuard впервые столкнулся с таким явлением в сентябре 2023 года. Тогда были выявлены 17 учетных записей, которые публиковали видео с теориями заговора о знаменитостях. В таких роликах использовались инструменты на основе ИИ по преобразованию текста в речь. Видео собирали сотни миллионов просмотров. Сейчас этот тренд распространяется на политический контент.

Проект обнаружил 41 аккаунт в TikTok на английском и французском языках, который публиковал видео с ИИ-озвучкой и дезинформацией. С марта 2023 года по июнь 2024 года эти аккаунты опубликовали 9784 видео, собрав более 380 млн просмотров. Большинство из аккаунтов было создано в 2024 году. В среднем каждый из них публикует не менее одного видео в день, а некоторые — до четырех.

Видео распространяют ложные нарративы о политике США и ЕС, а также о войне в Украине. Например, об аресте Дональда Трампа после нападения на госсекретаря штата Мэн, о размещении войск НАТО в Украине, о намерении Франции выйти из ЕС в «ближайшие недели», о том, что за терактом в «Крокусе» стоят США. Все эти новости являются фейковыми.

Из 41 аккаунта 17 публикуют ложные прокремлевские нарративы о войне в Украине. 14 из них ведутся на французском языке.

«NewsGuard обнаружил идентичные сценарии для разных видео в нескольких из этих аккаунтов, каждый из которых озвучивается разными голосами искусственного интеллекта, что предполагает скоординированные усилия по крайней мере между некоторыми аккаунтами», — заявляет NewsGuard.

Определить источник этих аккаунтов не удалось. Большинство из них уже удалены и ни один не содержал идентификационной информации в биографии или именах пользователей. Более половины из аккаунтов имели типовые сгенерированные TikTok идентификаторы @daily.news74, @latestworldnews.ss, @franceactu24, and @fast_infofrance и т. д.

18 аккаунтов, по всей видимости, соответствуют требованиям «фонда поддержки авторов» TikTok, который платит создателям контента на основе просмотров и вовлеченности. Чтобы соответствовать этим требованиям, у аккаунта должно быть более 10 реальных подписчиков и более 100 тысяч реальных просмотров за последние 30 дней.

С июля 2024 года TikTok обязал авторов маркировать видео, если для создания «реалистичных сцен или людей» использовался искусственный интеллект, но по состоянию на 4 июля 2024 года ни один из выявленных NewsGuard аккаунтов не имел такой маркировки.

NewsGuard связался с TikTok с просьбой прокомментировать информацию об этих аккаунтах. В компании ответили, что имеют лидирующую в отрасли политику в отношении ИИ-контента и инструменты для маркировки такого контента, а также ведут политику, запрещающую распространение вредной дезинформации.

После запроса NewsGuard некоторые из аккаунтов были удалены. По состоянию на 8 июля 2024 года удалены были 14 из 41 аккаунта, а затем еще восемь были отключены.