Фальшиві вибухи та ракетні удари в Ірані: як штучний інтелект захопив соцмережі фейковими відео та світлинами

Фейкові матеріали війни повертаються, але тепер роблять їх за допомогою штучного інтелекту

З моменту вторгнення Росії в Україну у 2022 році соцмережі наповнилися фальшивими відео та фотографіями, які видавали за свіжі кадри війни, але насправді були або відретушованими фотоманіпуляціями, або відеозаписами з ігор, фільмів та минулих подій. Зараз подібний фейковий контент знову активно шириться в інтернеті, але не тільки у звичній формі – до нього додалися нові можливості AI, що дозволяють створювати високоякісні відео й зображення з війни як в Ірані.

Зокрема, професор Каліфорнійського університету в Берклі Хані Фарід зауважив, що ще десять років тому таких підробок було лічені одиниці, і їх швидко викривали. Тепер же їх сотні, і вони настільки реалістичні, що люди вірять і розповсюджують їх далі, часто навіть не підозрюючи про обман.

За словами журналіста BBC Shayan Sardarizadeh, штучний інтелект став доступнішим упродовж останнього року, і з його допомогою можна створити відео або світлини, які виглядають як справжні свідчення значним подій війни, і це дуже складно запідозрити непрофесіоналу.

Відео та фото, яких не було в реальному житті

Наприклад, один із роликів, уже широко розповсюджених у соцмережах, показує вигаданий масований ракетний удар Ірану по Тел-Авіву. Другий демонструє паніку й втечу людей після нібито іранської атаки на аеропорт у цьому ж місті, а третій нібито показує захоплених американських спецпризначенців, яких тримають під прицілом іранські солдати.

Ще одне фальшиве відео претендує на записи з камер спостереження, де начебто атакують іранські військові об’єкти – і тут уже три з чотирьох фрагментів є штучно згенерованими, хоча один кадр справді має реальне походження, але ще з минулого року. До того ж у мережі з’явилися вигадані сюжети з американськими військовими в Ірані та іншими деталями, яких насправді нема.

Що цікаво, фальшиві зображення штучного походження часто демонструють палаючі американські військові бази в Іраку, посольство США в Саудівській Аравії після іранських ударів або й самого верховного лідера Ірану Алі Хаменеї, який нібито загинув і лежить під завалами. Навіть деякі офіційні іранські джерела опублікували підроблені супутникові знімки з пошкодженнями баз, чим додатково заплутують користувачів.

Ворох неправди в умовах інформаційної війни

Попри те, що експерти на кшталт Shayan Sardarizadeh щодня викривають нові підробки, темпи поширення таких фейків значно випереджають здатність це контролювати. Вони настільки реалістичні, що типовий користувач просто не помітить підміни, гортуючи свій стрічку новин.

До речі, чимала частина цих фальшивок походить від проріанських акаунтів, які використовують їх як пропаганду. Однак мотив і походження багатьох — незрозумілі, можливо, хтось просто хоче отримати більше переглядів і впливу або просто зміг легко створити такі матеріали.

Ускладнює ситуацію, що соцмережі тепер значно менше контролюють контент, а алгоритми радше підсилюють поляризацію і показують користувачам однодумців, посилюючи ефект «бульбашки». Навіть платформа X, яка минулого тижня оголосила про обмеження для контентмейкерів, які поширюють AI-відео без позначок, зіштовхнулася з проблемою – більшість користувачів не підпадають під такі правила, а на додачу їхній власний AI-чат Grok іноді помилково підтверджує фейкові відео як справжні.

Як не стати жертвою дезінформації

Зараз відрізнити реальне від штучно створеного дуже складно – навіть поради, які ще кілька місяців тому допомагали, на кшталт пошуку зайвих пальців у людях на зображеннях, вже не працюють, бо AI навчився уникати таких помилок.

Фарід радить надалі вибирати джерела новин серед надійних журналістських видань, а не довіряти випадковим дописам у соцмережах. Адже в «гарячі» моменти конфліктів соцмережі не найкраще місце для отримання достовірної інформації.

До речі, якщо таки не можете уникнути соцмереж, спробуйте не поспішати із довірою до гучних відео чи фото, а проаналізуйте деталі: чи синхронний звук із відео, чи відповідають символи та локації реальності, і чи не залишив AI водяний знак. Варто перевірити також, чи не спростовували це відомі фактчекери або експерти, а також звернути увагу, що думають інші користувачі у коментарях.

Загалом же слід «тренувати око», бо, як з’ясувалося, майбутнє AI-фейків буде ще складнішим для розпізнавання.