AI став краще підробляти натовп. Ось чому це викликає занепокоєння

Нещодавно інтернетом розлетілося відео з концерту Вілла Сміта — не завдяки його виступу, а завдячуючи публіці. Уважні глядачі помітили дивні пальці та обличчя в залі, люди підозрюють що цей пост був створений штучним інтелектом.

Інструменти для створення зображень та відео на основі штучного інтелекту від таких компаній, як Google та OpenAI, стають дедалі вправнішими у створенні переконливих масових сцен, розмиваючи межі між реальністю та маніпуляцією.

Масові сцени становлять особливу технічну проблему для ШІ, оскільки вони передбачають керування багатьма складними деталями, такими як окремі людські риси та рухи. Однак новітні моделі ШІ швидко вдосконалюються до такої міри, що відрізнити реальний контент від контенту, створеного ШІ, стає дедалі складніше.

Це має значні наслідки, оскільки зображення великих, залучених натовпів часто використовуються як «візуальна метрика» для оцінки успіху чи популярності публічних заходів, політичних мітингів та протестів. Оскільки штучний інтелект полегшує завищення видимості розміру натовпу, існують побоювання щодо потенційного зловживання та поширення дезінформації.

Також існують побоювання, що справжні зображення можуть бути відхилені як «підробки штучного інтелекту», якщо вони показують щось політично незручне.

Meta, материнська компанія Instagram, наразі позначає завантажений контент, створений штучним інтелектом, коли користувачі його розкривають або коли їхні системи його виявляють. Відео Google, створені за допомогою власних інструментів генеративного штучного інтелекту на YouTube, автоматично мають мітку в описі. Компанія просить тих, хто створює медіа за допомогою інших інструментів, самостійно розкривати інформацію про використання штучного інтелекту. TikTok вимагає від кріейторів позначати контент створений штучним інтелектом, або публікувати значно відредагований, який показує реалістичні сцени або людей. Не маркований контент може бути видалений, обмежений або позначений, що в кінцевому результаті негативно вплине на ранжування.

Технологічні компанії, що стоять за генераторами зображень та відео на основі штучного інтелекту, намагаються вирішити ці проблеми, впроваджуючи системи водяних знаків та маркування. Однак ці зусилля все ще не надто дієві, і поки що немає загальногалузевих стандартів. Балансування творчого потенціалу штучного інтелекту з необхідністю зменшення ризиків дезінформації є постійним викликом.

Тим часом, Вілл Сміт почав більше розважатися зі штучним інтелектом після виходу того суперечливого концертного відео. Він опублікував грайливе продовження, в якому камера перемикається з кадрів, на яких співак енергійно виступає на сцені, на показ аудиторії, заповненої котами, що стискають кулаки. Сміт додав коментар: «Натовп сьогодні ввечері був у захваті!!»