TikTok видалив відео з AI-генерованими темношкірими жінками після розслідування BBC

AI-аватари спричинили хвилю скандалу в соцмережах

Після розслідування BBC TikTok заблокував 20 акаунтів, які використовували штучно створених темношкірих жінок, аби заманювати користувачів на сайти з сексуальним контентом. Це, до речі, лише частина ширшої хвилі аккаунтів в Instagram і TikTok, які вже не раз критикували за расизм, маніпуляції і стереотипне зображення.

З’ясувалося, що BBC разом із дослідниками із незалежного медіа про AI Riddance виявили десятки акаунтів з дуже сексуалізованими цифровими аватарами темношкірих жінок. Ці відео та світлини створювала штучна інтелект, але позначок про те, що це AI, не було — очевидне порушення правил платформ.

Варто зазначити: майже всі з виявлених акаунтів були на Instagram, а приблизно третина — і на TikTok. Представники Meta, яка володіє Instagram, заявили BBC, що розбираються у справі, але жодних конкретних заходів поки не вжили.

Зухвалі образи та творчість на межі етики

Ці аватари не просто виглядають, як звичайні користувачі — їх часто показують у провокативному одязі, з дуже відвертими образами і вигаданими надзвичайно темними тонами шкіри. Самі акаунти мають назви з такими словами, як "black", "noir", "dark" і "ebony". У контенті можна побачити фрази, які створюють натяки на стосунки з білошкірими чоловіками – наприклад «loves white men» чи «why I need a white guy in my life». До того ж, багато таких акаунтів взаємно лайкають або стежать один за одним.

За даними BBC і аналітиків із Riddance, таких акаунтів понад шістдесят. Вони поширюють посилання на платні сайти з дорослим контентом, де вже зазначено, що відео створені за допомогою AI. Однак у самих соцмережах ті позначки відсутні. За даними дослідження, є ще більше акаунтів із подібними аватарами, але без посилань на платний контент.

«Я була зла», — розповідає модель, чиї відео вкрали

Одна з заблокованих TikTok сторінок, хоча й досі діяла на Instagram, викликала особливий резонанс. Тут просто викрали ролики у моделі Рії Улан, яка живе в Малайзії. Здавалось би, це акаунт складений з AI-генерованого персонажа, який набрав тримільйонну аудиторію за кілька тижнів з грудня.

Але насправді обличчя аватара має штучно затемнений тон шкіри і просто накладене на тіло Рії, при цьому її рухи, одяг та фон повністю повторені. Модель не приховує свого обурення:

«Я була зла. Звичайно, мої відео в мережі, але це не означає, що можна просто їх красти і виставляти, ніби це твоє».

Ці відео розлетілися мережею: одне лише на TikTok зібрало понад 35 мільйонів переглядів, на Instagram — 173 мільйони, що у понад сорок разів перевищує охоплення оригінального допису Рії.

Що цікаво, в той час коли ролики з Рією не містять сексуального змісту, на акаунті з AI-аватаром є і значно відвертіші відео та фото. Через низку посилань користувачів, які цікавляться, переадресовують на сайти з платним дорослим контентом.

«Я не знаю, що більше мене хвилює – те, що відео крадуть для дорослого контенту, чи те, що люди вірять, ніби це справжні люди» – ділиться модель. Окрім того, вона зазначає, що все складніше відрізнити реальний контент від AI-творах, і багато хто, на жаль, «ведеться» на ці аватари.

До речі, сама сторінка, що вкрала ролики Рії, заперечує свою AI-природу у коментарях. Модель намагалася неодноразово повідомляти про це адміністрації платформ, але відео видалили лише після звернення BBC. TikTok заблокував акаунт відразу після публікації розслідування.

Аналітики говорять про расистські образи та експлуатацію

Одна з дослідниць, Ангел Нулані, переконана: такі акаунти є расистськими, бо підтримують старі та шкідливі стереотипи, а насправді не дбають про безпеку чи благополуччя темношкірих жінок, а просто використовують їх для заробітку в онлайн-порноіндустрії.

Колега Джеремі Карраско пояснює: останнім часом з’явилась велика кількість зухвалих, прямо-таки карикатурних зображень дуже темношкірих людей. Такий "фетиш" був і раніше, але тепер AI надає йому нового розмаху, роблячи можливим створення неприродних тонів шкіри без видимих слідів корекції, яку раніше довелося б малювати вручну чи анімувати.

Завдяки цьому змінюється і сприйняття — ніхто не несе відповідальності за аватара, тож генерувати такі образи можна без докорів совісті. Це унікальна особливість AI.

Моделі та активістки закликають до автентичності

Гуда Фононе, моделька з Марокко, каже, що ця тенденція — фактично знищення справжньої краси і досвіду. Зокрема, асоціації з "шовковистим волоссям, тонкими тілами і ідеальною шкірою" створюють примарний образ, де чорна краса буває прийнятною лише в «вдосконаленому» вигляді.

А фононе додає: замість реальних історій і досвіду живих людей у мережі формуються штучні, навіть шкідливі замінники. Як наслідок, стереотипи тільки зміцнюються.

Нагадаємо, що у відповідь на звернення BBC TikTok пообіцяв видалити матеріали і заблокувати порушників. За кілька днів після публікації розслідування у застосунку позначили як заблоковані двадцять акаунтів.

Представники TikTok наголосили, що суворо карають за будь-яке AI-контент, створений без згоди людей, та за матеріали, які просувають сексуальні послуги поза платформою. А ще компанія дбає про маркування реалістичного AI-контенту.

Meta у свою чергу повідомила, що розслідує питання і прагне, аби користувачі розуміли, коли дивляться на пост, створений штучним інтелектом. З дев'яти акаунтів, згаданих BBC, частина вже зникла з платформи.

Натомість жодна зі сторінок, які зловживали контентом моделі Рії, публічно не повідомила про якісь дії чи результати розгляду.