Sears розкрив телефонні розмови та текстові чати чат-ботів зі всіма в Інтернеті

Витік особистих даних через AI чат-бот Sears

Хоча магазини Sears майже зникли зі Сполучених Штатів, бренд та сервіс з ремонту побутової техніки досі працюють, причому з новим підходом — у вигляді чат-бота на основі штучного інтелекту на ім'я Саманта. Однак, як з'ясувалося, розмови користувачів з цим ботом опинилися у відкритому доступі в Інтернеті.

Нещодавно дослідник безпеки Джереміа Фаулер виявив одразу три відкритих бази даних із величезним обсягом чатів, аудіозаписів і транскрипцій, які стосувалися клієнтів Sears Home Services. Варто зауважити, що ця служба позиціонує себе як найбільшого постачальника з ремонту побутової техніки у США, виконуючи понад сім мільйонів ремонтів щороку.

Що саме опинилося у відкритому доступі

Фаулер знайшов у базах приблизно 3,7 мільйона чатів, близько 1,4 мільйона аудіофайлів і текстових транскрипцій з 2024 року по теперішній час. Серед них було багато повних логів розмов, де чат-бот називав себе Самантою – віртуальним голосовим агентом Sears Home Services, а також згадував технологію, на якій він працює — kAIros. Зокрема, у даних містилися спілкування англійською та іспанською мовами, а ще — персональні дані клієнтів: імена, телефони, адреси, інформація про побутову техніку і дату ремонтів чи доставок.

За словами Фаулера, це не просто цифри, а реальні дані реальних людей, які не повинні були опинитися у відкритому доступі. До речі, дослідник наголосив, що навіть мінімум – захист паролем та шифрування – мав би бути застосований для таких файлів.

Як відреагували Sears та що могло статися

Після виявлення витоку на початку лютого Фаулер повідомив про це власника Sears — компанію Transformco, яка одразу ж захистила бази даних. Час, протягом якого інформація була відкрита, і чи користувалися нею сторонні особи, залишається невідомим. Запити WIRED до Transformco щодо цієї ситуації залишилися без відповіді.

Фаулер також розповів, що коли повідав про знахідку, з ним зв’язалися, нібито щоб переадресувати на менеджера чат-бота Саманта, але подальші спроби спілкування не увінчалися успіхом.

Чому це важливо

Особлива тривога викликана тим, що у витоку містилася інформація, яка може використовуватися зловмисниками для фішингових атак, а також для шахрайств, пов’язаних з гарантіями техніки. Ще більш шокуючим виявилося те, що аудіозаписи іноді фіксували приватні розмови, які тривали годинами після закінчення офіційної розмови із ботом. Чому користувачі не завершували дзвінки? Це точно невідомо, але за цей час у записах можна було почути телевізор, сімейні розмови — тобто те, що мало залишатися особистим.

Відгуки та проблеми з AI-чатботами

Файли також показують, що деякі клієнти досить швидко втрачали терпіння через помилки бота і прагнули поспілкуватися з живою людиною. Одне з аудіо навіть тривало понад годину, а вже за пару хвилин людина просила з’єднати її з оператором. Сам чат-бот намагався переконати залишитися на лінії, але потім таки передавав дзвінок.

В текстових чатах теж не все йшло гладко — один з клієнтів протягом двох з половиною годин повторював одне й те саме питання і закінчив темою того, що він спілкується з комп’ютером.

Штучний інтелект і довіра клієнтів

Загалом ця історія підкреслює складнощі та ризики, які виникають, коли компанії додають у свої сервіси генеративний AI. Приватність та репутація ризикують найбільше, адже, з одного боку, чат-боти можуть здатися надійним інтерфейсом; з іншого — клієнти часто лишаються не у владі вибору — говорити з машиною чи людиною.

До речі, Карісса Веліc, дослідниця з Оксфордського університету, зазначає, що іноді люди навіть більше довіряють машинам, бо вони «не почнуть грабувати будинок». Але водночас мамаєтьсясь інформувати користувачів про всі ці ризики і давати можливість вибирати — чи хочуть вони, щоб розмова записувалась, а також — спілкуватися лише з живими людьми. Адже ніхто не хоче відчувати себе обдуреним або використаним.