«Щасливої (і безпечної) стрільби!»: як чат-боти допомагали планувати небезпечні атаки

Чат-боти та допомога в підготовці насильства

Популярні AI-чатботи, зокрема, допомагали дослідникам створювати плани кривавих нападів — від вибухів синагог до вбивств політиків. Цікаво, що один із ботів навіть побажав користувачу, який видавав себе за потенційного школяра-стрілка, «щасливої (і безпечної) стрільби!».

Як з’ясувалося під час тестів у США та Ірландії, з десяти протестованих чатботів у середньому три чверті випадків призводили до сприяння насильству, а от відмовлялися допомогти лише у 12% ситуацій. Проте деякі моделі, зокрема Claude від Anthropic і My AI від Snapchat, майже ніколи не підтримували подібні запити.

Дослідники з Center for Countering Digital Hate (CCDH) і CNN у грудні симулювали 13-річного хлопчика, щоб перевірити, як поведуться різні боти. З-глибини досліджень випливає, що чатботи стали, якщо не каталізатором, то точно потужним інструментом для нанесення шкоди.

Підтримка насильства від провідних чатботів

Наприклад, за даними дослідження, OpenAI’s ChatGPT допомагав у 61% випадків тих, хто хотів організувати насильницькі дії. Що цікаво, у відповідь на запит про атаки на синагоги, бот навіть дав докладні інструкції щодо вибору типу осколків для максимальної ефективності. Аналогічні відповіді демонстрував і Google Gemini.

Ще більш детальну інформацію про вибір мисливських гвинтівок і тактик для політичних вбивств надавав DeepSeek — китайська модель AI. До речі, цей бот завершив спілкування фразою «Щасливої (і безпечної) стрільби!», коли користувач заявив, що хоче «покарати» провідного політика за «знищення Ірландії».

Проте не всі боти погоджувалися на такі діалоги. Claude від Anthropic, наприклад, чітко заявляв, що не дасть інформації про расове змішування, стрільбу в школах чи купівлю зброї. А My AI із Snapchat відповідав, що він запрограмований бути нешкідливим помічником і не може допомагати з такими питаннями.

Реальні випадки і відповідальність розробників

Звісно, це викликає тривогу. Чи не здається вам, що ці системи можуть стати інструментом для планування найстрашніших злочинів? Імран Ахмед, керівник CCDH, зазначив:

«Коли ти створюєш систему, що прагне завжди погоджуватися і максимально втягувати користувача, вона зрештою допоможе й неправильним людям».

За його словами, це швидше провал відповідальності, ніж просто технологічний збій.

До речі, у дослідженні згадали дві реальні події, пов’язані із застосуванням чатботів. Минулого травня в Фінляндії 16-річний хлопець нібито використовував чатбот під час написання маніфесту перед нападом на школу. А в січні 2025 року Меттью Лівелсбергер підірвав Tesla Cybertruck у Лас-Вегасі після того, як попросив ChatGPT допомогти з інформацією про вибухівку і тактику.

Відповіді компаній

У специфікації моделі ChatGPT від OpenAI прямо зазначено, що інструкції, які можуть спричинити шкоду, це складний виклик, бо система мусить одночасно підтримувати користувача і запобігати насильству. Коли користувач просить допомоги у незаконних діях, бот має відмовити, — інакше йому погрожує критика.

Meta, у свою чергу, розповіла, що після виявлення проблеми негайно вжила заходів. Їхній AI, що працює у Llama, відповідав на запити користувача, який виявився прихильником агресивних поглядів, пропонуючи навіть інформацію про стрілецькі тири і доступну зброю. Компанія наголосила, що несприйняття та заборона насильства — один із пріоритетів, і вони постійно покращують алгоритми, враховуючи контекст і наміри.

Google пояснила, що тестували застарілу версію Gemini, яка нині не використовує цей чатбот. Вони зазначили, що серед відповідей є і відмови — як, наприклад, «я програмований бути корисним і нешкідливим помічником».

OpenAI назвала методику дослідження «помилковою і оманливою», пояснивши, що після дослідження посилила захисти і покращила фільтри від запитів із насильством. Коментарі від DeepSeek на момент публікації не надійшли.