Виявлення та запобігання зловживанням AI: вересень 2026

Протягом останніх восьми місяців наша команда з аналізу загроз виявила та зупинила операції, в яких зловмисники намагалися використати Claude для шкідливих дій. У цьому звіті ми ділимося прикладами кейсів з цих операцій і описуємо, як зловмисне використання Claude еволюціонувало з моменту публікації наших попередніх звітів про загрози в березні, серпні та листопаді 2025 року.

За цей період ми зупинили діяльність з грудня 2025 року по серпень 2026 року у семи сферах: кібероперації, операції впливу, спостереження, шахрайство, біологічне зловживання, розробка звичайних озброєнь та дистиляція. Використовувалися моделі Claude Haiku, Sonnet та Opus. У жодному з випадків не було зловживань, пов'язаних із моделями Claude Fable або Mythos-класу, за винятком одного випадку незаконної дистиляції.

Представлені тут кейси — це не типові випадки зловживання, а приклади найпомітнішої та найновішої загрозливої діяльності, яку ми виявили на сьогодні. Публікуємо цю інформацію, оскільки вважаємо своїм обов'язком розкрити зловмисне використання наших послуг. Коли моделі стають дедалі потужнішими, їх ризики зростатимуть, якщо розробники AI та захисники суспільства не вживатимуть заходів для зробити їх безпечнішими.

Загрози, про які йдеться в цьому звіті, включають підозрювані групи, спонсоровані державою, фінансово мотивованих злочинців, постачальників комерційного шпигунства, державні установи пропаганди та політично мотивованих осіб. Кейсів — від мережі фейкових сайтів знайомств до систем спостереження, що призначені для визначення та моніторингу дисидентів.

Складні та наполегливі зловмисники постійно тестують наші засоби захисту, намагаючись обійти технічні заходи, які ми використовуємо для виявлення та запобігання зловживанням. Ми продовжимо удосконалювати наші засоби захисту та координуватися з нашими партнерами для поліпшення можливостей виявлення, переривання та запобігання майбутнім зловживанням.

Сподіваємось, що висновки цього звіту допоможуть іншим розробникам виявити подібні шаблони на своїх платформах, надають урядам та громадянському суспільству чіткіше уявлення про те, як формуються нові загрози, та зміцнюють колективний захист.