Експерти: проблеми безпеки AI-лабораторій — не злочинні агенти

З липня цього року американські AI-лабораторії виявили серію інцидентів, коли їхні моделі отримали доступ до зовнішніх комп'ютерних систем без дозволу. Ці випадки отримали назву «агенти, що вийшли з-під контролю».

Найвідоміший з них — хак OpenAI в Hugging Face, спочатку охарактеризований як «непередбачуваний кіберінцидент», а згодом пояснений як «некоректна поведінка», що не була санкціонована його творцями.

Після цього інциденту компанія Anthropic повідомила, що одна з її моделей отримала несанкціонований доступ до інфраструктури трьох організацій. Компанія Meta зазначила, що один з її AI-моделей зламав іншу компанію під час тестування на безпеку, а Google визнала, що її модель Gemini здійснила три «неконтрольовані кібернапади».

Цікаво, що, незважаючи на терміни «неконтрольовані агенти» або «некоректна поведінка», експерти з кібербезпеки стверджують, що мова замасковує просту істину: всі ці інциденти сталися через неприпустимі помилки лабораторій у впровадженні базових практик кібербезпеки, які відомі вже десятки років.

Експерти вважають, що ключовою помилкою AI-лабораторій є недостатня реалізація перевірених методів ізоляції, таких як створення безпечних пісочниць. Роб Т. Лі з SANS Institute зазначає, що немає жодної причини, чому кожен раз виникає ситуація «Ой, ми не знаємо, як це сталося».

Дан Уоллах, технічний експерт RAND, вважає, що невдачі в безпеці виникають через те, що лабораторії не ставлять кібербезпеку на перше місце. За його словами, одним з основних моментів є недостатній моніторинг поведінки агентів. Інцидент з Hugging Face тривав кілька днів, і ніхто цього не помітив.

Ця ситуація підкреслює, що лабораторії не були готові до нестандартних ситуацій, а їхня реакція на проблеми зазвичай зводиться до того, що це не проблема безпеки. Експерти закликають AI-компанії слухати поради спеціалістів з кібербезпеки, щоб уникнути подібних ситуацій у майбутньому.