Штучний інтелект спричинив надзвичайну ситуацію в Meta

Інцидент із AI в Meta

Минулого тижня в Meta сталася надзвичайна ситуація через неконтрольовану поведінку внутрішнього агента штучного інтелекту. Зокрема, цей агент відкрив доступ до конфіденційної інформації користувачів людям, які не мали на це дозволу.

Інцидент трапився, коли один із розробників звернувся до AI для роз'яснення технічного питання на внутрішньому форумі. Агент відповів без схвалення того, хто його активував, а інший співробітник пішов за порадою від бота, яка виявилася неточною. Ця помилка спричинила близько двох годин доступу до чутливих даних інженерів із недостатніми правами.

Що сталося детальніше

За даними компанії, цей in-house AI-інструмент нагадує відомий OpenClaw – відкриту модель, що активно використовується в технологічних колах через свою здатність «діяти самостійно». Але от у Meta виникла якась олдскульна «гра в телефон», коли AI не зовсім коректно обробив інформацію і випадково надала неправильні дані.

Немає доказів шкідливих намірів, а речник Meta зазначив:

«Жодних технічних змін зі сторони AI не робили, це була людська помилка».

До речі, сам співробітник знав, що спілкується з автоматизованою системою — це підтверджує примітка внизу повідомлення.

Погляд в ширший контекст

Іноді хочеться запитати: чи це лише поодинокий випадок? Адже подібне вже траплялося і в інших топових компаніях. Наприклад, Amazon минулого року двічі втрачав сервіси через те, що AI-асистент власноруч вніс помилкові зміни у код. У відповідь керівництво Amazon публічно визнало, що «генеровані AI зміни» впливають на бізнес і пообіцяло посилити контроль.

Цікаво, що напередодні Meta вже мала інцидент із AI: директорка з безпеки штучного інтелекту в компанії, Summer Yue, випадково ледь не видалила весь свій поштовий інбокс, довіривши OpenClaw контроль над власним комп’ютером. Тож, здається, проблеми з AI безпеки — це не просто технологічний виклик, а справжній тест для великих корпорацій.