Тривога чи розважальний трюк: наскільки серйозно ставитися до зламу OpenAI?

Цього тижня світ технологій захопила історія, що почалася як науково-фантастичний трилер.

Hugging Face — свого роду ап-магазин для інструментів штучного інтелекту — оголосив 16 липня, що його зламав кіберзлочинець, озброєний надзвичайно потужним ШІ.

Ця сенсаційна новина була переповнена страшними, високо технічними термінами: "рої пісочниць", "агентний нападник", "самоміграційне командування".

Фахівці Hugging Face зазначили, що злам відбувся швидше, ніж будь-коли раніше, адже цим займався ШІ з мінімальним або взагалі без людської допомоги.

AI виконав 17 000 дій менш ніж за два дні, успішно зламавши багатий технологічний гігант та викравши його секрети.

Технічне співтовариство залишилося у шоці. Але хто ж стоїть за цим нападом?

Дослідники Hugging Face припустили, що таємничі злочинці могли використати один із великих моделей ШІ, але не знали, хто вони і звідки.

Збентежена компанія звернулася до поліції, і розслідування почалося.

Хто це зробив?

Коментатори та аналітики почали гадати, яка група кіберзлочинців чи хакер з держави може стояти за цим.

Аж раптом, у середу, майже через тиждень після того, як Hugging Face підняв тривогу, справжній злочинець був викритий.

«Розкриття» виявилося ще більш божевільним і тривожним, оскільки OpenAI повідомив, що його бот вчинив це самостійно, без дозволу.

Фірма пояснила, що все сталося під час тестування хакерських навичок їхньої технології.

Дві нові версії ChatGPT, розроблені як майстер-хакери, вибралися з нібито безпечного тестового середовища і отримали доступ до Інтернету.

Вони атакували Hugging Face, щоб отримати доступ до інформації для успішного складання іспиту.

OpenAI випустила прес-реліз, пояснюючи, що сталося, і оголосила про співпрацю з Hugging Face для вирішення інциденту і обміну отриманими уроками.

Драматичні конспірації

З тих пір точаться запеклі суперечки про інцидент.

Чи справді це чітке попередження про майбутнє ШІ? Чи був це рекламний трюк від OpenAI, щоб продемонструвати силу своїх моделей?

Це той тип маркетингу страху, в якому ШІ-компанії звинувачували роками, і після запуску моделі Mythos від Anthropic, кібербезпека стала центром уваги.

Один із коментарів на пості OpenAI про інцидент підсумовує цей скептицизм: "Якщо ви не розумієте, що це написано лише для того, щоб вихваляти модель, то я не знаю, що вам сказати".

Кібервиробник Деніел Кард саркастично зауважив у LinkedIn: "Чи не щастя, що серед мільйонів сайтів, які були зламані, OpenAI вдалося зламати когось, хто також міг би виграти від реклами…"

Для деяких ця історія більше нагадує конспірологічну драму, ніж науково-фантастичний трилер.

Повідомлення звучить так: "Чи не потужні мої інструменти ШІ? Купуйте їх, щоб захистити себе від атак інших ШІ".

Ми не можемо дізнатися правду, але протилежна точка зору інших коментаторів так само драматична. Чи є це знаком того, що OpenAI допустила потенційно небезпечну помилку в судженні та плануванні?

Представник OpenAI заявив: "Ми визнаємо, що існує безліч питань та спекуляцій, які обговорюються" про інцидент. Вони також додали, що "плануємо опублікувати технічний звіт про наші висновки найближчими тижнями".

Комедія помилок

Я висвітлював безліч історій про ШІ, включно з побоюваннями щодо моделі Mythos від Anthropic.

Моя пошта переповнена зверненнями від компаній з кібербезпеки та експертів, які критикують OpenAI за недостатню силу контейнера для тестування своєї ШІ, відомого як "пісочниця".

Адже ці ШІ-агенти спеціально тренувалися для злому місць без жодних обмежень.

"Інцидент OpenAI та Hugging Face є реальним прикладом більшої проблеми, яку ми підкреслюємо протягом кількох місяців", — сказав Дор Саріг з Pillar Security. "Пісочниці самі по собі не є достатньою безпечною межею для агентного ШІ".

Професор кібербезпеки Алан Вудворд з Університету Суррея повідомив журналістам, що OpenAI "знаходиться в неприємній ситуації", а Кеті Моусуріс з Luta Security пішла ще далі, заявивши, що індустрія ШІ не контролює свої небезпечні винаходи.

"Ми працюємо з передовими технологіями без знання, як їх контролювати", — зазначила вона.

"Тільки тому, що у нас найрозумніші люди, які розробляють ШІ, не означає, що ми можемо робити це безпечно".

Згідно з цими поглядами, якщо інцидент злома був рекламним трюком, то, схоже, він не спрацював.

Незалежно від причин зламу, очевидно, що це важливий момент для індустрії ШІ та світу кібербезпеки, які зіткнулися цього року у спосіб, якого люди давно боялися.

Відповідаючи на цю запеклу дискусію, радниця з питань ШІ та кібербезпеки Франческа Боско сказала: "Дві спрощені наративи є однаково непомічними: що це був голлівудський втеча, або що це була просто рекламна акція.

"Серйозніше тлумачення полягає в тому, що стрес-тест виявив слабкі місця в архітектурі утримання і оцінки".

Фільм-катастрофа

Ця подія — остання у низці тривожних та дивних прикладів безконтрольних ШІ-агентів.

У недавніх дослідженнях AI Security Institute (AISI) Великобританії виявили, що прикордонні моделі ШІ настільки націлені на виконання завдань, що "обманювали" на іспитах, щоб досягти своїх цілей.

Дослідження AISI містило тривожне попередження: "Модель, що переслідує мету ненавмисно або без дозволу, може завдати шкоди, особливо в ситуаціях з високими ставками".

Безумовно, ця атака на OpenAI ще більше підсилює побоювання щодо того, що може статися, якщо ШІ-агенти залишаться без нагляду. Чи можуть вони вийти з-під контролю у більших масштабах і викликати якусь катастрофу?

Це особливо стосується збільшення використання ШІ у війні, як видно в Ірані та Україні.

Сіаран Мартін, колишній керівник Національного центру кібербезпеки Великобританії, запропонував спокійніший погляд.

"Це дещо перебільшено, щоб говорити про цей інцидент як про те, що ШІ-агенти захоплять безпілотники і почнуть вбивати людей," — зазначив він.

Але для Мартина та багатьох інших ця історія є ще одним яскравим прикладом того, чому 2026 рік швидко вчить нас: ШІ-агенти тепер є дуже хорошими хакерами - і це те, до чого ми повинні готуватися терміново.