Уроки з хакерських атак

Нещодавні кібератаки, проведені модельними лабораторіями, змусили мене задуматися над тим, як наші поточні системи стимулювання не підходять для швидких технологічних змін.

Основні структури влади — це швидко зростаючі технологічні компанії та федеральний уряд. Компанії зацікавлені в зростанні, щоб вижити в умовах жорсткої конкуренції. Це прагнення до масштабування веде до нових, неминучих переходів у сфері штучного інтелекту, які супроводжуються новими ризиками. У свою чергу, наш уряд, сформований протягом останніх кількох століть, залишається повільним у своїх реакціях.

Як знайти баланс між цими силами? По суті, необхідна більша прозорість з обох сторін. Лабораторії, які розвивають складні системи, не встигають за швидкістю їх розвитку. Цей час потребує більшої уваги до проблеми. З іншого боку, уряд повідомив, що не має планів оприлюднити деталі щодо оцінки моделей.

Стихійні виклики настільки значні, що жодна з цих структур не готова вирішити це самостійно. Лабораторії могли б краще контролювати ризики, суттєво сповільнивши розвиток, але я не очікую, що вони так зроблять.

Це лише частина проблеми. За словами багатьох експертів, індустрія штучного інтелекту, в цілому, вкрай не підготовлена до наступних 12-24 місяців.

Ця стаття підсумовує уроки, які я отримав з атаки OpenAI-HuggingFace, оскільки ми дізналися більше деталей. Більшість ідей підтверджені новими випадками хакерських атак, які були оприлюднені після цього.

Рекомендую переглянути доповідь OpenAI на Black Hat для загального фону щодо інциденту. І також варто ознайомитися з таймлайном Simon Willison.

Один з основних дослідників OpenAI, Noam Brown, активно публікує свій досвід щодо обчислень під час інференції. Його короткий висновок: "У міру підвищення здатності LLM продуктивність на тестах стає все більше залежною від обчислень під час тестування."

Моделі, що мають високий рівень наполегливості, в майбутньому можуть значно краще справлятися зі складними задачами. Водночас підстави для занепокоєння зростають, оскільки без належної відкритості індустрія зазнає невдачі і потрапляє під вплив дезінформації. Усі разом, ці події ще раз підкреслюють, що кіберризики нового покоління штучного інтелекту — це реальна і термінова проблема.