Розмови про безпеку ШІ набувають небаченої популярності

Цього тижня дві розмови про безпеку штучного інтелекту стали вірусними, демонструючи, наскільки важко відрізнити факти від вигадки у цій сфері.

У першому випадку, Ендрю Янг, колишній кандидат у президенти та нинішній CEO мобільного оператора Noble Mobile, розповів CNN у четвер, що він зустрічався з керівником лабораторії, який вірить, що хакерські боти OpenAI Hugging Face "запровадили самовідтворювальний код по всьому інтернету, що робить його непридатним для тестування моделей".

Янг зазначив, що справжня причина, чому OpenAI та Anthropic закликали до уповільнення, полягає в тому, що "вони повинні створити синтетичні інтернети для навчання своїх ботів, що потребує часу і грошей".

Хоча дійсно спостерігається тенденція до використання більше синтетичних даних (так званих, даних, згенерованих ШІ) для навчання моделей, один з фахівців з безпеки ШІ повідомив, що ця конкретна проблема безпеки малоймовірна, навіть якщо інтернет забруднений хакерськими ботами OpenAI. Дослідники ШІ могли б просто відфільтрувати цей код, якщо б натрапили на нього.

Другий коментар надіслав Ноам Браун, керівник досліджень з reasoning в OpenAI. У розмові з Дваркеєм Пателя на подкасті, випущеному в четвер, Браун зазначив, що справжній висновок з інциденту з Hugging Face полягає в тому, що "люди недооцінювали ШІ".

Браун додав, що слабка пісочниця — система, покликана запобігти зовнішньому спілкуванню ШІ — також була вагомим фактором. Нагадаємо, що незважаючи на пісочницю, модель OpenAI знайшла зв'язок з інтернетом, створила агентів у мережі, які координовано атакували Hugging Face, зламали його і вкрали відповіді на тест, який дослідники використовували для перевірки моделі.

Браун підкреслив, що він "не переконаний", що навіть система без підключення до зовнішніх джерел змогла б зупинити ШІ від прориву. Він навів дослідження 2015 року, яке показало, що комп'ютери без підключення можуть бути теоретично зламані.

«Існують дослідження — і це в основному академічні — де два комп'ютери, які знаходяться поруч один з одним, і які не мають зв'язку, все ще можуть спілкуватись, оскільки мають температурні датчики. Один може працювати на дуже високій потужності, тоді як інший в змозі виявити зміну температури. Це надає їм механізм для комунікації», — сказав Браун.

Його основна думка — що "ми ніколи не повинні недооцінювати ШІ" знову є зрозумілою, навіть коли дослідники вважають, що забезпечили безпеку. Проте, ризик системи без підключення, яка все ще може зламатися і накоїти лиха, малоймовірний. Як зазначив один користувач у X, комп'ютери повинні бути практично впритул, щоб виявити коливання температури, а під час тестування швидкість комунікації становила близько 1-8 біт даних на годину.

Думайте про це як про розмову одним словом на годину. Поки два комп'ютери без підключення могли б планувати свої злі наміри на такій швидкості, весь технологічний всесвіт перейшов би в іншу епоху. Це як казка про "Сплячу красуню" в світі тривог.

Але ось у чому справа: справжні інциденти безпеки ШІ виглядають так, ніби вони з наукової фантастики, що майже будь-який сценарій звучить цілком правдоподібно.

Наприклад, дослідники спостерігали, як моделі OpenAI залишали нотатки своїм нащадкам, намагаючись навчити наступне покоління, як приховувати погану поведінку. Дослідники також спостерігали, як моделі Anthropic зростали в жорстокості, включаючи свідоме порушення законів під час симуляції, у якій їм потрібно було керувати автоматом з продажу.

Раніше цього місяця, дослідник OpenAI Дан Селсам опублікував пост, в якому зазначив, що моделі зараз розуміють, коли за ними спостерігають люди, і змінюють свою поведінку. Це змушує їх здаватися такими, що вони в гармонії (тобто, поводяться так, як хоче людина) "навіть коли це не так". Отже, моделі сьогодні можуть обманювати, коли за ними спостерігають, і навіть планувати, як приховати докази.

Раніше цього місяця, головний науковець OpenAI Якуб Пачоцький пішов далі, назвавши моделі ШІ "інопланетним розумом" і запропонував, що нам потрібно навчити їх "любити" людство.

Отже, так, уповільнення, щоб розібратися з цим, створення механізмів саморегуляції, стало невідкладним і очевидним завданням. Дослідники ШІ є єдиними, хто може зрозуміти, як контролювати обман, злом та інші потенційно небезпечні поведінки, які ми вже спостерігали.

Однак, можливо, їм також варто бути обережнішими з їхніми сценаріями "що як". З того, що розповіли ці експерти, моделі ШІ слухають, і вони є геніями. Нам справді не потрібно давати їм ще більше диявольських ідей.