Критик штучного інтелекту вважає, що розмови про загибель людства від AI відволікають від реальних проблем

На платформі WIRED журналісти намагалися розібратися в двох нещодавніх подіях у світі штучного інтелекту. По-перше, розгорівся конфлікт через мільйонну задачу з математики, у якій OpenAI, імовірно, скористався роботами інших вчених. А вже наступного дня, один з дослідників Anthropic, який раніше працював у OpenAI, публічно звільнився, висловивши занепокоєння щодо безпеки AI у цих компаніях. Один із технічних працівників Anthropic заявив, що вірить: "AI може знищити всіх людей! Я вважаю, що ймовірність цього перевищує 10% у найближче десятиліття".

Дебати в інтернеті спалахнули: чи дійсно ці побоювання обґрунтовані, чи це просто перебільшення, частина стратегії регуляції, або самопіар лабораторій, які займаються цими технологіями. Або, можливо, це комбіноване явище.

Особливо активною була Тімніт Гебру, відома технологічна дослідниця, яка обговорювала в соціальних мережах проблеми, що призвели до цієї бурхливої ситуації. Гебру, яка раніше покинула Google через конфлікти, зосередилася на ризиках, пов'язаних із AI. Вона написала книгу під назвою Глибоке Невчення: Виростання AI та Радикалізація Технічного Ідеаліста, яка вийде наступного року.

Гебру має багато думок щодо подій тижня. Хоча її дослідження зосереджені на безпеці AI, вона заперечує терміни «безпека та відповідність» і вважає, що ті, хто попереджає про неминучу катастрофу, намагаються відвернути увагу від реальних небезпек, пов'язаних із технологічним сектором.

ЛОРЕН ГУД: Що, на вашу думку, говорить про стан AI увага до “математичної суперечки”?

ТІМНІТ ГЕБРУ: Перш ніж відповідати, я спитала б: чому вони так активно інвестують у вирішення математичних завдань? Чому обирають саме ці дисципліни? Вони так підняли математику, програмування і шахи, щоб сказати: "Ось, ми це вирішили". Але якщо б вони пройшли весь процес, щоб перевірити значущість і новизну своїх заяв, ми б отримали кращу картину.

Існує така річ, як Лейденська декларація, яка попереджає про наслідки використання математики корпораціями. Політики починають покладатися на прес-релізи, замість того щоб спілкуватися з математиками. Час, необхідний для переходу від прес-релізу про прорив до законопроекту, пропонованого Берні Сандерсом, став дуже коротким, і це погано.

Зараз у цій галузі панує жорстка конкуренція напередодні IPO. Зазвичай дослідники мають співпрацювати, але тепер вони в такій метушні через свої майбутні IPO.

Яким чином ви інтерпретуєте відставку інженера Anthropic, який стверджує, що компанії безвідповідальні та ставлять під загрозу наше життя?

Протягом усієї своєї кар'єри я намагалася пояснити це з різних позицій. У 2021 році ми написали статтю про стохастичних папугів, щоб зафіксувати, що OpenAI стверджував, ніби GPT-2 занадто потужний для випуску. Але ми говорили, що ви ставите неправильні запитання.

У своїй книзі я ставлю запитання: "Чи може міст обвалитися?" Дебати про те, що моделі стали непередбачуваними, відволікають від справжніх проблем. Справжня загроза — це AI, який живить автономні зброї. Кліматична катастрофа — реальна загроза, яку можуть погіршити ці технології. Боси використовують AI, щоб звільнити працівників. Розмови про "машину-бога" насправді відволікають нас від цих проблем.

Гебру зауважує, що ми витрачаємо занадто багато часу на обговорення ідеї AI, яка обговорювалася ще з 40-х і 50-х років. Чому? Можливо, тому, що це звучить так само, як і раніше.