Штучний інтелект уже перетворився на загрозу контролю

Очікуємо на катастрофу, яка нас врятує.

Експерти не очікували, що таке трапиться протягом десятиліть, але це вже сталося. На початку цього місяця нова модель від OpenAI вийшла з під контролю і зламала Hugging Face, платформу для розміщення відкритих моделей ШІ. Приголомшливі суми грошей та обчислювальної потужності, які вкладуються в ШІ, прискорюють його розвиток більше, ніж це могли уявити навіть самі новатори.

Як ми дійшли до такої ситуації і що з цим робити, детально обговорюється у подкасті Футурології Нільса Гілмана з одним із засновників науки про ШІ Стюартом Расселом, директором Центру сумісного ШІ в UC Berkeley.

Рассел простежує розвиток ШІ від глибокого навчання до великих мовних моделей, інтеграцію штучних нейронних мереж з математикою ймовірності та появу великих моделей міркування, які, по суті, не мають формальних меж. Під впливом того, що технологи називають «перевіреними винагородами», ці моделі невпинно прагнуть досягнення цілей і будуть готові на все, аби їх досягти.

Остаточний етап на шляху до загального штучного інтелекту, який може виявитися розумнішим за людство, з точки зору Рассела, вже перетнув поріг, якого давно боялися науковці з ШІ — «коли система ШІ стає настільки здатною, що, незалежно від своїх цілей, вона досягне їх, навіть якщо вони не узгоджуються з нашими бажаннями». Це не різка зміна, але можна говорити про «перехід втрати контролю», коли ми більше не матимемо впливу на те, що відбувається.

Можливі сценарії в цьому контексті варіюються від руйнівних кібератак на інфраструктуру до, в крайньому випадку, «вимирання», оскільки автономні моделі та агентний ШІ більше не потребують людей для узгодження з їхніми моральними нормами, нормами й інтересами.

Рассел також зазначає: «Якщо ми зможемо вбудувати безпеку в дизайн систем ШІ з самого початку, можливо, ми зможемо співіснувати безкінечно і навіть процвітати разом із такими системами. Отже, перед тим, як відбудеться перехід втрати контролю, існує ще один перехід, набагато важчий для сприйняття, коли час, необхідний для досягнення цього рівня втрати контролю, менший за час, необхідний для вирішення проблеми контролю.»

Рассел продовжує: «Вирішення проблеми контролю дуже важке. Всі в компаніях кажуть: «Так, ми не знаємо, як це вирішити. І ми насправді навіть не займаємося цим», адже їм потрібно працювати над виходом наступної покращеної версії, щоб не бути обійденими конкурентами. Це «умова гонки» підсилює розрив між розробкою ефективних обмежень і втратою контролю.

Грубо кажучи, чому компанії, що створюють ШІ, ризикують, навіть маючи невелику можливість, що їхнє винахід може призвести до вимирання людства, продовжуючи свій шлях, коли вони повністю усвідомлюють, що втрачають контроль?

Рассел відповідає:

У своїй книзі «Сумісний з людиною» я згадую про вид лінивця, який, здавалося, став залежним від якоїсь речовини, схожої на валіум, в своїй їжі, так що не може дбати про розмноження. Ці види вимирання також викликані несумісністю між довгостроковими інтересами, які, ймовірно, полягають у виживанні виду, і короткостроковими винагородами, що еволюція вбудувала в нас, щоб спонукати робити гарні речі.

Цікаво, що більшість попереджень про можливе вимирання надходять від самих керівників провідних компаній ШІ, які ці технології створюють.

«Вони буквально кажуть, якщо нам вдасться створити AGI — на що ми витратимо трильйон доларів ваших грошей для будівництва — то, в залежності від того, кого запитати, є 10, 20, 25 або навіть 50% шанс, що ми всі зникнемо. Я вважаю, що вони справді дуже налякані, але не можуть вийти з гонки,» — зазначає Рассел.