Керівник Google DeepMind стверджує, що ймовірність вимирання людства через ШІ «не нульова»

Поки Ілон Маск малює оптимістичну картину майбутнього штучного інтелекту, багато інших технологічних лідерів і урядів б'ють тривогу щодо небезпек цієї технології. Ліла Ібрагім, головний спеціаліст з готовності до штучного інтелекту в Google DeepMind, підписала у 2023 році заяву, в якій стверджується, що ризик вимирання людства через ШІ потрібно оцінювати так само серйозно, як і ядерну війну. І тепер вона розкриває, наскільки, на її думку, ймовірний цей катастрофічний сценарій.

«Ця ймовірність не нульова», — заявила Ібрагім в інтерв'ю Fortune. «Все, що більше, — це просто мої здогадки… Це інженер у мені». Хоча минуло три роки з моменту підписання нею заяви Центру безпеки ШІ разом із Семом Альтманом з OpenAI та Деріо Амодеєм з Anthropic, вона зазначає, що буде «безвідповідально з нашого боку не говорити про існуючі ризики».

Геофрі Хінтон, так званий батько ШІ, оцінює шанси на вимирання людства в 10-20% протягом наступних тридцяти років. Амодей зазначив, що є 25% ймовірність того, що майбутнє (тобто наше існування) піде «дуже-дуже погано». Навіть покійний фізик Стивен Гокінг, який використовував ШІ для поширення своїх думок, попереджав, що це може призвести до загибелі людства, за майже десятиліття до появи ChatGPT.

«Дві речі, які не дають мені спати вночі, це: чи робимо ми все можливе для зниження ризиків? І чи максимально використовуємо можливості? Ці два питання, на мою думку, йдуть рука в руку», — додала Ібрагім.

Ілон Маск стверджує, що гроші не матимуть значення до 2036 року

На думку Ібрагім, хоча вона обережна у оцінках ймовірності вимирання, вона також скептично ставиться до утопічного сценарію, де робота стає необов'язковою. Маск неодноразово озвучував ідею про те, що ШІ та роботи зможуть створити настільки велику кількість ресурсів, що праця стане необов'язковою, а зарплати — незначними.

«Гроші не будуть мати значення в 2036 році», — сказав Маск в інтерв'ю The Economist, додавши, що товари стануть настільки доступними, що ми увійдемо в еру дефляції і уряди виплачуватимуть універсальний базовий дохід громадянам, звільненим від щоденної роботи.

Проте, Ібрагім не поділяє такого оптимізму. Незважаючи на те, що вона є свідком найбільших досягнень ШІ в Google DeepMind, ця технологія рухається занадто швидко, щоб хтось міг точно передбачити, що буде далі.

«Я не думаю, що справді можемо передбачити, як виглядає майбутнє», — підсумувала вона. Її увага зосереджена не на тому, на якій планеті ми житимемо через два десятиліття, а на тому, як нові технології можуть бути використані для покращення нашого теперішнього світу.