Чи слід "пригальмовувати" самовдосконалення ШІ?

Одні вважають, що технології штучного інтелекту (ШІ) можуть принести велику користь. Інші ж попереджають про серйозні загрози. На думку деяких експертів, ШІ може стати причиною загибелі більшості людей на Землі, створивши надміцні віруси. Як з’ясувалося, ШІ вже здатен розробляти віруси, які не існують у природі, тому для таких сценаріїв не потрібно звертатися до наукової фантастики.

Важливе питання постає: чи призведе це до загибелі людства через дії нігілістичних людей, сект апокаліпсису або самих агентів ШІ? Спостерігаючи за подіями, які відбуваються в світі, не можна недооцінювати потенційні загрози. При цьому, ніхто ще не знає, які саме заходи безпеки будуть достатніми.

Деякі великі лабораторії ШІ пропонують свідомо уповільнити розвиток технологій. Це може дати нам час для запровадження інших запобіжних заходів, таких як удосконалення безпеки в біологічних лабораторіях або краща узгодженість між ШІ та людськими потребами. Процес уповільнення називають "пригальмуванням". Водночас, важливо розглянути питання: чи слід обмежити використання ШІ для створення нових версій самого себе?

Лабораторії, які займаються ШІ, стикаються з ризиками, які може викликати автоматизація цієї галузі. Більше ніж 1,300 працівників у фронтових компаніях ШІ підписали відкритий лист із закликом до уряду підтримати міжнародну ініціативу для розробки інструментів, які допомогли б свідомо контролювати розвиток автоматизованого ШІ. Відомі компанії, такі як OpenAI і Anthropic, також підтримують цю ініціативу.

Перш ніж обговорювати, чи має цей лист значення для державної політики, потрібно відповісти на два запитання: що таке "пригальмовування" насправді? І чи витримає аргумент на його користь перевірку?

Лист стверджує три основні речі: фронтові компанії ШІ близькі до автоматизації досліджень; така автоматизація може становити серйозні ризики; і розробка можливості "пригальмовувати" — це хороший спосіб зменшити ці ризики.

Слід пам'ятати, що уповільнення прогресу в ШІ не варто сприймати легковажно. Прогрес у цій галузі може принести величезні суспільні вигоди, від нових ліків до широкого використання роботизованої праці. Проте, якщо експерти праві у своїх побоюваннях стосовно автоматизації досліджень, тоді правильні компроміси для політиків можуть виглядати зовсім інакше.

Можна висловити думку, що держави мають зараз вживати розумні дії, аби підготуватися до можливого майбутнього, в якому серйозні ризики від автоматизації ШІ вимагатимуть якогось виду "пригальмовування".