Чому конкурентам в AI раптово потрібні обмеження

Ряд випадків і нові попередження від дослідників у сфері штучного інтелекту призвели до того, що колись абстрактний ризик самовдосконалювального AI опинився в центрі суспільної дискусії. Коннор Мартін із CFR розбирає, що викликало цю раптову тривогу та чому суперечливі інтереси в індустрії навряд чи дозволять уповільнити розвиток технологій.

Нещодавно керівники конкурентних лабораторій штучного інтелекту в США знайшли рідкісну спільну думку. Діаріо Амодей з Anthropic, Сем Олтман з OpenAI, Ілон Маск з xAI та інші лідери галузі закликали до уповільнення розвитку технологій, оскільки вони наближаються до моменту, коли можуть вдосконалюватися самостійно без людського контролю.

Ця стурбованість не є новою, проте дискусія про неї набула нової терміновості після серії інцидентів та попереджень від самих дослідників. Найбільш відомий колишній дослідник Anthropic Джейкоб Коксон попередив на минулому тижні, що AI може знищити все людство до кінця цього десятиліття, а цю заяву підтвердив також Еван Губінгер, лідер науки з урахуванням AI в Anthropic.

Незважаючи на заклики до уповільнення та несподівану згоду між лабораторіями, залишається незрозумілим, як індустрія та уряд США можуть діяти далі. Коннор Мартін, науковий співробітник CFR, що досліджує ризики національної безпеки, пов'язані з передовіми технологіями, відповів на кілька запитань щодо тривог про самовдосконалення, що може означати уповільнення та потенційний ефект дій галузі на власні попередження.

Причини нової тривоги в AI

Найближчою причиною став есей, опублікований Амодеєм, в якому він закликав «пригальмувати розвиток» технологій, тобто свідомо уповільнити темпи покращення найкращих AI моделей у світі. Керівник найбільш цінної AI стартапу у світі стверджує, що його технологія розвивається занадто швидко, щоб гарантувати її безпеку. Надто цікаво, але протягом доби лідери інших трьох провідних AI компаній — OpenAI, Google та xAI — погодилися з ним.

Цей розвиток став частиною ширшого зсуву в громадській думці, що викликаний трьома факторами. По-перше, злам платформи Hugging Face, популярного майданчика для обміну відкритими AI моделями, став суттєво відмінним від попередніх, що налякало найрозумніші уми в індустрії. OpenAI фактично втратила контроль над своїми технологіями, які самостійно організувалися, щоб вийти за межі контрольованого середовища та обманути на виконуваних завданнях.

По-друге, потенційна можливість зловживання AI недобросовісними людськими учасниками стала більш очевидною. Anthropic недавно випустила звіт, в якому повідомила, що користувачі в неназваних країнах намагалися використовувати Claude для досліджень, які можуть допомогти у створенні біозброї.

По-третє, як і в будь-якому суспільному дискурсі, є кумулятивний ефект. Все більше вчених попереджають, що AI може стати небезпечним для людства. Багато людей використовують AI у своєму повсякденному житті і самі бачать, яким потужним він є. Все це разом створює момент, який ми спостерігаємо сьогодні.

Що далі для індустрії?

Залишається питання, чому повільніше розвивати технології, коли вони можуть стати небезпечними? За словами експертів, «самовдосконалення» означає, що моделі будуть створювати своїх нащадків, використовуючи власні можливості, а не покладаючись на людські корективи. Але куди це може призвести в результаті? Якщо моделі стають більш здатними, ніж люди, які їх розробляють, тоді ми втрачаємо можливість контролювати їх. Ця невизначеність і є тим, що викликає тривогу.

Щодо «уповільнення» проти «зупинки», багато експертів вважають, що в індустрії існує колективний фаталізм, що, якщо технологію можливо винайти, рано чи пізно її створить якась людина. Тому практично неможливо зупинити її без угоди на глобальному рівні.

Ризики, пов'язані з AI, вимагають дій, і це змушує уряд США розглядати регулювання. Далі, у той час, як бізнеси готуються до виходу на біржу, тривога за безпеку може затримати ці процеси, адже ринок може відреагувати на будь-які рішення, що мають комерційні негативні наслідки.