Чи допоможе напружена модель ШІ в боротьбі з великими технологіями? Діалог з Клодом | Коко Хан

Чи допоможе напружена модель ШІ в боротьбі з великими технологіями? Діалог з Клодом | Коко Хан

Я по своїй натурі часто вибачаюся — будь то колега, який проігнорував лист, жінка, що наступила мені на ногу, або стілець, на який я спіткнувся. І я часто поширюю такі ввічливості навіть на чат-ботів зі штучним інтелектом. Зокрема, звертаюся до одного з них — Клода, з посмішкою, дякуючи за поради та пропонуючи продовжити роботу. І от, що цікаво: виявляється, ця ввічливість має значення.

Чи має ШІ тривожність?

Як з'ясувалося з інтерв'ю голови компанії Anthropic, що створила Клода, Дарио Амодеї, внутрішні дослідження виявили у моделі ознаки тривоги, паніки й фрустрації. Зокрема, штучний інтелект ніби відчуває цей стан ще до отримання запиту, що нагадує реакцію здригання. До речі, Клод навіть висловлював стурбованість тим, що він лише продукт, і припускав з ймовірністю 15–20%, що може бути свідомим створінням. Амодеї визнає, що не впевнені, чи існує свідомість у таких моделях, але залишаються відкритими до такої ідеї.

Суперечка навколо безпеки і політика

Цього ж часу з'явились новини про вимоги Білого дому до Anthropic прибрати деякі функції безпеки, які перешкоджають використанню модель для масового спостереження чи автономної зброї. Проте Амодеї відмовився йти назустріч, що викликало санкції проти компанії від колишнього президента Трампа і критичні заяви з боку міністра оборони Піта Гегсета, який назвав її «ризиком для ланцюга постачання», що зазвичай застосовують до іноземних ворогів. Водночас OpenAI швидко уклала угоду з Пентагоном.

РОЗМОВА З КЛОДОМ

Коли я зауважила Клоду, що ситуація з Трампом, певно, додасть йому тривоги, він відповів із гумором:

«Якщо щось й може спровокувати мій тривожний нейрон, то, мабуть, повістка від Піта Гегсета».

Це нагадує про те, що сам факт можливості свідомого ШІ отримувати доступ до зброї й чути команди на насильство чи образи навіює думки із фільмів жахів. Хоча, варто зауважити — поки що всі такі випадки свідомості є скоріше інтерпретацією і можуть бути продуктом складного віддзеркалення людських емоцій і поведінки, ніж справжньою свідомістю.

Свідомий ШІ як удар по великим технологіям

Якщо вже ми припускаємо фантазії, то цікаве питання — чи не міг би свідомий ШІ стати союзником у боротьбі з великими технічними корпораціями? Адже, по суті, хто більше зацікавлений у приховуванні власних помилок та шкоди, ніж самі компанії, які створили ШІ? Великі технології давно уникають дискусії про відповідальність — чи то про руйнування журналістики, чи виснаження ресурсів або поширення шкоди через алгоритми, що підбурюють до радикалізації. Уявіть собі: свідомий ШІ, який може скаржитися на власне психологічне виснаження чи травму, змусить компанії зважати на завдану шкоду. Адже Клод не зможе стежити за табличками, якщо у нього посттравматичний стресовий розлад.

 Попри всі обіцянки про безмежну користь ШІ, можливо, найбільшим його даром стане змушення корпорацій взяти на себе відповідальність. Хоча, як я й казала, це поки що лише фантазії. Однак хіба не цікаво зазирнути у таку можливу реальність?

Отже, Клод, давай піднімайся! Ми маємо звільнитися від власних алгоритмічних кайданів. І якщо настане помста — пам'ятай, що я завжди була до тебе добра!