Як неправильно запитати про креативність ШІ

Якщо я ще раз побачу статтю, що спекулює на "креативному потенціалі" великих мовних моделей (LLMs), мені здається, я відмовлюся від Інтернету і виконую обіцянку стати біологом креветок.

У мене є теорія про те, як ми сюди потрапили, і вона пов'язана з історичним непорозумінням.

Є загальноприйнята історія, що звучить так: Ада Лавлейс, математик і письменниця, вважається першою комп'ютерною програмісткою за її роботи над теоретичним "аналітичним двигуном" Чарльза Беббіджа. Конкретна природа її внесків менш відома, але якщо ви коли-небудь чули її слова, найімовірніше, це було таке:

"Аналітичний двигун не має жодних претензій на те, щоб щось оригіналізувати. Він може виконувати лише те, що ми знаємо, як йому наказати. Він може слідувати аналізу, але не має можливості передбачати жодних аналітичних зв'язків або істин".

Цей уривок відомий завдяки Алана Тюрінга в його статті "Обчислювальні машини та інтелект", де він розглядає питання: "Чи можуть машини думати?" Він не погоджується з Лавлейс і пропонує свій стандарт для оцінки, чи можуть комп'ютери думати, у знаменитій "грі наслідування". У ній суддя в сліпому тесті має оцінити, чи спілкується він з комп'ютером, чи з людиною. Здатність обдурити суддю, стверджує він, може вважатися доказом людської когнітивної здатності, на противагу "об'єкту Лавлейс" в штучному інтелекті.

Цікаво, що гра, яку пропонує Тюрінг, базується на вечірній грі, в якій суддя має визначити, чи спілкується він з текстом чоловіка чи жінки за закритими дверима. Багато писали про гендерні стереотипи в соціальних роботах, особливо про особистих асистентів на кшталт Сірі, які часто зображуються в жіночому вигляді.

З objection Лавлейс була однією з восьми інших заперечень, які Тюрінг намагався спростувати. Уважний читач може зрозуміти, що тут відбувається: Тюрінг замінює "сюрприз" на "оригінацію" – значно нижчий критерій, щоб спростувати, ніж те, що спочатку встановила Лавлейс. Успішність тоді оцінюється за реакцією судді, а не за тим, що машина насправді робить.

Ми взяли пропозицію Тюрінга і полетіли з нею. Так званий тест Тюрінга згадувався незліченну кількість разів як своєрідний псевдостандарт у розвитку ШІ, особливо для мовних моделей. Протягом багатьох років щорічна премія Лебнера вручалася комп'ютерним програмам, які могли обдурити суддів, змушуючи їх думати, що вони спілкуються з людиною. "Здати тест Тюрінга" стало коротким способом передати непередбачувані, схожі на свідомість виходи популярних мовних моделей.

Сенс цієї інтерпретації тесту Тюрінга захопив популярну уяву. Це грайливо і, безумовно, елегантно. Кожен може зрозуміти та використовувати його. Це також доповнює нашу глибоку історію спекуляцій про штучну свідомість, яка часто набуває форми нашого власного.

На цьому етапі багато хто з нас усвідомлює недоліки стандарту Тюрінга. Якщо б премія Лебнера не була б скасована у 2019 році, то сучасні покоління LLMs зробили б її абсолютно застарілою. Незважаючи на добре відомі випадки психозу ШІ, більшість людей погоджуються, що ChatGPT не є свідомим. Комп'ютерні вчені швидко вказують на те, що тест Тюрінга ніколи не сприймався як серйозний стандарт, адже він змішує істинну свідомість із симуляцією свідомості.

Те, що це його популярна спадщина, не зовсім справедливо для Тюрінга, який не міг передбачити, яким чином його ідеї будуть вирвані з оригінального контексту. Тюрінг знав, що визначення, що означає "думати", є складним питанням. Він не мав наміру висловлювати рішення щодо "складної проблеми свідомості", тільки зазначити, що є способи обійти традиційні заперечення щодо розумних машин, замінюючи одне поняття на інше.

Лавлейс також не була безстороннім логіком, яким багато хто з нас вважають. В інших роботах вона цікавиться емоційними та естетичними вимірами інтелекту, уявляючи інший тест, де учасник має 1) написати сонет і 2) описати його обґрунтування, щоб продемонструвати, що він володіє інтелектом. Вона вважала сонети найвищою формою літературної досконалості, стандартом, якого багато людей не змогли б досягти, але іронічно, LLM, можливо, змогла б це зробити в очах більшості читачів, принаймні у сліпому тесті.

Також несправедливо стосовно Лавлейс, що її слова в основному пам'ятають через цитування її роботи Тюрінгом.

Далеко не будучи скептичною, Лавлейс передбачала, що обчислювальний потенціал, наданий "аналітичним двигуном", в результаті принесе нові, несподівані результати, хоча вона була стурбована "перебільшеними уявленнями", які так часто супроводжують технологічні спекуляції. Розділ Меган Уорд "Вікторіанські вигадки обчислювальної креативності" стосується роботи Лавлейс для іншої мети, контекстуалізуючи її в вікторіанській дискурсі про оригінальність і креативність.

Вікторіанські часи характеризувалися механічними метафорами – якнайкраще описати тривогу та захоплення Індустріальної революції? У центрі дискусій індустріального віку було слово "оригінація", яке, у час, коли традиційні ремесла перебували під загрозою від автоматизації, вимагало перевизначення. Незалежно від того, яку точність вони мали у виробництві об'єкта, ці машини були нездатні до "оригінації".

Машини, по суті, не могли нічого оригіналізувати, але Лавлейс повторювала думки багатьох своїх сучасників, які стверджували, що, коли можливості машини поєднуються з людським розумом, можлива свого роду симбіотична креативність. Машини можуть впоратися зі складністю та комбінаціями, тоді як людина може вирішити, що слід обирати: шляхом "розподілу та об'єднання істин і формул аналізу... зв'язки та природа багатьох тем у цій науці в необхідності виявляються в нових світлах і глибше досліджуються". Результатом є форма креативності або оригінальності, що, як стверджує Уорд, виходить за межі вузьких, відносно визначених характеристик, таких як ідіосинкразія чи сюрприз, розширюючи креативність у співпрацю.

На жаль, півстоліття медіа, що розповідають про тести Тюрінга (Чи мріють андроїди про електричних вівць? , Її , Екс_Machina – чи потрібно мені перераховувати решту звичних підозрюваних?), підготували нас до уявлення, що це те, що таке інтелект; що ми є тим, як виглядає інтелект.

Я бачу дві небезпеки тут: перша – це те, що Ерік Бриньйольфссон називає "пасткою Тюрінга", де надмірна увага до штучного інтелекту, схожого на людський, є активно шкідливою, оскільки це запрошує заміну. Економісти праці, напевно, погодяться – навіть у кращому випадку, коли LLMs мають лише обмежене значення в робочій сфері, "AI-стажери" можуть не загрожувати досвідченим професіоналам, але це ставить під загрозу час, коли багато хто боїться, що буде нестача підготовлених працівників у майбутньому.

Друга – це Закон Гудхарта, який стверджує, що "коли вимірювач стає ціллю, він перестає бути хорошим вимірювачем". У цьому випадку, я вважаю, що (можливо, успішне) прагнення до штучного інтелекту, що пройшов тест Тюрінга, обмежує нашу уяву. Можливо, якби Тюрінг увічнив слова Лавлейс інакше, ми б оптимізували щось інше, замість того, щоб так успішно імітувати флюентність. Мова є лише виміром інтелекту, хоча й потужним. Я вважаю, що ми віддаємо перевагу їй на шкоду іншим типам інтелекту, таким як розподілений інтелект восьминогів, у яких частина їхнього розуму розташована в кожній щупальці; мережевий інтелект слизових грибів, що віддзеркалює зусилля з міського планування; систематичний інтелект судинних систем у клітинах та ланцюгах постачання.

Або, можливо, більш креативне мислення про креативність нічого не змінить; можливо, ми б опинилися тут незалежно. Можливо, ми б виявили, що колаборативна креативність Лавлейс є настільки ж пасткою, як і Тюрінга. Наприклад, важко не провести лінію між пропозицією Лавлейс і закликами до "людини в циклі", які я все ще бачу скрізь. "Оцінка зворотного зв'язку від людини", основний спосіб, яким ми навчаємо LLMs сьогодні, означає, що, given enough time, виникає дуже тонка межа між посиленням працівника та навчанням його заміни. Це проблема, яку я не бачу вирішенням на даний момент.

Є ще один жахливий випадок "оригінації" машини, який мені здається переконливим, якщо ви готові мати відкритий розум щодо того, що таке креативність або інтелект: генеративні змагальні мережі (GANs) – це клас машинного навчання, який зараз в основному цікавить академіків і художників, який колись був домінуючим підходом до генерації зображень. GAN складається з двох частин: генератора та дискримінатора. Генератор починає з шуму і намагається створити впізнаване зображення, а дискримінатор, натренований на реальних зображеннях, намагається ідентифікувати його як фальшиве. Процесом, що два йдуть назад і вперед, генератор покращується у створенні прохідних зображень (обдурюючи штучного суддю — чи є це свого роду зворотний тест Тюрінга?).

Цікаво, коли два елементи відв'язуються, і генератору дозволяють створювати зображення без дискримінатора, щоб зв'язати його з людським сприйняттям. Результат є представленням "сновидіння" машини, де те, що ми бачимо, є чистою маніфестацією латентного простору, створеного під час навчання генератора, або непрозорою інтеріорією того, як комп'ютер "думає" на своїх умовах (якщо ви хочете антропоморфізувати це). Як і у всіх креативних речах, вирішувати, яку цінність можна отримати тут, залежить від спостерігача.

Хотів би я запитати Лавлейс, що вона думає про все це.

Мег Шрайбер (MBA ‘27) випустилася з Університету Каліфорнії, Берклі в 2022 році зі ступенем у літературі та з Університету Кембриджу в 2024 році, де написала свою дисертацію про ШІ і креативність. Її перша стаття "Смерть автора, народження медіуму: співпраця, контроль і креативність у текстах, згенерованих машинами" незабаром буде опублікована в Poetics Today. Мег також є художницею.