Штучний інтелект та субтрактивна інновація

Три роки тому я написав статтю, запитуючи, чи може штучний інтелект зрештою поставити людську когніцію на технічну «чопу». Тоді ШІ тільки починав показувати, на що здатний, і занепокоєння здавалося цілком зрозумілим. Інновації завжди створювали застарілість. Машини замінили фізичну працю, калькулятори взяли на себе більшість рутинних обчислень, а цифрові технології витіснили цілі індустрії. Але тепер сфера інновацій меншою мірою стосується старого стерео або калькулятора, а більше людських думок.

Правду кажучи, когніція не стала застарілою в повному розумінні цього слова. Насправді штучний інтелект зробив нас неймовірно здібними. Вчені можуть швидше досліджувати гіпотези, лікарі здатні аналізувати складну медичну інформацію, а ми можемо писати, кодувати або створювати на рівні, який раніше вимагав спеціалізованої (і дорогої) експертизи. Це справді вражає, і я не вважаю, що ми повинні применшувати це лише через побоювання про деякі наслідки.

Я назвав один з проявів цього Ітеративним інтелектом — взаємодія між людиною і машиною, в якій ідея переглядається, переосмислюється і іноді переноситься туди, куди жодна з них не здогадалася б самостійно. І хоча це нове, це також нагадує поважний сократівський діалог. У цьому контексті технології не обов'язково зменшують мислення. Іноді вони навіть сприяють його зростанню. Тому я стаю дедалі більш незручним через просте питання: чи робить штучний інтелект нас розумнішими чи дурнішими? Можливо, відбувається щось більш складне.

Застарілість починається з необхідності

Ми звикли сприймати застарілість як кінцевий етап. Щось працює, поки не з'являється краща технологія, і зрештою старе просто викидається. Камери на плівці, факсимільні апарати та письмові машинки приходять на розум. Але перш ніж щось зникне, відбувається щось більш важливе, що варто усвідомлювати. Ми просто перестаємо їх потребувати. І, можливо, це кращий підхід до розуміння когніції в контексті штучного інтелекту.

Штучний інтелект не повинен знищувати мою здатність писати. Йому достатньо зробити написання менш необхідним. Моя пам'ять не повинна погіршуватися, якщо запам'ятовування стає менш важливим. А моя здатність формулювати аргумент не зобов'язана зникати, якщо розумний аргумент може бути створений ще до того, як я його опрацював.

Це підводить мене до концепції, яку я називаю Субтрактивною інновацією. Це коли інновації підвищують здібність людсько-машинної системи, при цьому зменшуючи необхідність для людини використовувати цю підсилену здатність. Я вважаю, що слово «необхідність» є критично важливим, адже я не стверджую, що використання штучного інтелекту неминуче робить нас когнітивно слабшими. Люди тисячі років передають когнітивні завдання інструментам, і багато з цих інструментів робили нас розумнішими та здібнішими. Штучний інтелект може зробити те ж саме в масштабах, які ми ніколи не бачили раніше.

Проте, мене турбує те, що людські здібності мають якість «використовуй або втрачай». Коли ми не потребуємо робити щось, ми, як правило, робимо це менше. І якщо ми робимо це менше, я вважаю, цілком логічно запитати, що відбувається з основною здатністю з часом. Я не вважаю, що ми знаємо відповідь ще, але шлях варто уважно проаналізувати.

Коли мислення стає необов'язковим

Чистий аркуш раніше вимагав, щоб хтось написав перше речення. Аргумент потрібно було побудувати, і навіть поставити хороше питання зазвичай вимагало достатньо розуміння, щоб знати, що ти не знаєш.

Отже, ось у чому суть: все частіше ці речі стають необов'язковими.

Штучний інтелект може почати сторінку, закінчити її і підсумувати. І ось де стає цікаво: кожен з цих виборів може бути цілком раціональним. Чому витрачати 20 хвилин на те, що можна зробити за 20 секунд, особливо якщо результат може бути таким же хорошим або навіть кращим?

Тут я б запропонував, що Субтрактивна інновація відрізняється від простого когнітивного «завантаження». Штучний інтелект не забирає нашу здатність мислити. Він поетапно та думка за думкою знімає певну необхідність думати за себе. Когнітивна відмова, якщо вона станеться, імовірно, не виникне з драматичного рішення передати розум машини. Це може виникнути майже непомітно через тисячі раціональних рішень уникати зусиль, які технологія зробила непотрібними.

Вибір всередині машини

Ітеративний інтелект пропонує інший шлях. Замість того, щоб просити штучний інтелект усунути когнітивний акт, ми можемо використовувати його для розширення цього акту. Ми можемо кидати виклик його відповідям, змінювати припущення, знаходити протиріччя або слідувати асоціації, яку раніше не враховували. Дві людини можуть використовувати один і той же штучний інтелект і отримувати однаково вражаючі результати, маючи дуже різний когнітивний досвід. Один може використовувати машину переважно для виконання завдання, в той час як інший використовує її для зміни думки. Цей шлях, до речі, не є найкоротшою відстанню від питання до відповіді, це більш довгий і тернистий шлях відкриттів і навчання.

Це підводить мене до ідеї достатку, ще одного слова, яке стало майже нерозривним з обіцянкою штучного інтелекту. Я писав раніше про дивні динаміки когнітивного достатку, і вважаю, що Субтрактивна інновація додає ще один вимір до цього. Ми звикли вважати, що математика рухається в одному напрямку — більше інтелекту, доступного нам, повинно означати більше інтелекту для нас.

Я не впевнений, що рівняння таке просте.

Достаток можливостей машин може зробити людсько-машинну систему значно більш потужною, одночасно роблячи деякі людські можливості менш необхідними. Обидва ці факти можуть бути правдивими одночасно. Ми можемо мати більше інтелекту доступного нам і менше причин використовувати свій власний.

Технічне життя тому, приблизно три роки тому, я запитував, чи може когніція врешті-решт стати застарілою. Сьогодні я думаю, що застарілість може бути неправильним місцем, з якого потрібно почати. Раніше сигнал — це необхідність. Здатність може залишатися цілком недоторканою, стаючи прогресивно менш необхідною, і, можливо, тут починаються справжні когнітивні наслідки.

Штучний інтелект справді може відкрити еру достатку. Але математика може не рухатися лише в одному напрямку. І більше на рівні системи не обов'язково означає більше на рівні людини.

А це залишає мене з трохи іншим питанням. Що відбувається з людьми, коли мислення стає необов'язковим?