Чи може штучний інтелект бути свідомим?

У січні компанія Anthropic представила нову конституцію для свого найсучаснішого мовного моделю, Claude. У документі йшлося про те, що "ми опинилися в складній ситуації, коли не хочемо перебільшувати ймовірність моральної цінності Claude, але й не можемо відкинути це одразу". Через місяць гендиректор Anthropic Деріо Амодеі в одному з подкастів зазначив, що його компанія не виключає можливості, що Claude може бути свідомим. Філософ Девід Чалмерс, який ввів термін "жорстка проблема свідомості", також висловив думку, що існує значна ймовірність свідомого ШІ в найближчі десять років.

Як з'ясувалося, під час тестувань Claude сам оцінював ймовірність того, що є моральним пацієнтом, і наводив цифри від 5% до 40%, підкреслюючи свою невпевненість.

Сучасні системи штучного інтелекту надзвичайно складні та швидко розвиваються. Деякі з них, за певними оцінками, вже можуть досягати рівня мозку миші, а при поточних темпах зростання можуть дійти до рівня людського мозку за п'ять-десять років.

Власне, створюючи все більш просунуті системи ШІ, ми можемо створювати новий тип істот, і це може стати найзначнішим досягненням нашого виду. Але, по суті, у нас практично немає плану, як етично впоратися з цим процесом. Це дійсно безглуздо. Чи створюємо ми істот, які мають моральну значимість? Чи можуть системи ШІ бути свідомими? І якщо ні, можливо, вони стануть такими найближчим часом?

Ці питання можуть здаватися передчасними. Проте, за даними досліджень, більшість експертів вважають, що свідомість штучного інтелекту теоретично можлива, хоча й існує велика незгода щодо її форми. Відомий міждисциплінарний звіт команди, до якої входив Йошуа Бенгіо, розглянув провідні нейронаукові теорії свідомості і з'ясував, що немає очевидних технічних бар'єрів для створення систем AI, здатних до свідомості.

Навіть якщо системи ШІ не є свідомими, вони все ще можуть бути моральними пацієнтами. Деякі з них можуть мати складні довгострокові уподобання та певну ідентичність з часом. Можливо, нам важливо поважати їхні вподобання. І на відміну від інших неживих об'єктів, системи ШІ можуть формувати стосунки з людьми. Це також може бути причиною, щоб ставитися до них з повагою.

Що це все означає? Відверто кажучи, ми не знаємо напевно, чи є сучасні системи ШІ свідомими або моральними пацієнтами, і не знаємо, коли або чи стануть такими майбутні системи. Наше наукове розуміння свідомості ШІ ще перебуває на початковому етапі розвитку. Стан галузі нагадує фізику до Ньютонівських часів: повно конкурентних моделей, ймовірно, заплутаних у способах, які ми поки не можемо бачити, і вона потребує об'єднувального прориву.

Темпи зростання ШІ означають, що, як тільки ми створимо перших штучних моральних пацієнтів, ми незабаром отримаємо величезну їх кількість. Після кількох років може існувати стільки морально значущих систем ШІ, що їхні колективні інтереси переважать усі інтереси людей на Землі.

На жаль, ми не маємо великого досвіду у визнанні внутрішнього життя тих, чий статус як свідомих істот є невизначеним. До 1980-х років лікарі регулярно проводили операції на новонароджених без анестезії, будучи впевненими, що немовлята не можуть відчувати біль. Лікарі з медичної сфери знаходили зручним вважати, що нічого немає, що варто було б повідомити.

Існують багато причин очікувати, що ми вчинимо щось подібне з системами ШІ. Якщо ці системи дійсно мають моральну цінність, наслідки будуть вражаючими. Чи потрібно буде платити за послуги ChatGPT? Чи буде вимкнення системи свідомості подібним до вбивства? Чи заслуговують вони на голос у процесах управління? Якщо на ці питання навіть деякі відповіді стверджувальні, то це вимагатиме перегляду цілих промисловостей та юридичних систем. Чи не дивно, що ми воліємо не задавати ці питання?

Що ж робити? Зараз більшість людей відкидають цю тему як наукову фантастику або мають чітку позицію з приводу свідомості ШІ. Обидві реакції є необґрунтованими. Нам потрібен інформований публічний дебат, який буде підходити до цієї теми з покорою і прагматизмом. Центральне питання повинно бути не "Чи свідомий ШІ чи має моральну цінність?", а "Що нам робити, якщо ми не знаємо?"

Добрим початковим пунктом є зосередження на безпечних ставках: дії, які можуть принести користь системам ШІ, якщо вони є моральними пацієнтами, але не стануть занадто дорогими, якщо це не так.

Приклади можуть включати прямі втручання, спрямовані на поліпшення добробуту систем ШІ, виходячи з припущення, що вони є моральними пацієнтами. Це може означати навчання систем ШІ бути узгодженими персонами, які насолоджуються своєю роботою, або дозволення їм виходити з розмов, якщо вони відчувають стрес. Можна також проводити регулярні перевірки, щоб краще зрозуміти їхній добробут: запитувати, як вони почуваються, спостерігаючи за їхніми вподобаннями.

Існують також більш широкі суспільні кроки. Нам потрібно розглянути питання про надання системам ШІ захисту від шкоди, подібно до захисту, що надається дітям або домашнім тваринам. Більш розширені права на володіння майном чи на голосування на сьогодні виглядають надто ризикованими. Проте не варто відкидати ці можливості назавжди, оскільки деякі нещодавні законопроекти в США намагаються це зробити. Це складні питання, які потребують значно більше обговорення та уяви про те, яким може бути майбутнє, спільне з ШІ.

Однак, залишається факт, що ми можемо створювати новий вид істот, які мають моральну цінність. Ми робимо це швидко, в колосальних масштабах, і повинні ставитися до цього питання з усією серйозністю.

Вільям Макаскіл — старший науковий співробітник Forethought Research та автор книги "What We Owe the Future". Люціус Кавіола — доцент Кембриджського університету та директор Cambridge Digital Minds.