Не варто очікувати, що компанії зі штучним інтелектом поводитимуться як ангели

Відмова Anthropic надати беззастережний доступ

Напередодні авіаударів США та Ізраїлю, що спричинили смерть аятоли Али Хаменеї та розпалили масштабний регіональний конфлікт, стартап зі штучного інтелекту Anthropic відмовився виконати вимогу Міністерства оборони США. Генеральний директор Dario Amodei не погодився надати «повний та необмежений доступ» до моделей компанії, зокрема програмного забезпечення Claude, без гарантій, що їх не використають для масового внутрішнього нагляду або повністю автономної зброї.

Ця позиція обернулася для компанії непростими наслідками. По-перше, уряд розірвав усі контракти зі стартапом та натомість уклав нову угоду з OpenAI, яка теж декларує етичні межі у співпраці з військовими. До речі, Міністерство оборони США унікально визначило Anthropic як «ризик для ланцюга постачання» — це вперше у своїй історії такий ярлик застосували до американської фірми.

Відвага й виклики етики в AI

Dario Amodei продемонстрував неабияку сміливість, відстоюючи моральні принципи компанії, і його приклад заслуговує на увагу. Проте, як показує практика, покладатися лише на моральну позицію одного керівника було б наївно. Адже інші розробники AI можуть не піти таким же шляхом, тож реальні рамки мають створюватися на рівні законів та відповідальних правил, а не сподіватися на саморегуляцію галузі.

Що цікаво, особисто я ніколи не думала, що зможу підтримати якийсь AI-проєкт. Зокрема, після критики використання генеративного контенту в університеті Wake Forest мої сумніви тільки загострилися. Я навмисно відмовилась від ChatGPT і прагну уникати спокуси звертатися до штучного інтелекту для навчання чи пошуків, обираючи більш екологічно свідомі інструменти.

Як влаштувати етичну роботу з AI?

Мої друзі часто сміються з моїх анті-AI настроїв, але насправді важливо вести дискусії про межі та наслідки впровадження штучного інтелекту. За даними джерел, в Інтернеті з’являється безліч статей, які наголошують: «штучний інтелект не є неминучим». Отже, ми маємо самі вирішити, як і коли обмежити його вплив.

Зокрема, Wake Forest добре, що розпочав такі роздуми, розробивши внутрішні правила застосування AI у навчанні та адміністративній діяльності. Незважаючи на те, що вони можуть виглядати доволі ліберальними, це перший крок до вироблення спільного підходу. Університетські курси з добре прописаними політиками по роботі зі штучним інтелектом можуть стати прецедентом для майбутніх законів у цій сфері.

Безумовно, AI-компанії потребують регулювання вже сьогодні і в обозрімому майбутньому. Anthropic, незважаючи на свою етичну конституцію, не вартий занадто ідеалізованого образу. Як з’ясувалося, компанія була готова співпрацювати з Міноборони, якщо лише обмежити застосування AI на території США в частині нагляду чи автономної зброї. Дуже прагматично, чи не так?

Зрештою, світ AI — це далеко не рай для духу. Хоч би які гарні рекламні ролики чи публічний імідж створювала Anthropic, реальність набагато складніша. Якщо б Джеймс Медісон писав «Федералісти» сьогодні, він, напевно, зазначив би: «Якби розробники AI були ангели, уряди б не були потрібні». Але оскільки це неможливо, не варто і чекати від AI компаній моральної досконалості.