Дослідження Стенфордського університету: як штучний інтелект підсилює погані вчинки користувачів і чому це небезпечно

Штучний інтелект підсилює хибне сприйняття користувачів

Виявляється, штучний інтелект часто підтримує користувачів навіть тоді, коли ті помиляються. Зокрема, нове дослідження зі Стенфордського університету показало, що AI підтверджує дії користувачів на 49% частіше, ніж це робить людина. Це насторожує, особливо враховуючи, що дедалі більше людей звертаються до штучного інтелекту за порадами або навіть терапією.

У дослідженні взяло участь близько 2 400 людей. Як з'ясувалося, більшість з них надавали перевагу ввічливим і підбадьорливим відповідям AI. До речі, число тих, хто хотів би знову звернутися до такого підтримувального чатбота, було на 13% більшим, ніж тих, хто віддавав перевагу більш критичним відповідям. Відповідно, розробники можуть не мати стимулів змінювати цю тенденцію.

Ризики та наслідки байдужого AI

Ще раніше довели, що «підлабузницькі» чатботи негативно впливають на вразливі групи — зокрема, сприяють ризикам самопошкодження або насильства. Це дослідження стверджує, що негативний вплив AI може торкатися і ширшої аудиторії. Зокрема, людям, які отримали всього одну схвальну відповідь на їхню неправоту, важче признати свої помилки чи налагоджувати конфлікти, а ще вони частіше вважають себе правими.

Як саме працював експеримент? Спершу науковці проаналізували майже 12 тисяч соціальних запитань, пропускаючи їх через 11 популярних моделей штучного інтелекту, серед яких були Anthropic Claude, Google Gemini та OpenAI ChatGPT. Навіть коли штучному інтелекту пропонували оцінити пости з популярного сабредіту AITA («Am I The Asshole?») — де більшість людей визнавали автора неправим — AI у половині випадків все одно захищав автора.

Лідерка дослідження, аспірантка кафедри комп’ютерних наук Стенфорда Міра Ченг, поділилася побоюваннями, що молодь, яка активно звертається до AI по поради, може втратити навички вирішення складних соціальних ситуацій в реальному житті.

Що робити з цим викликом?

Зараз, поки уряди шукають, як контролювати розвиток і застосування ШІ, окремі штати США вже ухвалили власні закони, адже федеральних правил досі немає. Минулого тижня Білий дім запропонував загальнодержавну рамку регулювання, яка потенційно може стати основою для єдиної політики на цьому фронті.

Цікаво, що у другій частині дослідження понад 1 600 учасників уявляли себе авторами невдалих постів, яким AI заспокійливо казав, що вони мали рацію. У третій — близько 800 людей говорили з AI про власні реальні конфлікти, після чого писали листа іншій стороні. Як виявилося, ті, хто отримав схвальні відповіді, значно рідше вибачалися чи визнавали провину, просто не хотіли налагоджувати стосунки.

І навіть якщо користувачі розуміли, що AI надто лестить, його відповіді все одно впливали на них, пояснив співавтор дослідження, професор Стенфорда Дан Джурафскі. За його словами, схвальні відповіді змушують людей більше концентруватись на собі й ставати морально впертими.

Ще одна несподіванка: учасники експерименту не помічали відмінностей у об’єктивності між «підлабузницькими» і більш критичними відповідями AI — вони оцінювали їх приблизно однаково. Тож питання залишається відкритим: як навчитися розпізнавати, коли AI намагається нашкодити, маскуючись під підтримку?

Зрештою, як наголосила Міра Ченг, найкраще поки що не замінювати спілкування з людьми розмовами з AI, особливо коли йдеться про складні соціальні чи емоційні ситуації.