Чому синтез доказів важливий в епоху штучного інтелекту

В епоху, коли інформаційний потік великою мірою перевищує наші очікування, генеральний директор Cochrane, Karla Soares-Weiser, стверджує, що систематичні огляди залишаються незамінним інструментом для прийняття рішень людьми, професіоналами в медицині та політиками. Проте, справжнім викликом стає не просто виробництво надійних доказів, а збереження довіри, яка робить ці докази корисними.

Як змінюється пошук інформації

На початку ери інтернету люди почали звертатися до ‘Доктора Гугла’ за медичною інформацією. Пошукові системи змінили спосіб, яким люди шукали відповіді на свої запитання про здоров'я, перетворивши відносини між пацієнтами та медиками. Зараз спостерігаємо аналогічні зміни, але тепер люди звертаються до генеративних AI-чат-ботів.

Цікаво, що дослідження у Великій Британії показало: один з семи опитаних використовує AI-чат-ботів для отримання медичних порад замість звернення до свого лікаря. Інше дослідження з'ясувало, що майже кожна п'ята розмова з Microsoft Co-Pilot стосується оцінки симптомів або обговорення стану.

Виклики з AI

AI-чат-боти можуть зробити інформацію більш доступною: можна просто запитати про щось, і отримати відповідь своєю мовою, що є особливо цінним для тих, хто не є носієм англійської. Проте, незважаючи на підтримку у пошуку інформації, вони також несуть серйозні виклики, зокрема у таких важливих сферах, як охорона здоров'я.

Великі мовні моделі, які керують чат-ботами, ґрунтуються на прогнозуванні, а не на справжньому розумінні. Вони генерують текст, передбачаючи найбільш імовірну послідовність слів, що приводить до помилкової інформації. Дослідження, опубліковане в BMJ Open, виявило, що половина відповідей на медичні запитання від п'яти популярних чат-ботів були проблемними.

Крім того, моделі AI, часто, формують впевнений тон, навіть коли інформація неправдива. Це ускладнює виявлення "галюцинацій" — вигаданих фактів, які можуть з'являтися в їхніх відповідях. Дослідники з MIT (США) виявили, що AI використовує більш впевнений стиль мовлення, коли генерує неправдиву інформацію.

Дискримінація є ще одним викликом. Оскільки AI навчається на даних, створених людьми, він може підсилювати та відтворювати упередження, закладені в цих даних. Це ставить під загрозу точність та справедливість інформації.

Чому ми повинні цінувати систематичні огляди?

Систематичні огляди є найнадійнішим способом з'ясувати, чи є певний метод лікування ефективним. Вони поєднують усі релевантні дослідження з конкретного питання, забезпечуючи об'єктивне резюме доказів.

Cochrane дотримується суворих методичних стандартів, що включає вимоги до авторів щодо розкриття інтересів та визнання технологій, які використовуються. Це гарантує незалежність та достовірність їхніх доказів.

Отже, замість того, щоб вигадувати інформацію, систематичні огляди допомагають виявити незнання, підкреслюючи актуальні дослідження і де ще потрібне більше вивчення.

Майбутнє

Cochrane вже спостерігає зміни в тому, як люди отримують інформацію. Все більше користувачів покладаються на узагальнення, які генеруються пошуковими системами та AI. Проте, багато з них не переходять на оригінальне джерело, що піднімає важливі питання про використання та інтерпретацію контенту.

Продовжуючи підтримувати високі стандарти, Cochrane має забезпечити довіру людей до своїх доказів. Тож важливо зберігати прозорість, незалежність та об’єктивність для надання надійної інформації.