Відставання доказової бази: Інструменти підтримки рішень в AI випереджають свою валідацію

За останні півтора року сталися три важливі події, які спільно не отримали назви у спільноті клінічних досліджень: інструменти підтримки рішень на основі штучного інтелекту застосовують у активних випробуваннях швидше, ніж встигли розробити інфраструктуру для їхньої валідації. Можна назвати це Проблемою затримки доказів. Ці інструменти реальні, їх активно використовують, а докази, які повинні передувати їхньому використанню, все ще розробляють.

Ринок штучного інтелекту в клінічних випробуваннях оцінюється в 1,35 мільярда доларів у 2024 році, і, за прогнозами, до 2030 року він досягне 2,75 мільярда доларів, з річним темпом зростання 12,5%. Цей тренд свідчить про те, що капітал вже вирішив, що технологія готова. Тільки ось регулятори та оператори досліджень не можуть чітко визначити, готова вона до чого, валідація якого рівня потрібна і ким вона має бути проведена.

Регуляторна база все ще на стадії розробки

Якщо заглянути у проект рекомендацій FDA від 3 квітня 2023 року щодо функцій програмного забезпечення на основі машинного навчання, то можна побачити, що агентство вводить концепцію Попередньої зміни контрольного плану, механізм, який дозволяє спонсорам заздалегідь визначити, які зміни може зазнати AI-модель після авторизації без повторного циклу перевірки. Це звучить логічно, але документ поки що є лише проектом, а це означає, що спонсор, що будує стратегію валідації на основі принципів цього документа, покладається на рекомендації, які можуть змінитися. Через три роки після публікації, бетон ще не застигає.

Позиція FDA тут зрозуміла, але не повна. Агентство стикається із справжньою епістемічною проблемою: моделі AI в клінічних умовах не є статичними пристроями. Вони перепідготовлюються, змінюються та по-різному реагують на різні підгрупи пацієнтів. Традиційні рамки 510(k) та PMA були розроблені для апаратного забезпечення, яке не оновлюється само. Розробка управління для адаптивного програмного забезпечення потребує переосмислення категорій, які формувалися десятиліттями. Таке розуміння ситуації не полегшує операційну невизначеність для спонсора, який проводить II фазу онкологічного випробування з AI-підтримуваним інструментом.

Впровадження без стандарту

Розгляньте приклад Tempus AI, що сталося на початку 2026 року. Компанія розширила свою платформу Next на шість нових клінічних сценаріїв у випадках раку молочної залози, колоректального, овального, простатного та уротеліального. Це стало можливим завдяки багатосторонньому проспективному дослідженню, яке продемонструвало значні поліпшення в показниках тестування біомаркерів для ранніх стадій недрібноклітинного раку легенів. Платформа надає інформацію в реальному часі на місці лікування. Онкологи бачать цю інформацію, реагують на неї, а пацієнти беруть участь у випробуваннях на основі її результатів.

Це не гіпотетичне впровадження. Це робота системи у виробництві, що охоплює кілька установ та типів пухлин, і впливає на рішення щодо допуску до випробувань, стратифікації біомаркерів і, зрештою, на цілісність клінічних даних. А стандарт валідації, на якому вона базується? Це проектний документ FDA щодо ML-DSF, який на сьогодні залишається проектом.

Багато людей вважають, що більше впровадження AI означає більше генерації доказів. Інструменти збирають дані, ці дані накопичуються, база доказів зростає. Але ця логіка перекручується, коли починаємо досліджувати, що саме вимірюються дані. Проспективні дослідження про продуктивність AI в клінічних умовах часто вимірюють результативність робочих процесів, такі як показники тестування біомаркерів і час до отримання результатів, ніж глибше питання про те, чи узагальнюється базова модель AI надійно серед пацієнтів, які беруть участь у випробуваннях. Поліпшені показники тестування є метриками процесу, а не валідацією межі рішень моделі. Саміт JAMA 2024 з штучного інтелекту, в якому брали участь викладачі Стенфордської медицини, прямо вказав на критичні прогалини в рамках нагляду, які використовуються для валідації AI у сфері охорони здоров’я. Чим швидше відбувається впровадження, тим більше ці прогалини зростають.