ACLU Мічигану ставить під сумнів використання штучного інтелекту для оцінки виплат SNAP

ACLU Мічигану надіслав запит щодо документів, пов'язаних із програмою штучного інтелекту, яка використовується агентством охорони здоров'я та соціальних служб штату для перевірки точності виплат за програмою SNAP.

Правозахисники висловили занепокоєння щодо доручення штучному інтелекту завдання з виявлення помилок у виплатах продовольчої допомоги, оскільки технологія відома своїми неточностями.

ACLU дізнався про використання штучного інтелекту від виконавчого директора агентства Девіда Кнезека під час виступу перед підкомітетом Державного Сенату в березні. Він розповів, що агентство нещодавно запустило інструмент штучного інтелекту для перевірки виплат SNAP перед їх видачею.

"Ми проводимо передсертифікацію випадків," — сказав Кнезек, додавши, що завдяки цьому інструменту можливо переглядати значно більше виплат.

“Ми проаналізували 17,500 справ лише за останні три місяці,” — відзначив він. Це значний прогрес у використанні штучного інтелекту у порівнянні з тим, що можуть зробити окремі особи або команди за рік.

За його словами, в близько 1,500 перевірках справ, цей інструмент виявив понад 150,000 доларів потенційних помилок у виплатах.

Філ Маєр, адвокат ACLU Мічигану, написав листа до MDDHS, просячи про більше роз'яснень щодо ролі штучного інтелекту та запобіжних заходів, які б забезпечили, що виплати, які були належним чином затверджені, не утримуються помилково.

"Ми хочемо зрозуміти, які є докази того, що це працює правильно,” — сказав він. "Ми хочемо дізнатися, чи робить він помилки, особливо при розгляді складних заявок або заявок від осіб, які не є носіями мови, і ми хочемо знати, чи дотримувалися вони процесу отримання федерального затвердження, перш ніж продовжувати впровадження технології.

"У нас є реальне занепокоєння, коли штучний інтелект використовується для прийняття рішень щодо виплат, особливо в ситуаціях, коли є спонукання помилково відмовити у наданні допомоги,” — додав він.

Згідно з актом One Big Beautiful Bill — законодавчим актом, підписаним президентом Дональдом Трампом, штати з високими рівнями помилок зобов'язані покривати частину витрат на програми SNAP. За законом, штати з рівнем помилок понад 6% повинні нести відповідальність за покриття частини витрат на програму — до 15% — яка зазвичай фінансується федерально.

Минулого року рівень помилок у Мічигані становив майже 10 відсотків.

У 2024 році інше державне агентство уклало угоду на 20 мільйонів доларів після помилкового звинувачення 3,000 мешканців Мічигану у шахрайстві з безробіттям. Мічиганська автоматизована система обробки даних (MiDAS) надіслала автоматичні повідомлення десяткам тисяч жителів штату, звинувачуючи їх у неправомірному отриманні виплат з програми допомоги по безробіттю між 2013 і 2015 роками.

Більше ніж 1,000 з них оголосили про банкрутство, оскільки не змогли повернути суму, яку MiDAS стверджував, що вони винні — разом з штрафами за повернення та 400% відсотками.