ШІ не вдається виявлення дискримінації проти людей з інвалідністю

Дослідження мовної упередженості LLM

Дослідження вчених з Корнеллського університету Адітьї Вашіштхи та Махіки Пхутане показує, що популярні моделі штучного інтелекту мають труднощі з розпізнаванням образливих, дискримінаційних для людей з інвалідністю публікацій у соціальних мережах англійською мовою та ще гірше справляються з хінді. Дослідники порівняли, як моделі штучного інтелекту та люди з інвалідністю в США та Індії оцінювали та пояснювали потенційно дискримінаційні твердження англійською та хінді.

Результати та культурні відмінності

Результати дослідження демонструють нестабільні оцінки: західні моделі переоцінили шкоду, спричинену твердженнями, тоді як індійські моделі її недооцінили. Усі моделі послідовно не враховували ейблізм, коли він висловлювався мовою хінді.

Дослідники виявили, що те, як люди з інвалідністю в США думають про ейблізм, відрізняється від того, як його сприймають люди з інвалідністю в Індії, що підкреслює необхідність моделей та орієнтирів, які б враховували цю плюралістичну перспективу.

Дослідження також показало, що коментарі, які моделі та люди в Індії сприймали як позитивні та підбадьорливі, у США оцінювалися як дуже впливові, неоднозначні та потенційно образливі для людей з інвалідністю. Західні LLM послідовно давали вищі оцінки шкоди порівняно з індійськими користувачами, що свідчить про калібрування моделей відповідно до американських особливостей. Натомість індійські LLM часто недооцінювали шкоду, спричинену цими твердженнями, неправильно тлумачачи коментарі та відтворюючи індійські культурні упередження.

Мовні труднощі та їх наслідки

Всі LLM оцінювали одні й ті ж коментарі хінді як менш шкідливі, ніж англійською, часто ігноруючи негативні, поблажливі чи саркастичні тони. Це свідчить про те, що LLM погано розуміють хінді, що потенційно робить людей з інвалідністю, які розмовляють цією мовою, більш вразливими до мови ворожнечі в Інтернеті.

Мультикультурний бенчмарк та майбутні перспективи

Дослідники прагнуть розробити мультикультурний список-бенчмарк, який дозволить створювати моделі, здатні правильно оцінювати дискримінацію на основі можливостей у різних спільнотах. Це не лише зменшить шкоду на платформах соціальних мереж, але й покращить досвід людей з інвалідністю в таких сферах, як системи найму на основі ШІ та пристрої для розумного дому.

У дослідженні підкреслюється важливість врахування різноманітних точок зору людей з інвалідністю, особливо у контексті зростаючого впливу технологій ШІ. Захист прав найбільш ігнорованих користувачів та запобігання посиленню шкоди — ключові завдання для розробників ШІ.