США готують регулятора для штучного інтелекту

Галузь штучного інтелекту та адміністрація США, здається, наближаються до створення регулятора, подібного до FINRA, для новітніх технологій AI. Як з'ясувалося, його ефективність і життєздатність визначатимуться вибором дизайну, що робиться вже зараз.

Деміс Хассабіс, генеральний директор Google DeepMind, опублікував 14 липня концепцію, в якій закликав до створення стандартів для новітнього AI під керівництвом США. Він пропонує змоделювати цю структуру за аналогією з FINRA, незалежною організацією, що контролює фінансову індустрію.

Три дні по тому Bloomberg повідомила, що Білий дім розглядає пропозицію, розроблену за участю міністра фінансів Скотта Бессента, на основі цієї моделі. Правду кажучи, вибір організаційної форми насправді не був найскладнішим питанням. Відповідно до пропозиції Google, компанії в галузі новітнього AI подаватимуть свої моделі на перевірку за тридцять днів до випуску.

Протягом цього часу ці системи перевірятимуть на небезпечні кібер-, біологічні та оманливі можливості. Участь компаній у цьому процесі буде спочатку добровільною, але стане обов'язковою для впровадження в США, коли процес доведе свою ефективність.

Однак ще залишається багато невизначеностей, таких як, наприклад, як фінансуватиметься цей орган, чи гарантований доступ до новітніх систем, і яким чином його результати можуть потребувати класифікації. Вибір дизайну для вирішення цих питань може визначити, чи стане цей новий орган тим, кому довірятим регулятори та громадськість, чи ж потребуватиме реконструкції після першої кризи довіри.

П’ять невирішених питань

Ці відкриті питання дизайну не є причинами затримок. Вони, по суті, є вимогами, які вказують на специфічну архітектуру. Те, як вони будуть вирішені, включно з п’ятьма нижче, в кінцевому підсумку визначить довгострокову життєздатність запропонованого органу.

Незалежність. Пропозиції у стилі FINRA припускають фінансування з боку галузі, що викликає занепокоєння щодо мотивів управління і конфліктів інтересів. Коли компанії фінансують своїх оцінювачів, це нагадує модель кредитного рейтингу, що знищила довіру під час фінансової кризи 2008 року.

Національна безпека. Ні одна з перевірок FINRA ніколи не надавала інформацію, що була б національним активом безпеки. Орган, що оцінює новітні технології AI, швидко отримає такі дані, і, тримаючи доступ до кожної лабораторії, стане однією з найцінніших цілей для шпигунства у світі.

Легітимність. Партнери в Брюсселі, Лондоні, Сеулі та Токіо не сприймуть американський орган, фінансований індустрією, як арбітра міжнародних стандартів. Громадськість не довірятиме органу, що вимірює лише те, що ці компанії й агенції з безпеки вважають важливим.

Доступ і кадри. Незалежність без гарантованого доступу до моделей залишає орган з можливістю оцінювати лише те, що йому дозволене бачити.

Вимірювання. Немає усталеної науки оцінки новітніх технологій: оцінки можуть бути розроблені в ізоляції, але не існує жодної більшої екосистеми відповідальності або набору галузевих стандартів, які б перетворювали їхні результати в практичні зміни.

Розробити один раз, зробити правильно

Критичні перші вибори дизайну можуть істотно вплинути на той тривалий ефект, який матиме орган на прогрес галузі AI.

По-перше, незалежно структурувати три функції. Будь-які специфікації, що визначають, що значить “безпечний” і “перевірений”, повинні фінансуватися виключно нейтральними ресурсами без прив'язки до індустрії.

По суті, ця концепція може стати основою, яка витримає випробування часом. Зрештою, регулятор може стати стандартом, який моделі AI з США зможуть використовувати у всіх ринках як знак якості, надійності, безпеки та довіри.