Anthropic спростовує звинувачення у саботажі ШІ для військових під час війни

Anthropic про звинувачення в суді

Anthropic заявляє, що не може впливати на свою генеративну модель ШІ Claude, коли вона вже працює для військових США. Про це повідомив один із керівників компанії у судовій заяві в п’ятницю, відповідаючи на звинувачення адміністрації Трампа щодо можливої маніпуляції інструментами ШІ у війні.

«Anthropic ніколи не мала можливості припинити роботу Claude, змінити її функціонал, закрити доступ або іншим чином впливати на військові операції», – написав Тіягу Рамасамі, керівник публічного сектору Anthropic. Він також зазначив, що компанія не має доступу, щоб вимкнути технологію або змінити поведінку моделі ні до, ні під час дій. По суті, контроль залишається поза їхніми руками.

Конфлікт із Пентагоном

З кілька місяців триває суперечка між Пентагоном і Anthropic щодо того, як їхні технології можна застосовувати у сфері національної безпеки та де проходять межі використання. Що цікаво, цього місяця міністр оборони Пейт Гегсет назвав Anthropic ризиком для ланцюга поставок, що фактично забороняє Міноборони користуватися софтом компанії, навіть через підрядників, протягом найближчих місяців. Окрім того, інші федеральні установи також припиняють роботу з Claude.

Anthropic через це подала два позови, оскаржуючи конституційність заборони, та домагається термінового скасування рішення. Втім, клієнти вже почали скасовувати контракти. Судове слухання призначене на 24 березня у федеральному суді Сан-Франциско, тож незабаром можна очікувати на тимчасове рішення.

Аргументи сторін

Юристи оборонного відомства раніше стверджували, що відомство не має дозволяти, аби критичні військові системи піддавалися ризику саме в ключові моменти оборони країни та бойових дій. Минулого року, до речі, Пентагон активно застосовував Claude для аналізу даних, складання меморандумів і допомоги у створенні бойових планів.

З боку уряду побоюються, що Anthropic може перешкоджати ходу операцій, вимикаючи доступ до Claude або впроваджуючи шкідливі оновлення, якщо не схвалюватиме певні дії. Проте Рамасамі рішуче це відкинув:

«Компанія не має жодних «чорних входів» або дистанційного «вимикача».

Їхні співробітники не можуть, наприклад, увійти в систему Department of War та змінити чи заблокувати моделі під час операції». Технологія просто не працює так.

На додачу, Anthropic може надавати оновлення лише з дозволу уряду і хмарного провайдера, яким є Amazon Web Services, хоча останнє прямо не згадували. Також Anthropic не має доступу до підказок або інших даних, які вводять військові користувачі у Claude.

Позиція Anthropic щодо військових рішень

У документах компанія наполягала, що не прагне отримати право вето над військовими тактичними рішеннями. Сарра Хек, очільниця політики Anthropic, у п’ятничному поданні повідомила, що 4 березня фірма запропонувала контракт, який це гарантує. «Для уникнення сумнівів, [Anthropic] розуміє, що ця ліцензія не надає права контролювати чи блокувати законні оперативні рішення Department of War», – йдеться у пропозиції.

Також компанія готова була погодитися на умови, що вирішують її занепокоєння щодо використання Claude для смертоносних ударів без людського нагляду. Та, як виявилось, переговори зайшли у глухий кут.

Подальші дії Пентагону

Поки що Міноборони заявило в судових документах, що «приймає додаткові заходи для зниження ризику ланцюга постачання», працюючи з третіми хмарними сервіс-провайдерами, аби керівництво Anthropic не могло самостійно робити зміни у системах Claude, які вже використовують.