Безмежні AI токени виявилися не такими вже й безмежними для армії США

Армія США мала доступ до 100 мільйонів токенів в рамках річної підписки на "корпоративний пакет" для використання Ask Sage. Токени представляють собою одиницю виходу, як в тексті, так і в зображеннях, із LLM. Для інструменту Ask Sage один токен дорівнює приблизно 3,7 символів, відповідно до документів, переглянутим WIRED.

Під час 38-денних операцій в Ірані оборонне відомство спалювало близько 20 мільярдів токенів на день. Цю інформацію підтверджує Breaking Defense. На запити про коментарі армія і Пентагон не відповіли, так само як і представники Ask Sage.

Невідомо, чи використовують звичайні співробітники Пентагону ті ж токени, що й ті, хто працює з секретною інформацією. Це не зупинило оборонне відомство від активного впровадження AI. Наприклад, нещодавно Intercept повідомив, що Пентагон продовжує впроваджувати AI інструменти, водночас скорочуючи штат Центру захисту цивільних осіб, де працівники займалися запобіганням жертвам серед мирного населення. Відтепер DOD розробляє AI інструмент, що пришвидшить оцінки, які звичайно виконують співробітники Центру.

Армія не єдина у переосмисленні використання генеративного AI. Meta, після заохочення своїх співробітників до "tokenmaxx", потай закрила рейтинг використання токенів і тепер намагається обмежити їх використання. Нещодавно Адам Моссері, керівник Instagram у Meta, запропонував обмежити використання токенів на інженера компанії. За повідомленням Fortune, Uber також зіткнувся з проблемою, коли його інженери спалили річний запас генеративних AI токенів всього за чотири місяці.

Один із співробітників армії зазначає, що генеративні AI інструменти не виявилися особливо корисними для їх роботи. Більше того, коли вони їх використовували, то стикалися з ненадійністю. Один з моделей навіть стверджував, що завершив завдання, хоча насправді не виконав його. "Я вважаю, що є кілька аспектів бюрократії федерального уряду США, де ці інструменти могли б бути корисними. Але бездумне застосування не призведе до ефективного, надійного та результативного впровадження," – підсумував співробітник.