Впровадження новітнього апаратного забезпечення AI в дата-центри

Призначення цього матеріалу на Substack — розповісти про те, що відбувається у світі напівпровідників. Тут, а також на моєму YouTube каналі, ви знайдете інформацію про IBM, що розширює межі щільності транзисторів, нові види кремнію, що з'являються на ринку, їх продуктивність, конкуренцію, а іноді й коментарі про їхню якість.

І, звичайно, тисячі стартапів, які я висвітлюю, прагнуть зламати стереотипи та отримати частку ринку, якою володіють такі компанії, як NVDA та AMD. Водночас я також хочу розповісти, що відбувається далі. У галузі існує термін "інфраструктура", і за межами чіпів постає питання: куди їх використовують? Більшість із них не призначені для кінцевого споживача, тому ми зосереджуємо увагу на підприємствах, дата-центрах, постачальниках хмарних послуг, гіперскейлерах. Але звідки береться енергія? Звідки вода? І як це використовується — де справжнє killer app?

Ми всі вже давно говоримо про AI. Як з'ясувалося, з усіма стартапами, які я висвітлював, від Tenstorrent до d-Matrix, Cerebras і SambaNova, постає питання: де їх дійсно використовують? На цьому році під час заходу AMD Advancing AI я натрапив на Девіда Беннетта, друга з More Than Moore. Я востаннє інтерв'ював його, коли він працював у Tenstorrent, але тепер він вирішив створити стартап під назвою ai& (також відомий як aiand). Вони базуються в Японії, надаючи доступ до токенів місцевій спільноті, використовуючи для цього території, підготовлені для нових проектів. Цікаво, що я хотів обговорити з Девідом їх рішення впровадити не лише стандартні чіпи NVIDIA та AMD у своїй інфраструктурі, а й що це насправді означає.

Девід Беннетт зазначив, що їхній стартап фактично є нео-хмарою. Вони створили ai&, і розпочали свою діяльність цього року. ai& — це компанія Frontier AI в Японії, яка активно просуває ідею суверенного AI. Важливість цієї концепції Девід дізнався під час роботи в Tenstorrent.

Вони будують та експлуатують власні дата-центри, об'єднуючи всі GPU, прискорювачі та інфраструктуру, та запускаючи сервіс на їх основі.

Девід також підтвердив, що поняття суверенного AI змінилося з плином часу. Якщо раніше це означало повну ізоляцію та спеціалізовані рішення, то тепер мова йде про незалежність країн від AI-стеків інших держав. Це видно у тому, як уряди адаптують нові моделі, такі як GPT-5 та GPT-6.

Вони надають своїм клієнтам можливість мати власні виділені сервери GPU, чітко усвідомлюючи, що деяким компаніям недостатньо лише знати, де генеруються їх токени — їм потрібні спеціалізовані рішення.

Цікаво, чому Девід, як білий канадець, обрав Японію для цього проекту? Він прожив там близько 16 років і вважає, що Японія відстає у розгортанні AI, тому вони прагнуть допомогти.

Японія завжди була технологічним лідером, однак, як зауважив Девід, культурні особливості можуть уповільнити впровадження нових технологій. Японці зазвичай повільно адаптуються до нововведень, але коли це відбувається, то вони роблять це масштабно.

Тепер у ai& вже близько $50 мільйонів коштів на операційні витрати та ще $2 мільярди на розбудову інфраструктури, з яких 500 мільйонів буде використано до кінця року, а ще мільярд — наступного року.

Таким чином, ai& надає своїм клієнтам не лише платформу для обробки даних, але й повну екосистему, що враховує потреби ринку та специфіку японської культури.