Amazon запускає свої чіпи AWS Trainium для всіх розробників PyTorch без переписування коду

Компанія Amazon оголосила про можливість використання своїх чіпів AWS Trainium для розробників PyTorch без необхідності переписувати код. Це стало можливим завдяки TorchNeuron, який дозволяє запускати наявні програми на новому обладнанні лише за рахунок зміни конфігурації.

До речі, TorchNeuron буде відкрито на конференції PyTorch 20 жовтня. Це нововведення вже зацікавило стартапи та великі компанії, які працюють у сферах робототехніки, відео, безпілотних автомобілів та фінансів. Вони вже почали адаптувати свої проекти на базі Trainium.

На даний момент 85% дослідників і розробників штучного інтелекту пишуть код у PyTorch. Раніше ж обмеження апаратного забезпечення значно ускладнювало можливість розширення на нові чіпи. Це вимагало переписування та повторної валідації роботи, що забирало багато часу. Однак Amazon тепер усуває цей бар'єр.

В одному з демонстраційних прикладів інженери Amazon запустили одну й ту ж програму навчання штучного інтелекту спочатку на звичайному чіпі, а потім на Trainium. Єдина відмінність полягала в налаштуванні, яке вказувало, який саме чіп використовувати. Результати показали, що модель навчалася з однаковою швидкістю.

Для розробників це дуже вагомий крок. PyTorch вже має вбудовану функцію для реєстрації нового обладнання. TorchNeuron інтегрується з цим стандартом, що означає, що вже існуючі інструменти для тестування та відладки будуть працювати на Trainium без будь-яких змін.

Що цікаво, TorchNeuron відкриває нові можливості не лише для стартапів, але й для великих компаній, які управляють великими потоками даних штучного інтелекту. Тепер вони можуть використовувати одну й ту ж апаратуру для навчання та інференції, що забезпечує більшу ефективність.

Amazon також активно працює над тим, щоб зробити PyTorch більш апаратно-агностичним, усуваючи прив'язку до конкретних чіпів. Користувачі зможуть отримати доступ до нових можливостей, не втрачаючи при цьому вже наявні інструменти.

На завершення, TorchNeuron підтримує нові моделі Trainium2 та Trainium3, які будуть доступні під ліцензією Apache 2.0 на конференції PyTorch у Північній Америці 20 жовтня. Це чергова сторінка у десятирічному інвестуванні Amazon у власні чіпи, що надає розробникам нові можливості для досягнення успіхів на ринку штучного інтелекту.