AWS випустила ШІ-чип Trainium3

Компанія Amazon Web Services (AWS) представила нову версію власного ШІ‑чипа Trainium3 і анонсувала наступне покоління — Trainium4.

Фірма повідомила про запуск системи UltraServer, що базується на передовому 3-нм чипі Trainium3 та внутрішній мережевій технології.

Обидва рішення продемонстрували більшу продуктивність під час навчання та інференсу ШІ порівняно з напівпровідником другого покоління.

Система демонструє чотириразове зростання продуктивності, а також має вчетверо більше пам’яті. Це дозволяє не лише навчати штучний інтелект, а й обслуговувати ШІ‑застосунки у пікові періоди.

UltraServer складається зі 144 чипів Trainium3. Системи можна об’єднати у структуру, що сумарно вмістить до 1 млн напівпровідників.

Енергоефективність нового рішення поліпшено на 40%. Компанія повідомила, що її клієнти, зокрема Anthropic, LLM Karakuri, SplashMusic і Decart, уже використовують чипи третього покоління, завдяки чому суттєво скоротили витрати на обчислення.

Trainium4

Amazon представила дорожню карту розвитку напівпровідників. Чип наступного покоління — Trainium4 — уже в розробці. Він забезпечить «ще один великий стрибок» у продуктивності й отримає підтримку технології високошвидкісного з’єднання NVLink Fusion від Nvidia.

Системи на базі Trainium4 зможуть масштабувати обчислювальну потужність, взаємодіючи з графічними процесорами Nvidia. Водночас вони й надалі використовуватимуть власну дешевшу технологію серверних стійок Amazon.

ШІ-агенти

Amazon Web Services анонсувала три нові ШІ‑агенти. Один із них здатний вивчати вподобання користувача, щоб потім автономно працювати впродовж кількох днів.

Кожен цифровий помічник виконує різні завдання:

• Kiro — асистент для розробників. Він просить людину надати інструкції, підтвердити або виправити припущення, а далі самостійно виконує завдання;
• AWS Security Agent — працює незалежно для виявлення проблем із безпекою під час написання коду;
• DevOps Agent — автоматично тестує новий алгоритм на наявність проблем із продуктивністю чи сумісністю з іншим ПЗ, обладнанням або налаштуваннями хмари.

Kiro підтримує «постійний контекст між сесіями» — у нього не закінчується пам’ять. Агент здатний працювати кілька годин або днів із мінімальним втручанням людини.

Суверенний ШІ

Ще один великий реліз від Amazon — AI Factories. Рішення дає змогу великим корпораціям і держструктурам розгортати ШІ‑системи безпосередньо у їхніх дата-центрах.

«Клієнти надають енергію та ЦОД, а AWS встановлює ШІ‑систему, керує нею і може підключити до інших хмарних сервісів компанії», — заявила фірма.

Ідея полягає в тому, щоб задовольнити потреби корпорацій і урядів, зацікавлених в абсолютному контролі над своїми даними.

Нагадаємо, у листопаді Amazon вимагала від Perplexity прибрати браузер зі вбудованим ШІ‑агентом зі свого інтернет‑магазину.