Amazon выпустила ИИ-чип Trainium3

Компания Amazon Web Services (AWS) представила новую версию ИИ-чипа собственной разработки — Trainium3. Также она анонсировала разработку следующей версии, Trainium4.

Trainium3 UltraServers now available: Enabling customers to train and deploy AI models faster at lower cost. #AWSreInvent https://t.co/YV8iUyKUB8

Фирма сообщила о запуске системы UltraServer, которая основана на передовом 3-нм процессоре Trainium3 и внутренней сетевой технологии.

Оба решения продемонстрировали значительное повышение производительности при обучении и инференсе ИИ по сравнению с полупроводником второго поколения.

Система демонстрирует четырехкратный прирост производительности, также имеет в четыре раза больше памяти. Это позволяет не только обучать искусственный интеллект, но и обслуживать ИИ-приложения в периоды пиковой нагрузки.

UltraServer состоит из 144 чипов Trainium3. Системы можно объединить в структуру, которая суммарно вместит до 1 млн полупроводников.

Энергоэффективность нового решения улучшена на 40%. Компания сообщила, что ее клиенты, в том числе Anthropic, LLM Karakuri, SplashMusic и Decart, уже используют чипы третьего поколения. Благодаря этому они значительно сократили затраты на вычисления.

Trainium4

Amazon представила дорожную карту развития полупроводников. Чип следующего поколения — Trainium4 — уже в разработке. Он обеспечит «еще один большой скачок» в производительности и получит поддержку технологии высокоскоростного соединения NVLink Fusion от Nvidia.

Системы на базе Trainium4 смогут масштабировать вычислительную мощность, взаимодействуя с графическими процессорами Nvidia. При этом они продолжат использовать собственную, более дешевую технологию серверных стоек Amazon.

ИИ-агенты

Amazon Web Services анонсировала три новых ИИ-агента. Один из них способен изучать предпочтения пользователя, чтобы затем автономно работать на протяжении нескольких дней.

Каждый цифровой помощник выполняет разные задачи:

• Kiro — ассистент для программистов. Он просит человека дать инструкции, подтвердить или исправить предположения, а затем самостоятельно выполняет задачу;
• AWS Security Agent — работает независимо для обнаружения проблем с безопасностью по мере написания кода;
• DevOps Agent — автоматически тестирует новый алгоритм на наличие проблем с производительностью или совместимостью с другим ПО, оборудованием или настройками облака.

Kiro поддерживает «постоянный контекст между сессиями» — у него не заканчивается память. Агент способен работать несколько часов или дней с минимальным вмешательством человека.

Суверенный ИИ

Еще один крупный релиз от Amazon — AI Factories. Решение позволяет крупным корпорациям и государственным структурам развертывать ИИ-системы непосредственно в их дата-центрах.

«Клиенты предоставляют энергию и ЦОД, а AWS устанавливает ИИ-систему, управляет ею и может подключить к другим облачным сервисам компании», — заявила фирма.

Идея заключается в том, чтобы удовлетворить потребности корпораций и правительств, которые заинтересованы в абсолютном контроле над своими данными.

Напомним, в ноябре Amazon потребовала от Perplexity удалить браузер со встроенным ИИ-агентом из своего интернет-магазина.