ШІ-підсумки конференції AWS: нове покоління нейромереж, чіпи та партнерства
- Amazon провела щорічну конференцію AWS re: Invent, на якій продемонструвала нове покоління нейромереж і повідомила про співпрацю з Anthropic і Apple.
- У рамках Amazon Nova представлено шість ШІ-моделей для роботи з текстом, відео та зображеннями.
- Amazon запланувала об’єднання сотень тисяч напівпровідників Trainium2 у кластери для навчання великих мовних моделей і оптимізацію дата-центрів.
- Фірма представила інструмент для боротьби з галюцинаціями штучного інтелекту.
На щорічній конференції AWS re: Invent компанія Amazon представила нове покоління ШІ-моделей Amazon Nova для широкого спектра завдань. Нейромережі здатні обробляти текст, зображення і відео.
🧠 Huge #AI news from #reInvent this morning. Meet Amazon Nova, our new generation of AI foundation models with state-of-the-art intelligence across a wide range of tasks and industry-leading price performance.
— Amazon (@amazon) December 4, 2024
Our four Amazon Nova understanding models deliver exceptional… https://t.co/zwCBOQezQQ
«[…] Наші нові моделі Amazon Nova покликані розв’язати проблеми внутрішніх і зовнішніх команд, забезпечуючи цікавий інтелект і генерацію контенту, а також значний прогрес у сфері затримки, економічності, персоналізації, інформаційного забезпечення та агентських можливостей», — прокоментував старший віцепрезидент ШІ-підрозділу в Amazon Рохіт Прасад.
У рамках Amazon Nova представлено шість нейромереж:
- Micro — текстова модель, забезпечує мінімальну затримку за низької вартості;
- Lite — недорога мультимодальна нейромережа, швидко обробляє зображення, відео і текст;
- Pro — високопродуктивний мультимодальний інструмент, пропонує «найкраще поєднання» точності, швидкості та вартості для широкого спектра завдань;
- Premier — найбільш здібна нейромережа для складних завдань і міркувань;
- Canvas — потужна модель для генерації зображень;
- Reel — створює відео.
Остання здатна згенерувати короткий ролик із зображення.
Micro має контекстне вікно зі 128 000 токенів, Lite і Pro — 300 000 токенів.
Моделі інтегровані в Amazon Bedrock — сервіс пропонує високопродуктивні ШІ-додатки від провідних компаній через єдиний API.
У 2025 році компанія планує представити дві додаткові моделі: для роботи з мовленням і універсальний мультимодальний інструмент.
Наприкінці листопада ЗМІ дізналися про новий генеративний ШІ від Amazon і додаткові інвестиції в Anthropic у розмірі $4 млрд.
Чипи Amazon для Anthropic і Apple
Amazon запланувала об’єднання сотень тисяч напівпровідників Trainium2 у кластери, які забезпечать Anthropic навчання великих мовних моделей. Це рішення в п’ять разів збільшить обчислювальну потужність стартапу, повідомила компанія на AWS re: Invent.
Фірма почала пропонувати чіпи 3 грудня. Новий кластер під назвою Project Rainier містить понад 100 000 мікропроцесорів, зазначив Гаді Хатт, який працює над цим напрямком.
Також Apple повідомила про використання ШІ-чіпів Amazon для своїх сервісів на кшталт пошуку та оцінку перспективи застосування нового процесора для навчання моделей Apple Intelligence.
«У нас склалися міцні стосунки, а інфраструктура надійна і здатна обслуговувати наших клієнтів по всьому світу», — заявив старший директор Apple з машинного навчання і штучного інтелекту Бенуа Дюпен.
За його словами, компанія з Купертіно використовує AWS понад десять років для різних сервісів на кшталт Siri, Apple Maps і Apple Music. Чипи Amazon призвели до підвищення ефективності на 40%.
Дюпен припустив, що Apple застосує Trainium2 для навчання Apple Intelligence. Компанія очікує зростання продуктивності на 50%.
Апдейт дата-центрів
На додаток до нових чіпів Amazon повідомила про низку рішень для підвищення ефективності роботи центрів обробки даних. Вони охоплюють поліпшену систему охолодження, використання дизельного пального для резервних генераторів і оптимізацію компонування серверної стійки.
Для роботи найпотужніших чипів передбачено рідинне охолодження, оскільки знизити температуру за допомогою одних тільки вентиляторів неможливо.
Компанія планує витратити $75 млрд на модернізацію.
Боротьба з галюцинаціями
На конференції AWS re: Invent хмарний підрозділ компанії анонсував запуск інструменту для боротьби з галюцинаціями штучного інтелекту — Automated Reasoning. Сервіс перевіряє відповіді нейромережі шляхом аналізу інших посилань на інформацію.
Інструмент схожий на функцію корекції від Microsoft, представлену у вересні. Google пропонує аналогічний інструмент у рамках платформи Vertex AI.
Automated Reasoning використовує «логічно точні» і «перевірені міркування», щоб дійти висновків.
Нагадаємо, в листопаді Binance повідомила про впровадження генеративного штучного інтелекту AWS у свої продукти.