Qualcomm представила ШІ-продукт AI Hub для роботи поза хмарою

На виставці MWC 2024 Qualcomm анонсувала новий інструмент AI Hub. Продукт спрощує доступ до нейромереж розробникам генеративного ШІ, які все частіше переносять роботу з хмари на пристрої.

AI Hub містить бібліотеку з більш ніж 75 генеративних ШІ-моделей. Користувачі можуть легко завантажувати їх у пристрої на базі Qualcomm. До набору постійно додаватимуть нові нейромережі.

«Qualcomm AI Hub надає розробникам велику бібліотеку для швидкої і простої інтеграції попередньо оптимізованих ШІ-моделей у свої додатки, що призводить до швидшого, надійнішого та індивідуальнішого користувацького досвіду», – повідомив старший віцепрезидент Qualcomm з технологічного планування Дурга Малладі.

AI Hub містить одні з найпопулярніших моделей у галузі, серед яких:

• Система автоматичного розпізнавання мови Whisper від OpenAI;
• модель перетворення тексту в зображення Stable DIffusion від Stability AI;
• чат-бот Llama від Meta.

Нейромережі доопрацьовані таким чином, щоб максимально ефективно використовувати всі ядра, що входять до складу Qualcomm AI Engine. За словами компанії, це дає змогу підвищити енергоефективність, знизити навантаження на пам’ять і збільшити швидкість обчислень у чотири рази.

Робота ШІ-моделей безпосередньо на пристрої підвищує рівень конфіденційності. Це особливо важливо при створенні моделей, що використовують бази даних з непублічними даними.

Нагадаємо, у листопаді 2022 року компанія Qualcomm представила Snapdragon 8 Gen 2 з виділеним ШІ-чипом.