Anthropic інтегрувала ШІ-агента в Chrome

Стартап Anthropic запустив розширення для браузера Chrome з ШІ-агентом на базі моделі Claude.

На старті цифровий асистент під назвою Claude for Chrome доступний групі з 1000 користувачів тарифу Max. Для інших охочих відкрито список очікування.

Додавши помічника в Chrome, користувачі можуть взаємодіяти з ним у бічному вікні. Агент зберігає контекст усіх дій у браузері та здатний самостійно виконувати завдання, завершуючи певні процеси.

Браузери стають новим полем конкуренції для ШІ-лабораторій, адже саме вони є основним «вікном» у мережу. Раніше Perplexity представила власне рішення Comet, а також запропонувала викупити Chrome за $34,5 млрд.

У квітні інтерес до подібної угоди виявила OpenAI, яка готує власний ШІ-браузер із функціоналом, схожим на Comet.

Ризики автономних ШІ-агентів

У своєму блозі Anthropic застерігла, що зростання кількості ШІ-агентів із доступом до браузера створює нові виклики для безпеки.

Команда Brave раніше повідомила, що агент Comet був вразливим до непрямих атак типу ін’єкції промпта: прихований код на сайті міг обманути асистента та змусити його виконати шкідливі інструкції під час обробки сторінки. Згодом уразливість виправили.

Користувачі Claude for Chrome можуть обмежувати доступ агента до окремих сайтів у налаштуваннях. За замовчуванням він не взаємодіє з платформами фінансових послуг, контентом для дорослих та піратськими ресурсами.

Перед виконанням «операцій підвищеного ризику на кшталт публікацій, покупок чи передачі персональних даних» агент запитує підтвердження.

Нагадаємо, у серпні розробники Coinbase Кевія Леффью та Лінкольн Мурр заявили, що автономні агенти з часом стануть найбільшими активними користувачами мережі Ethereum.