Світові регулятори б’ють на сполох через нову ШІ-модель Anthropic
Фінансові регулятори Великої Британії проводять термінові перемовини з урядовим агентством з кібербезпеки та найбільшими банками. Сторони оцінюють ризики, пов’язані з новою ШІ-моделлю Anthropic, пише FT.
Представники Банку Англії, Управління з фінансового регулювання і нагляду та Міністерства фінансів обговорюють питання з Національним центром кібербезпеки. Вони планують спільно вивчити потенційні вразливості критично важливих ІТ‑систем, які виявила нейромережа.
Видання зазначає, що протягом найближчих двох тижнів найбільші фінансові установи, страхові компанії та біржі отримають інформацію про кіберризики, пов’язані з Claude Mythos.
Страхи перед ШІ
Нова нейромережа виявилася настільки потужною, що творці відмовилися від її публічного релізу. Натомість стартував Project Glasswing — ініціатива з тестування інструмента в контрольованому середовищі за участі AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia та Palo Alto Networks.
Підставою для занепокоєння стало те, що всього за кілька тижнів Mythos знайшла тисячі вразливостей нульового дня в основних операційних системах і веббраузерах.
Масштаб потенційної загрози змусив міністра фінансів США Скотта Бессента та голову ФРС Джерома Пауелла скликати екстрену нараду з керівниками Волл-стріт. Представники влади попередили топменеджерів, серед яких були голова Citigroup Джейн Фрейзер і CEO Goldman Sachs Девід Соломон, що запуск Mythos знаменує нову еру у сфері кібербезпеки.
Банк Канади та найбільші фінансові установи країни також провели зустріч для «оцінки системних ризиків, пов’язаних із появою настільки просунутої ШІ-моделі». Мета ініціативи — «підвищення операційної стійкості критично важливого фінансового сектору країни».
Роздмухування хайпу?
У TechCrunch звернули увагу, що обмеження доступу до Mythos може бути елементом маркетингової кампанії для привернення уваги до нової ШІ-моделі.
У березні голова профільного ШІ-стартапу Irregular Ден Лахав підкреслив: хоча автоматизований пошук вразливостей відіграє важливу роль, реальна користь від знайденої «діри» для хакерів залежить від безлічі чинників.
В Anthropic стверджують, що Mythos здатна ширше використовувати вразливості порівняно з Opus. Водночас поки незрозуміло, чи справді ця LLM є ідеальним рішенням для кіберзахисту.
Стартап Aisle повідомив, що зміг відтворити більшість досягнень Mythos за допомогою інших нейромереж. За словами представників фірми, не існує єдиної моделі для кібербезпеки — вибір інструмента завжди залежить від конкретного завдання.
Одна з причин, чому провідні ШІ-лабораторії можуть навмисно обмежувати релізи, — можливість укладати ексклюзивні контракти з великими підприємствами, паралельно ускладнюючи конкурентам копіювання інструментів шляхом дистиляції.
«Це маркетингова уловка, покликана приховати той факт, що топові моделі тепер доступні тільки за корпоративними угодами і більше не надаються невеликим лабораторіям для тестування», — відзначив CEO exe.dev Девід Кроушоу.
Він додав, що коли Mythos відкриють для всіх охочих, на ринку з’явиться нова передова LLM виключно для корпоративних клієнтів. Такий підхід дозволяє підтримувати приплив коштів і обмежувати компанії, які займаються дистиляцією алгоритмів.
Anthropic на передовій
За останні кілька місяців стартап Anthropic суттєво розширив свою аудиторію. Рішення компанії користуються великим попитом, а виручка експоненційно зростає.
Журналісти TechCrunch повідомили, що на конференції HumanX AI у Сан-Франциско тисячі фахівців зі ШІ обговорювали можливості технології, і Claude згадували найчастіше як один із найкращих продуктів на ринку.
Anthropic згадували на багатьох панельних сесіях. Водночас про ChatGPT майже не говорили. Один з експертів відзначив, що OpenAI «випала з гри».
Багато учасників конференції підкреслили, що компанія Сема Альтмана втратила чіткий вектор розвитку. Оливи до вогню підлила нещодавня стаття про голову стартапу — його описали як диктатора та ошуканця, який відмовився від первісної благородної місії.
Рано ховати OpenAI
Нещодавній аналіз фінансових показників OpenAI та Anthropic показав, що обидві компанії є «найшвидше зростаючими підприємствами в історії».
У цьому контексті «падіння» творіння Альтмана свідчить лише про те, що воно більше не є беззаперечним лідером. У фірми з’явилися конкуренти — це нормально для більшості галузей, відзначили в TechCrunch.
OpenAI явно не має наміру втрачати домінування. Компанія оголосила про новий тарифний план за $100, який надає ширший доступ до інструмента для програмування Codex.
Нагадаємо, у квітні Anthropic випустив середовище для запуску складних і тривалих агентних задач — Claude Managed Agents.