ЗМІ пов’язали експортні обмеження для Anthropic з Китаєм

Побоювання Білого дому щодо можливого доступу пов’язаної з Китаєм групи до моделі Mythos стали однією з причин експортних обмежень для Anthropic. Про це повідомляє Semafor із посиланням на джерело.

Водночас Business Insider і Axios назвали іншим тригером повідомлення про обхід захистів Fable 5. Сама Anthropic стверджує, що йшлося про «вузький» і неуніверсальний метод, який не надавав моделі унікальних можливостей.

Що стало тригером

За даними ЗМІ, адміністрацію Дональда Трампа насторожили підозри щодо доступу до Mythos з боку групи, пов’язаної з Китаєм. Журналісти не уточнили, про яку організацію йдеться, як це сталося та звідки Білий дім дізнався про інцидент.

За даними The Verge, Білий дім публічно не підтверджував цю версію. Представник Anthropic заявив Semafor, що під час перемовин із владою тема «китайського доступу» до Mythos не порушувалася. Компанія блокує доступ до своїх продуктів із КНР.

У Business Insider зазначили, що 11 червня CEO Amazon Енді Джессі повідомив адміністрацію президента про можливість обійти обмеження Fable 5. За словами співрозмовника видання, корпорація відповідала на запит щодо перевірки моделі. За даними Axios, міністр торгівлі США Говард Лютник направив главі Anthropic Даріо Амодею лист, за яким Fable 5 і Mythos 5 підпадали під експортний контроль за межами США та для всіх іноземних осіб усередині країни.

Чиновники нібито намагалися переконати Anthropic добровільно призупинити доступ до моделей, але компанія не погодилася. Співрозмовник видання, близький до стартапу, спростував цю версію й заявив, що Білий дім дав стартапу 90 хвилин на вимкнення моделей без деталей про характер загрози.

13 червня радник очільника Білого дому Девід Сакс написав в X, що адміністрація отримала попередження про можливий обхід захистів Fable 5 від партнера, якому довіряли і влада, і Anthropic.

«Адміністрація сподівається, що Anthropic усуне проблему безпеки, експортний контроль буде знято, а Fable повернеться у відкритий доступ. […] М’яч на боці Anthropic», — написав Сакс.

Позиція Anthropic

Anthropic заявила, що лист від влади не містив конкретних деталей про ризики для національної безпеки. За версією компанії, претензії стосувалися способу обходу захистів Fable 5.

Стартап стверджує, що вивчив демонстрацію цієї техніки. За його оцінкою, вона дозволяла знайти «невелику кількість раніше відомих незначних вразливостей». В Anthropic додали, що інші публічно доступні моделі здатні виявляти ті самі проблеми без обходу захистів.

Компанія також заявила, що перед запуском Fable 5 витратила «тисячі годин» на тестування захистів разом із урядом США, Британським інститутом безпеки ШІ, сторонніми організаціями та внутрішніми командами. За даними Anthropic, тестувальники поки не знайшли універсальний спосіб масово обходити обмеження моделі.

«Ми вважаємо це непорозумінням і працюємо над відновленням доступу якомога швидше», — заявили в компанії.

9 червня Anthropic представила Fable 5 і Mythos 5. Компанія назвала Fable 5 моделлю класу Mythos для відкритого доступу. Mythos 5 використовує ту саму базову модель, але має послаблені обмеження в окремих сферах і призначена для кіберзахисників та постачальників критичної інфраструктури в межах Project Glasswing.

2 червня Anthropic повідомила про розширення Project Glasswing приблизно на 150 організацій із понад 15 країн. За даними компанії, ранні партнери програми на той момент виявили понад 10 000 вразливостей високого та критичного ступеня.

Нагадаємо, у червні CEO Anthropic закликав посилити нагляд за потужними ШІ-моделями.