Anthropic звинуватила китайські ШІ-лабораторії у «крадіжці» даних

Компанія Anthropic звинувачує три китайські ШІ-стартапи — DeepSeek, Moonshot і MiniMax — у масштабній кампанії з використання Claude для покращення власних моделей.

Лабораторії з КНР згенерували понад 16 млн взаємодій із чатботом через приблизно 24 000 шахрайських акаунтів, порушивши умови використання та регіональні обмеження.

«Ми з високим ступенем упевненості пов’язали кожну кампанію з конкретною фірмою на основі кореляції IP-адрес, метаданих запитів, інфраструктурних ознак і підтверджень від партнерів в індустрії. Вони націлилися на найунікальніші можливості Claude: агентні міркування, використання інструментів і програмування», — заявили в Anthropic.

Фірми застосували дистиляцію — навчання менш потужної нейромережі на висновках сильнішої.

Це широко застосовуваний і легітимний метод. Провідні ШІ-лабораторії регулярно дистилюють власні моделі, щоб створювати їх компактні та дешевші версії для клієнтів.

«Втім, вона може застосовуватися і незаконно: конкуренти покращують можливості за рахунок чужих LLM за незначний час і витрати порівняно з самостійною розробкою», — йдеться в блозі Anthropic.

У компанії наголосили, що вікно для реагування на подібну «крадіжку» вузьке, а загроза виходить за межі однієї компанії чи регіону. Для її усунення потрібні швидкі та скоординовані дії з боку індустрії, регуляторів і світової ШІ-спільноти.

Чому це небезпечно

В Anthropic пояснили ризики такого підходу: незаконно дистильовані моделі не зберігають необхідні захисні механізми — це створює проблеми для національної безпеки.

Американські компанії впроваджують системи, що перешкоджають застосуванню штучного інтелекту для розробки біологічної зброї, шкідливих кібератак та інших небезпечних дій. Створені через незаконну дистиляцію моделі подібних обмежень не отримують.

Іноземні лабораторії можуть інтегрувати незахищені можливості у військові й розвідувальні системи, дозволяючи авторитарним урядам використовувати передовий ШІ для кібератак, дезінформації та масового стеження, додали в компанії.

Способи протидії

Експерти Anthropic підтримали експортні обмеження для збереження лідерства США у ШІ. На їхню думку, дистиляційні атаки підривають ці заходи, дозволяючи закордонним лабораторіям скорочувати технологічний розрив.

«Без прозорості таких атак швидкий прогрес китайських лабораторій помилково трактується як доказ неефективності експортних обмежень. На практиці їхні досягнення значною мірою залежать від вилучення можливостей американських моделей, а масштабування такого підходу потребує доступу до передових чипів», — йдеться в блозі компанії.

Anthropic назвала власні методи протидії:

• поліпшення системи виявлення патернів дистиляції;
• обмін технічними індикаторами з іншими лабораторіями та хмарними провайдерами;
• посилення верифікації освітніх та дослідницьких акаунтів;
• застосування контрзаходів, що знижують ефективність незаконної дистиляції.

Це не перше подібне звинувачення. У січні 2025 року невдовзі після гучного виходу DeepSeek-R1 компанію запідозрили у крадіжці даних в OpenAI.

Продовження протистояння з Пентагоном

CEO Anthropic Дарио Амодей зустрінеться з міністром оборони Пітом Хегсетом у Пентагоні для обговорення способів використання ШІ-моделей компанії військовими.

Останнім часом між сторонами виникли розбіжності — Anthropic виступає проти застосування штучного інтелекту для масового стеження за громадянами США та створення автономної зброї. У Міноборони чітко дали зрозуміти, що мають намір використовувати LLM «для всіх законних сценаріїв» без обмежень.

Дійшло до того, що в Пентагоні заявили про можливе розірвання договору з Anthropic.

ШІ-сканер вразливостей

Акції провідних публічних компаній у сфері кібербезпеки впали після запуску Anthropic інструмента Claude Code Security — це ШІ-сканер вразливостей у коді.

На сайті компанії йдеться, що новий сервіс «аналізує всю кодову базу на наявність вразливостей, перевіряє кожну знахідку для мінімізації хибних спрацювань і пропонує виправлення».

Claude проводить аналіз «як досвідчений дослідник безпеки»: розуміє контекст, відстежує потоки даних, виявляє вразливості.

За інформацією VentureBeat, Claude Opus 4.6 виявила понад 500 критичних вразливостей, які зберігалися десятиліттями, попри перевірки експертів.

П’ять найбільших за капіталізацією американських публічних компаній у галузі IT-безпеки продемонстрували двозначне зниження котирувань за останні п’ять днів на тлі появи ШІ-конкурента:

• Palo Alto Networks — -14%;
• CrowdStrike — -18%;
• Fortinet — -12%;
• Cloudflare — -18%;
• Zscaler — -19%.

Аналітики Wedbush заявили, що розпродаж паперів пов’язаний із побоюваннями навколо так званого AI Ghost Tr​ade. На їхню думку, реакція ринку помилкова, а Palo Alto, CrowdStrike і Zscale доведуть свою ефективність у 2026 році.

Нагадаємо, у лютому OpenAI спільно з Paradigm представила EVMbench — бенчмарк для оцінки здатності ШІ-агентів виявляти, виправляти та експлуатувати вразливості в смартконтрактах.