ЗМІ: Пентагон створив робочу групу для впровадження хакерських ШІ‑моделей
Кібервійськовий підрозділ Пентагону створив спеціальну робочу групу, щоб пришвидшити впровадження передових ШІ-інструментів з потужними хакерськими можливостями. Про це пише Politico з посиланням на джерела.
Ініціатива об’єднає представників Кіберкомандування з АНБ і займеться вивченням того, як Пентагон може безпечно впроваджувати провідні моделі в усі аспекти своєї діяльності.
Йдеться про оцінку можливостей використання нейромереж у системах «високого рівня», що містять одні з найсекретніших відомостей.
Ініціатива підкреслює занепокоєння Пентагону раптовою появою розроблених приватним сектором нейромереж, здатних виявляти вразливості в цифрових системах швидше, ніж найкращі хакери світу.
На тлі цих побоювань адміністрація Дональда Трампа готує указ щодо нагляду за ШІ у сфері кібербезпеки. Документ може запровадити добровільну схему взаємодії розробників ШІ з органами влади США.
За даними ЗМІ, компаніям пропонуватимуть передавати свої розробки уряду за 90 днів до публічного релізу. Ще одна пропозиція стосується раннього доступу для операторів критичної інфраструктури, зокрема банків.
Дискусія посилилася після виходу Mythos від Anthropic. У квітні компанія заявила, що прев’ю-версія моделі виявила тисячі вразливостей високого рівня небезпеки. Йшлося, зокрема, про основні операційні системи та браузери.
Замість публічного релізу компанія запустила Project Glasswing — ініціативу за участю AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia та Palo Alto Networks для тестування інструмента в захищених умовах.
У квітні стало відомо, що АНБ використовує Mythos, попри конфлікт стартапу з Пентагоном. Невідомо, як в агентстві застосовують ШІ компанії, але інші роблять це для сканування власних середовищ на наявність вразливостей.
Розбіжності між Anthropic і Пентагоном виникли через небажання компанії дозволяти застосування моделей ШІ для масового стеження за громадянами США та розробки автономної зброї. У результаті Трамп доручив усім федеральним відомствам протягом шести місяців повністю відмовитися від використання технологій компанії.
Нагадаємо, у травні армія США скликала провідних підрядників для інтеграції ШІ в озброєння.