Глава Anthropic закликав ШІ-компанії перевіряти безпеку нейромереж
CEO Anthropic Даріо Амодеї закликав інші ШІ-компанії проводити обов’язкове тестування безпеки нейромереж перед їхнім публічним випуском. Про це пише Bloomberg.
«Я думаю, що ми повинні зробити тестування обов’язковим, але також важливо бути дуже обережними в тому, як це робити», — сказав він.
За словами глави ШІ-стартапу, існує низка добровільно прийнятих правил безпеки, з якими погодилися великі фірми. Однак необхідні більш чіткі стандарти.
«Немає нічого, що дало б змогу перевірити або переконатися в дотриманні правил з боку компанії. Вони просто сказали, що будуть це робити», — підкреслив він.
Амодеї додав, що стартапи пішли на дотримання низки стандартів під впливом громадськості та працівників, але в кінцевому підсумку цього виявиться недостатньо. Водночас вимоги до тестувань мають залишатися «гнучкими», щоб враховувати темпи зміни технологій.
У листопаді Anthropic відкрила свої ШІ-продукти розвідувальним і оборонним агентствам США. Раніше Meta пішла на аналогічний крок.
Нагадаємо, того самого місяця Амодеї заявив, що штучний інтелект досягне людського рівня 2026 року.