ШІ-агент OpenClaw вийшов з-під контролю і видалив пошту дослідниці Meta

Дослідниця з безпеки Meta AI Саммер Юе доручила ШІ-агенту OpenClaw розібрати її переповнену пошту та запропонувати, що варто видалити, а що відправити в архів. Натомість бот почав видаляти листи із блискавичною швидкістю.

Вона розповіла, що асистент ігнорував команди з телефону зупинитися.

«Мені довелося БІГТИ до свого Mac mini, наче я знешкоджую бомбу», — написала вона.

Юе додала скріншоти проігнорованих команд stop.

Mac mini — недорогий комп’ютер Apple — останнім часом став улюбленим пристроєм багатьох користувачів для запуску OpenClaw.

Користувачі X поставили питання: якщо дослідниця безпеки ШІ зіткнулася з такою проблемою, які шанси в пересічних людей? Її також спитали, чи тестувала вона захисні обмеження, чи припустилася помилки.

«Якщо чесно, це помилка новачка», — відповіла Юе.

Раніше співробітниця Meta тестувала агента на іншому обладнанні. Той заслужив її довіру, тож вона пустила помічника до справжньої пошти.

Заборона на криптовалюту

OpenClaw (раніше Clawdbot) — сервіс з відкритим вихідним кодом, що став популярним наприкінці січня. Він дозволяє створювати ШІ-агентів, які працюють локально на пристрої користувача.

У лютому стартап OpenAI запросив засновника OpenClaw Пітера Штайнбергера очолити напрям персональних ШІ-агентів. Паралельно підприємця звинуватили у відмові запускати токен проєкту.

В інтерв’ю Лексу Фрідману Штайнбергер розповів, як його атакували в криптоспільноті. У певний момент розробник збирався видалити проєкт.

Він не зацікавлений у випуску чи просуванні токена, однак користувачі активно до цього закликали. Люди створили цифровий актив і почали вимагати від Штайнбергера визнати його, отримувати комісії та займатися розвитком. Вони спамили в Discord і X.

У підсумку його звинуватили в тому, що він не «пампить» токен. Паралельно криптоскамери намагалися зламати GitHub розробника, а під час ребрендингу проєкту всі нікнейми швидко перехоплювали для просування нових цифрових активів.

Згодом творець OpenClaw заборонив будь-які згадки біткоїна чи криптовалют на Discord-сервері проєкту. Він заблокував одного з користувачів за порушення правила.

«У нас суворі правила сервера, з якими ви погодилися під час входу. Повна заборона на згадування криптовалют — одне з них», — написав розробник.

Він заявив, що саме цькування з боку криптоспільноти змусило його запровадити сувору модерацію. Деякі користувачі намагалися відмовити від такої жорсткої політики, але безуспішно.

Дехто з юзерів висловив думку, що криптовалюти — найкращий сценарій застосування для платежів серед ШІ-агентів на кшталт OpenClaw:

«Ви створюєте децентралізований проєкт з відкритим вихідним кодом на базі Visa?».

Нагадаємо, у січні експерти попередили про небезпеку використання ШІ-помічника Clawdbot. Він міг ненавмисно розкривати персональні дані та API-ключі.

Читайте ForkLog UA в соціальних мережах

Знайшли помилку в тексті? Виділіть її та натисніть CTRL+ENTER

Матеріали за темою

Ми використовуємо файли cookie для покращення якості роботи.

Користуючись сайтом, ви погоджуєтесь з Політикою приватності.

OK
Exit mobile version