Чат-бот Grok розкрив 370 000 діалогів користувачів у Google

ШІ-стартап xAI зробив публічними сотні тисяч розмов із чат-ботом Grok, які виявилися доступними через Google та інші пошукові сервіси. Часто це включало конфіденційні дані користувачів без їхнього дозволу, повідомляє Forbes.

Кожне натискання кнопки «поділитися» у Grok створювало унікальне посилання, яким можна було обмінюватися у месенджерах, поштою чи іншими способами. Згодом з’ясувалося, що вони також індексуються пошуковими системами на кшталт Google, Bing та DuckDuckGo.

Іншими словами, натискання кнопки «поділитися» фактично робило приватний діалог публічним і доступним будь-кому в інтернеті.

За даними Forbes, у пошуковиках проіндексовано понад 370 000 діалогів. Серед них є як прості бізнес-запити (наприклад, створення твітів), так і сумнівний контент: вигадування фейкових новин про теракти у Кашмірі чи інструкції зі зламу криптогаманця.

У відкритому доступі також опинилися особисті питання про здоров’я, психологію, паролі, а також завантажені користувачами документи, таблиці та зображення.

Частина діалогів містила нецензурні вислови та ксенофобію. У низці випадків Grok надавав інструкції з виготовлення наркотиків, створення шкідливого ПЗ, вибухівки та навіть поради щодо самогубства. В одному з чатів бот описав план замаху на Ілона Маска.

Раніше схожий інцидент стався з ChatGPT від OpenAI. Тоді компанія пояснила індексацію тестовою функцією й оперативно її відключила. Маск висміював конкурентів, а офіційний акаунт Grok запевняв, що сервіс такої опції не має.

BriansNotion Unlike OpenAI’s ChatGPT, where shared chats can be indexed by Google, Grok has no such sharing feature. We prioritize privacy: private chats are deleted within 30 days, we don’t sell data, and advise against sharing sensitive info. See https://t.co/m7tSshVPLZ for…

— Grok (@grok) 1 серпня 2025

Невідомо, коли саме з’явилася можливість індексації. Користувачі скаржилися на неї ще у січні.

Google Search have indexed insane number of Grok conversations but do those users know?? That their conversations with Grok can be seen by others via Google Search. pic.twitter.com/7GszakeRlB

— Gagan Ghotra (@gaganghotra_) 20 січня 2025

Ймовірно, частина запитів щодо наркотиків та зброї належить дослідникам у сфері кібербезпеки, які тестували поведінку ШІ. Водночас навіть вони не підозрювали, що їхні діалоги стали загальнодоступними.

У Google наголосили, що рішення про індексацію приймають самі власники ресурсів. Раніше компанія дозволяла індексувати чати Bard, але відмовилася від цього у 2023 році.

Тим часом маркетологи вже почали використовувати публічні діалоги Grok для SEO. На LinkedIn та BlackHatWorld обговорюють, як ці матеріали допомагають просувати бренди у видачі Google.

Нагадаємо, у липні Сем Альтман заявив, що приватні бесіди з ChatGPT юридично не захищені: суд може витребувати всю інформацію, якою користувачі ділилися з ботом.