xAI заборонила генерацію відвертих зображень у X через Grok

Стартап xAI Ілона Маска обмежив можливості Grok у соцмережі X. Після нещодавнього скандалу розробники вимкнули функцію генерації відвертих зображень реальних людей.

Компанія вживає заходів щодо видалення проблемного контенту, а також щодо користувачів, які порушують правила X. Вона повідомлятиме правоохоронним органам про тих, хто намагається шукати подібні матеріали.

«Ми впровадили технологічні заходи для запобігання можливості редагування в обліковому записі Grok зображень реальних людей у відвертому одязі, такому як бікіні. Обмеження поширюється на всіх користувачів, включно з власниками платної підписки», — йдеться в повідомленні.

Створення зображень і можливість їх редагування через обліковий запис Grok на платформі X тепер доступні лише преміум-користувачам. Завдяки цьому в xAI сподіваються притягнути до відповідальності осіб, які зловживають можливостями чат-бота.

Розробники назвали обмеження доповненням до чинних протоколів безпеки й анонсували впровадження додаткових механізмів захисту.

Черговий скандал

На початку січня Grok опинився в черговому скандалі через можливість створювати зображення оголених реальних людей і неповнолітніх.

Британська організація Internet Watch Foundation зазначила, що її аналітики виявили «кримінальні матеріали» дітей віком від 11 до 13 років, які, ймовірно, створені за допомогою Grok.

Маск повідомив, що йому невідомо жодного випадку використання чат-бота для створення зображень оголених неповнолітніх.

I not aware of any naked underage images generated by Grok. Literally zero.

Obviously, Grok does not spontaneously generate images, it does so only according to user requests.

When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) January 14, 2026

«Очевидно, Grok не генерує спонтанно. Він робить це за промптом користувача», — підкреслив підприємець.

За його словами, чат-бот відмовляється створювати незаконний контент. Водночас можливі випадки «ворожих зламів», які призводять до «неочікуваних результатів».

11 січня малайзійський регулятор розпорядився запровадити тимчасові обмеження після «неодноразових невдач X Corp» в усуненні ризиків, пов’язаних із ШІ-сервісом.

За день до цього Індонезія призупинила доступ до чат-бота через аналогічні побоювання і викликала представників компанії для обговорення питання.

Регулятори ЄС, Великої Британії, Бразилії та Індії вимагали розслідувати роль Grok у поширенні дипфейків.

Коаліція з 28 організацій у сфері захисту цифрових прав, прав жінок і дітей закликала керівників Apple і Google вжити заходів і видалити X та чат-бот зі магазинів застосунків.

Нагадаємо, у січні Grok інтегрують із мережею Пентагону поряд із генеративним ШІ-рушієм Google.