Малайзія та Індонезія заблокували Grok через генерацію порнографії

Малайзія та Індонезія обмежили доступ до чатбота Grok Ілона Маска через побоювання щодо використання інструмента для генерування сексуального контенту.

11 січня малайзійський регулятор розпорядився запровадити тимчасові обмеження після «неодноразових провалів X Corp» в усуненні ризиків, пов’язаних із сервісом ШІ.

За день до того Індонезія призупинила доступ до чатбота через аналогічні побоювання та викликала представників компанії для обговорення питання.

Жорстка реакція країн Південно-Східної Азії послідувала за повідомленнями про те, що Grok дозволяє створювати матеріали за участю неповнолітніх і генерувати порнографічні зображення.

У X заявили, що компанія усуває проблему. Як тимчасовий захід функцію генерування та редагування зображень залишили доступною лише для платних підписників.

Компанія Маска нещодавно оновила можливості Grok Imagine, спростивши створення зображень за допомогою промптів у чатботі. Підприємець своєю чергою пригрозив відповідальністю тим, хто використовує нейромережу в незаконних цілях.

Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає тих самих наслідків, як і у випадку завантаження незаконного контенту

— Elon Musk (@elonmusk) January 3, 2026

Цих заходів недостатньо

Регулятори Малайзії та Індонезії залишилися незадоволені вжитими кроками.

Малайзійська комісія з комунікацій і мультимедіа заявила, що дії «не враховують ризики, пов’язані з дизайном і функціонуванням інструмента ШІ».

«Обмеження вводиться як превентивний і співмірний захід на час проведення юридичних і нормативних процедур. Доступ до Grok залишатиметься обмеженим доти, доки не з’являться дієві запобіжники, зокрема для недопущення появи контенту, пов’язаного з жінками та дітьми», — заявив регулятор.

У Малайзії та Індонезії діють суворі закони проти порнографії, які забороняють широке розповсюдження такого контенту в інтернеті.

Міністр зв’язку і цифрових технологій Індонезії Мейтія Хафід заявила, що уряд розглядає створені без згоди сексуальні дипфейки як серйозне порушення прав людини, гідності та безпеки громадян у цифровому просторі.

Вона класифікує використання ШІ для створення фейкової порнографії як форму «цифрового насильства».

Масштабні наслідки

Регулятори ЄС, Великої Британії, Бразилії та Індії вимагають розслідувати роль Grok у поширенні дипфейків.

Британська організація Internet Watch Foundation зазначила, що її аналітики виявили «кримінальні зображення» дітей віком від 11 до 13 років, які, ймовірно, створені за допомогою Grok.

У Лондоні допустили крайні заходи: міністерка технологій Ліз Кендалл підтвердила, що підтримає рішення про блокування X, якщо платформа не дотримуватиметься норм безпеки. Американські законодавці також запропонували маркетплейсам видалити застосунок до усунення проблеми.

Влада різних країн у терміновому порядку вирішує, як регулювати ШІ, який використовують для «роздягання» людей на фото.

Не перший скандал

Раніше Grok неодноразово критикували за поширення фейків і сумнівної інформації.

У грудні чатбот надавав недостовірну інформацію про масову стрілянину на пляжі Бонді в Австралії. У відповідь на запитання про відео, на якому випадковий перехожий Ахмед аль-Ахмед боровся зі стрільцем, ШІ відповів так:

«Схоже, це старий вірусний ролик, на якому чоловік видирається на пальму на парковці, можливо, щоб підстригти її. У результаті гілка впала на пошкоджений автомобіль. Пошук за різними джерелами не дав підтверджених відомостей про місце, дату та травми. Можливо, це інсценування, автентичність не підтверджена».

У липні користувачі помітили, що нейромережа спирається на думку Ілона Маска під час формування відповідей. Це стосувалося зокрема теми конфлікту між Ізраїлем і Палестиною, абортів та імміграційного законодавства.

Спостереження дають підстави припускати, що чатбота навмисно налаштували враховувати політичні погляди Маска у відповідях на спірні питання.

Раніше мільярдер заявив, що його стартап перепише «всі людські знання» для навчання нової версії Grok, оскільки нині «занадто багато сміття в будь-якій базовій моделі, навченою на некоригованих даних».

Згодом з’явилася Grokipedia — заснована на базі штучного інтелекту онлайн-енциклопедія, «орієнтована на правду».

Нагадаємо, у листопаді користувачі звернули увагу на упередженість Grok 4.1 — нова модель істотно переоцінювала здібності Ілона Маска.