OpenAI заблокувала доступ продержавним хакерам до ChatGPT

Розробники компанії OpenAI припинили можливість використання своїх продуктів кіберзлочинцями, пов’язаними з урядами різних країн.

Спільно з Microsoft Threat Intelligence вони виявили та видалили п’ять акаунтів, що належать зловмисникам. Серед них:

• Пов’язані з урядом КНР хакери Charcoal Typhoon і Salmon Typhoon;

• Crimson Sandstorm (Іран);

• Emerald Sleet (КНДР);

• Forest Blizzard (РФ).

Під час розслідування встановлено, що Charcoal Typhoon за допомогою ШІ досліджували різні інструменти кібербезпеки, налагодження коду і створення контенту для фішингових кампаній.

Salmon Typhoon перекладали технічні документи, вивчали діяльність спецслужб і регіональних суб’єктів загроз, а також з’ясовували способи приховування шкідливих процесів у системі.

Crimson Sandstorm за допомогою ChatGPT створювали фішингові додатки та сайти.

Emerald Sleet, крім написання шкідливого коду, розшукували експертів і організації, що займаються питаннями оборони в Азіатсько-Тихоокеанському регіоні.

Forest Blizzard запитували інформацію про протоколи супутникового зв’язку і технології радіолокаційної візуалізації.

У результаті внутрішнього розслідування OpenAI з’ясували, що версія чат-бота GPT-4 пропонує лише обмежені можливості для виконання зловмисних завдань. Проте розробники мають намір покращувати безпеку своїх продуктів, вивчаючи реальний досвід їхнього використання в кіберзлочинній діяльності та запроваджуючи посилений моніторинг користувацької взаємодії з платформою.

Раніше ForkLog повідомляв, що OpenAI представила функцію «пам’яті» для ChatGPT.