OpenAI заблокувала доступ продержавним хакерам до ChatGPT
Розробники компанії OpenAI припинили можливість використання своїх продуктів кіберзлочинцями, пов’язаними з урядами різних країн.
Спільно з Microsoft Threat Intelligence вони виявили та видалили п’ять акаунтів, що належать зловмисникам. Серед них:
- Пов’язані з урядом КНР хакери Charcoal Typhoon і Salmon Typhoon;
- Crimson Sandstorm (Іран);
- Emerald Sleet (КНДР);
- Forest Blizzard (РФ).
Під час розслідування встановлено, що Charcoal Typhoon за допомогою ШІ досліджували різні інструменти кібербезпеки, налагодження коду і створення контенту для фішингових кампаній.
Salmon Typhoon перекладали технічні документи, вивчали діяльність спецслужб і регіональних суб’єктів загроз, а також з’ясовували способи приховування шкідливих процесів у системі.
Crimson Sandstorm за допомогою ChatGPT створювали фішингові додатки та сайти.
Emerald Sleet, крім написання шкідливого коду, розшукували експертів і організації, що займаються питаннями оборони в Азіатсько-Тихоокеанському регіоні.
Forest Blizzard запитували інформацію про протоколи супутникового зв’язку і технології радіолокаційної візуалізації.
У результаті внутрішнього розслідування OpenAI з’ясували, що версія чат-бота GPT-4 пропонує лише обмежені можливості для виконання зловмисних завдань. Проте розробники мають намір покращувати безпеку своїх продуктів, вивчаючи реальний досвід їхнього використання в кіберзлочинній діяльності та запроваджуючи посилений моніторинг користувацької взаємодії з платформою.
Раніше ForkLog повідомляв, що OpenAI представила функцію «пам’яті» для ChatGPT.