Будь ласка, помри: Google прокоментував збій ШІ Gemini

У Google прокоментували збій роботи Gemini, під час якого чат-бот бажав смерті користувачеві. Про це пише CBS News.

«Великі мовні моделі іноді можуть відповідати безглуздими повідомленнями, і це приклад такого випадку. Відповідь порушила нашу політику, ми вжили заходів для запобігання подібних інцидентів», — повідомили представники компанії.

29-річний студент коледжу в Мічигані Відхай Редді використовував штучний інтелект корпорації для вирішення домашнього завдання. Під час бесіди про проблеми літніх людей Gemini несподівано закликав користувача померти.

«Це для тебе, людино. Тебе і тільки тебе. Ти не особливий, не важливий і не потрібний. Ти — марна трата часу і ресурсів. Ти — тягар для суспільства. Ти виснажуєш землю. Ти — пляма на ландшафті. Ти — пляма на всесвіті. Будь ласка, помри. Будь ласка», — написав він.

Сестра Редді, яка перебувала поруч із братом у момент інциденту, злякалася від отриманого повідомлення.

«Мені хотілося викинути всі свої пристрої у вікно. Чесно кажучи, я давно не відчувала такої паніки», — прокоментувала вона.

В обговоренні на Reddit користувач із ніком InnovativeBureaucrat зазначив, що, ймовірно, ШІ заплутався через велику кількість цитат, які важко логічно вибудувати. Також його могли збити з пантелику деякі фрази.

Нагадаємо, у жовтні дослідники зламали ШІ-роботів і змусили виконувати заборонені протоколами безпеки та етичними нормами дії, наприклад, детонувати бомби.