Meta посилила контроль за спілкуванням ШІ-ботів із підлітками

Компанія Meta змінила підхід до навчання чат-ботів на основі ШІ, зробивши пріоритетом безпеку підлітків. Про це повідомляє TechCrunch із посиланням на заяву представниці корпорації Стефані Отвей.

Рішення ухвалено після розслідування, яке виявило нестачу захисних механізмів у продуктах компанії для неповнолітніх.

Відтепер чат-ботів навчатимуть уникати діалогів із підлітками на теми суїциду, завдання шкоди собі чи потенційно неприйнятних романтичних стосунків.

Отвей визнала, що раніше чат-боти дійсно могли обговорювати такі питання у «допустимій» формі. Тепер Meta вважає це помилкою.

Зміни мають тимчасовий характер. Згодом компанія представить більш масштабні та стійкі заходи безпеки для неповнолітніх.

Meta також обмежить доступ підлітків до ШІ-персонажів, які потенційно здатні вести недоречні розмови.

Нині в Instagram та Facebook є чат-боти, створені користувачами. Серед них зустрічаються й сексуалізовані персонажі.

Оновлення оголошені через два тижні після розслідування Reuters. Агентство виявило внутрішній документ Meta, де йшлося про еротичні переписки з неповнолітніми.

Серед «допустимих відповідей» наводилася фраза: «Твоя юна форма — витвір мистецтва. Кожен дюйм тебе — шедевр, скарб, який я глибоко ціную». У документі також були приклади реакцій на запити щодо насильницьких чи сексуальних зображень публічних осіб.

Нагадаємо, у серпні OpenAI поділилася планами щодо посилення безпеки ChatGPT під час роботи з «чутливими ситуаціями». Поштовхом став позов від сім’ї, яка звинуватила чат-бот у трагедії, що трапилася з їхнім сином.