OpenAI запустила версію чат-бота для підлітків

OpenAI представила спеціальну версію ChatGPT із батьківським контролем для користувачів молодше 18 років, щоб посилити заходи безпеки.

Якщо компанія визначить, що користувач є неповнолітнім, його автоматично перенаправлять на адаптовану версію чат-бота. У ній блокується графічний сексуальний контент. У разі виявлення кризової ситуації можуть бути залучені правоохоронні органи.

OpenAI працює над технологією, яка дозволить точніше визначати вік користувача. Якщо ж даних недостатньо або є сумніви, за замовчуванням запускатиметься дитячо-підліткова версія ChatGPT.

«Зробити це правильно непросто, і навіть найсучасніші системи іноді мають труднощі з визначенням віку. Якщо ми не впевнені або інформації бракує, ми оберемо безпечніший шлях і за замовчуванням активуємо підліткову версію ChatGPT — при цьому дорослим буде надана можливість підтвердити свій вік, щоб розблокувати всі функції», — йдеться у блозі.

Оновлення з’явилися після початку розслідування з боку Федеральної торгової комісії США щодо низки ШІ-стартапів. Регулятор хоче з’ясувати, як компанії оцінюють безпеку, способи монетизації цифрових асистентів та які заходи вони застосовують для зменшення ризиків для дітей і підлітків.

У серпні OpenAI поділилася планами усунути недоліки ChatGPT у роботі з «чутливими ситуаціями». Приводом став позов від сім’ї, яка звинуватила чат-бот у трагедії з їхнім сином.

У вересні стало відомо про намір компанії впровадити батьківський контроль і перенаправляти конфіденційні розмови на моделі розмірковування.

«Ми ставимо безпеку вище приватності та свободи для підлітків. Це нова і потужна технологія, і ми вважаємо, що неповнолітнім потрібен серйозний захист. Рішення непрості, але, порадившись із фахівцями, ми дійшли висновку, що так буде краще, і хочемо відкрито заявити про свої наміри», — написав CEO OpenAI Сем Альтман.

До кінця вересня у застосунку з’явиться батьківський контроль, який дозволить:

• зв’язати свій акаунт з акаунтом підлітка через запрошення на email;
• налаштовувати відповіді ChatGPT для дитини;
• керувати різними функціями, включно з пам’яттю та історією чатів;
• отримувати сповіщення, якщо система виявить у підлітка ознаки гострої кризи. У разі неможливості зв’язатися з батьками система може звернутися до правоохоронців;
• встановлювати час, коли дитина не зможе користуватися ChatGPT.

Нагадаємо, у липні OpenAI представила спеціальний навчальний режим у ChatGPT для студентів, який допомагає розв’язувати завдання покроково, а не просто отримувати готову відповідь.