У Каліфорнії чатботів зобов’яжуть інформувати користувачів про свою «штучність»
Губернатор Каліфорнії Ґевін Ньюсом підписав закон SB-243, що регулює зростаючу індустрію «ШІ-компаньйонів», повідомляє The Verge.
Сенатор штату Стів Паділья назвав цей документ «першим у країні законом про захист від AI-чатботів». Нове законодавство зобов’язує розробників чатботів впроваджувати заходи безпеки. Наприклад, якщо користувач може помилково вважати, що спілкується з людиною, чатбот має чітко повідомляти, що він є штучним інтелектом.
З наступного року деякі оператори чатботів-компаньйонів повинні будуть подавати щорічні звіти до Офісу профілактики самогубств про заходи, які вони впровадили для виявлення, видалення та реагування на прояви суїцидальних думок у користувачів. Ці дані будуть опубліковані на вебсайті Офісу.
«Нові технології, такі як чатботи та соціальні мережі, можуть надихати, навчати і об’єднувати людей, але без належних правил вони можуть експлуатувати, вводити в оману та загрожувати нашим дітям», — заявив Ньюсом під час підписання закону.
Він зазначив, що закон є частиною низки ініціатив, спрямованих на підвищення безпеки дітей в інтернеті, зокрема нових вимог щодо вікових обмежень на пристроях:
«Ми можемо залишатися лідерами в ШІ та технологіях, але робити це потрібно відповідально — захищаючи наших дітей на кожному кроці. Безпека дітей не продається».
Це рішення було ухвалене після того, як Ньюсом підписав SB-53, знаковий закон про прозорість ШІ, який викликав суперечки серед компаній і привернув увагу медіа протягом кількох місяців.
Нагадаємо, у серпні OpenAI оприлюднила плани з усунення недоліків ChatGPT у роботі з «чутливими ситуаціями».