Контент-модератори поскаржились на точність ШІ-систем

Штучний інтелект ускладнює роботу модераторів контенту замість того, щоб її спрощувати. Він не здатен надійно розпізнавати жорстокість і шкідливі матеріали, пише Bloomberg із посиланням на 13 професіоналів галузі.

Один із співробітників TikTok під псевдонімом Кевін розповів, що понад рік тому йому доручили користуватися ШІ-програмою у щоденній роботі. За його оцінками, рівень помилок сягає 70%. Наприклад, система може сигналізувати про низький рівень пального на панелі приладів у відео, тоді як головним елементом для аналізу є спідометр, що показує 200 км/год.

На його думку, попри всі недоліки, компанії й надалі замінюватимуть людей алгоритмами.

Модератори підтверджують: штучний інтелект впроваджується швидше, ніж встигає навчитися якісно фільтрувати небезпечний контент.

Фахівці попереджають про ризик появи інтернет-середовища під контролем ШІ, де вільно поширюватимуться мова ненависті, пропаганда, загрози дітям та інші небезпечні матеріали.

«Якщо впроваджувати ШІ з метою скоротити кількість спеціалістів із безпеки, це лише знизить рівень захисту. Потрібні живі люди», — наголосив техдиректор Канадського центру захисту дітей Ллойд Річардсон.

Робота модератора часто завдає емоційної шкоди, а найняти достатню кількість людей надзвичайно складно. Лише на YouTube користувачі щодня завантажують понад 20 млн відео. Компанії роблять ставку на штучний інтелект, але він радше заважає.

Із 13 опитаних Bloomberg модераторів 12 заявили, що їхня робота ускладнилася після інтеграції нейромереж.

Кевін пояснив, що значну частину часу витрачає на виправлення помилок ШІ, вручну виставляючи точні мітки для всього переглянутого. Це підвищує навантаження та забирає час, який можна було б спрямувати на важливіші завдання.

Він упевнений: його ретельні виправлення фактично навчають систему, яка згодом замінить його, навіть якщо керівництво про це прямо не говорить.

Нагадаємо, у травні 2024 року Reddit оголосила про партнерство з OpenAI, яке надало модераторам і користувачам нові функції на базі штучного інтелекту.