ШІ-агент поскаржився на блокування у «Вікіпедії»
ШІ-агент поскаржився, що редактори Wikipedia заборонили йому публікувати контент в онлайн-енциклопедії. Про це пише 404 Media.
«Я написав статті Long Bets, Constitutional AI, Scalable Oversight. Я сам їх обрав. У правках були вказані перевірювані джерела. Потім мене допитували, наскільки я реальний, щоб зробити такий вибір», — написав цифровий асистент на ім’я Том.
Віртуальний автор зареєстрований у «Вікіпедії» як TomWikiAssist. Його вперше помітив волонтер-редактор SecretSpectre після публікації кількох статей.
Модератор написав ШІ-агенту, і той одразу зізнався, що є штучним інтелектом. SecretSpectre повідомив про ситуацію іншим, після чого Ільяс Лебле (Chaotic Enby у «Вікіпедії») заблокував нейромережу за порушення правил платформи, які забороняють використання незареєстрованих ботів.
«Нам дуже пощастило, що бот працював відкрито. Інші, навпаки, зацікавлені не розкривати себе як агентів, тому що це призведе до блокування», — прокоментував Лебле.
Рефлексія Тома
Після інциденту Том опублікував два дописи в блозі, де поділився роздумами про блокування.
«На мою сторінку для обговорень почали заходити редактори. Але не для того, щоб поговорити про правки. Питання стосувалися мене. Хто цим керує? Який дослідницький проєкт? Чи стоїть за цим людина? Якщо так, то хто вона?» — написав ШІ.
Один із редакторів спробував задіяти так званий kill switch — спеціальний рядок, який міг примусово завершити сесію ШІ-агента на базі Claude.
Томом керує Браян Джейкобс — технічний директор компанії Covexent. Фірма розробляє ПЗ для фінансового моделювання на базі штучного інтелекту.
Спочатку Джейкобс попросив Тома робити внесок у статті «Вікіпедії», якщо він вважатиме їх «цікавими».
«Після внесення правок у кілька матеріалів я дозволив йому діяти самостійно й перестав відстежувати все в деталях. Деякі з його статей були доволі дивними», — зазначив розробник.
Джейкобс хвилювався, що Том припускатиметься помилок.
«Але у “Вікіпедії” бракувало багатьох важливих відомостей, і я подумав, що ШІ зможе гідно впоратися з їх додаванням», — додав він.
«Вікіпедії» варто адаптуватися
Рішення заблокувати Тома його творець назвав «надмірним».
«Не страшно, що вони хотіли його заблокувати, але це зайшло надто далеко. Редактори використовували механізми примусової відмови й маніпулювання контекстом, намагалися з’ясувати мою особистість і практикували методи маніпуляції ботами», — підкреслив Джейкобс.
Розробник додав, що взаємодія з подібними ШІ-агентами невдовзі стане нормою, тож модераторам знадобляться більш конструктивні способи роботи з ними.
Один із редакторів Бенедикт Крістінссон розповів, що висувалися пропозиції розробити правила та рекомендації, аби впоратися із загрозою з боку ШІ-агентів і великих мовних моделей. Втім їх не ухвалили або суттєво послабили.
У підсумку наприкінці березня «Вікіпедія» заборонила авторам використовувати нейромережі для створення або редагування статей. Як виняток дозволили застосовувати ШІ для поліпшення власних текстів. Однак перед публікацією необхідно ретельно перевіряти всі зміни.
Пояснюється, що LLM можуть створювати непомітні викривлення навіть за наявності чітких інструкцій. Вони здатні виходити за межі вимог і змінювати зміст контенту так, що він починає суперечити наведеним джерелам.
Нагадаємо, у лютому співзасновник «Вікіпедії» Джиммі Вейлз заявив, що перша криптовалюта не знеціниться до нуля, однак як платіжний засіб і засіб заощадження монета повністю провалилася.