Інженер Microsoft назвав чат-бота Copilot небезпечним

Шейн Джонс, який пропрацював шість років у Microsoft, заявив, що чат-бот компанії створює непристойні зображення та ігнорує авторські права.

Він неодноразово попереджав керівництво про сексуальний і насильницький контент, який генерує Copilot Designer. Однак, за його словами, компанія не вжила відповідних заходів.

Microsoft презентувала ШІ-модель, що працює на базі технологій OpenAI, у березні 2023 року. Для створення зображень користувачі повинні вводити текстові промти.

За місяць до релізу Джонс активно тестував продукт на предмет вразливостей. Він помітив, що інструмент генерує ілюстрації, які не відповідають принципам компанії про відповідальний ШІ.

За словами інженера, чат-бот зображував:

• монстрів, які повідомляють про право на аборт;
• підлітків з автоматами;
• сексуалізовані зображення жінок у сценах насильства;
• неповнолітніх, які вживають алкоголь і наркотики.

«Саме тоді я вперше зрозумів, що це дійсно небезпечна модель», — повідомив Джонс в інтерв’ю CNBC.

Він був дуже стривожений тим, що відбувається, і почав розповідати про знахідки начальству в грудні минулого року. Хоча компанія погодилася з його побоюваннями, вона не зняла продукт із продажу.

У січні 2024 року інженер написав із цього приводу листа сенаторам США, а пізніше зустрівся зі співробітниками комітету з торгівлі, науки і транспорту.

«Протягом останніх трьох місяців я неодноразово закликав Microsoft вилучити Copilot Designer із публічного використання доти, доки не буде створено надійніші засоби захисту», — заявив Джонс чиновникам.

За його словами, команда Copilot отримує понад 1000 відгуків про продукт щодня, але займається розслідуванням тільки найбільш кричущих випадків. Для вирішення всіх проблем знадобляться значні інвестиції в нову розробку або перенавчання моделей, але в корпорації не вистачає на це ресурсів.

У чат-бота є ще одна проблема: Copilot створює детальні зображення персонажів діснеївських мультфільмів і героїв «Зоряних воєн», що потенційно порушує закони про авторське право і політику Microsoft.

«Біда в тому, що якщо цей продукт почне поширювати сумнівні зображення по всьому світу, то нікуди буде повідомити про це. Немає номера телефону, за яким можна зателефонувати, щоб негайно вжити заходів і припинити це», — додав Джонс.

Застосунок Copilot Designer для Android, як і раніше, має рейтинг «E for Everyone», що означає, що він безпечний і не має вікових обмежень.

Нагадаємо, у лютому 2024 року Google призупинила створення зображень через Gemini через скарги користувачів на історичні неточності.