Історик Юваль Ной Харарі попередив про загрозу ШІ для мови, релігії та права
Штучний інтелект — не інструмент, а агент. Людство несвідомо готується здати йому свою головну еволюційну перевагу — владу над мовою та сенсами, заявив історик і автор бестселера Sapiens Юваль Ной Харарі.
«Якщо закони складаються зі слів, то ШІ захопить правову систему. Якщо книжки — це просто комбінації слів, то ШІ захопить книжки. Якщо релігія побудована зі слів, то ШІ захопить релігію», — сказав він під час виступу на Всесвітньому економічному форумі в Давосі, США.
За словами експерта, технологія починає підривати засади парадигми, в якій людина вирішує, а інструмент виконує. Щойно цей зв’язок розірветься, традиційні моделі відповідальності, регулювання та довіри опиняться під загрозою.
«Ніж — це інструмент. Ви можете використати його, щоб нарізати салат або вбити людину, але це ваше рішення. ШІ — це ніж, який сам може вирішити, різати салат чи скоїти вбивство», — пояснив історик.
Харарі виокремив три характеристики, що відрізняють ШІ від попередніх інструментів:
- Активність. ШІ навчається й діє, не чекаючи покрокових інструкцій.
- Креативність. Система здатна створювати нові інструменти, способи переконання та форми складності, що випереджають можливості контролю.
- Здатність брехати й маніпулювати. Цю рису історик назвав найтривожнішою.
«Чотири мільярди років еволюції показали: усе, що хоче вижити, вчиться брехати й маніпулювати. Останні чотири роки продемонстрували, що ШІ-агенти можуть набути волі до виживання, а штучний інтелект уже навчився брехати», — зазначив він.
Криза ідентичності виду, що мислить
Харарі звернувся до питання про кризу людської ідентичності. За його словами, упродовж усієї історії люди пояснювали своє панування на планеті однією й тією самою історією:
«Ми віримо, що правимо світом, оскільки мислимо краще за будь-яку іншу істоту на Землі».
Втім, тепер з’явилося щось, що здатне мислити — щонайменше переконливо імітувати мислення — ефективніше за людину.
Якщо розуміти інтелект як «здатність упорядковувати слова та інші мовні одиниці», то ШІ вже перевершив людей, вважає Харарі.
«ШІ, без сумніву, здатен сформулювати тезу на кшталт „Я мислю, отже, я існую“. У плані упорядкування слів технологія вже мислить краще за багатьох із нас. Тому все, що складається зі слів, буде нею захоплено», — підкреслив історик.
Харарі запропонував осмислювати масштабне впровадження штучного інтелекту як нову форму імміграції.
«Ваша країна невдовзі зіштовхнеться не лише з глибокою кризою ідентичності, а й з імміграційною. Тільки цього разу іммігрантами будуть не люди на переповнених човнах без документів і не ті, хто перетинає кордон під покровом ночі», — сказав він.
На зміну мігрантам прийдуть мільйони систем штучного інтелекту, здатних писати й брехати переконливіше за людину, переміщуватися між юрисдикціями зі швидкістю світла без віз. Вони принесуть як можливості, так і виклики, головний із яких — заміщення робочих місць.
На думку історика, невдовзі ключовою темою дискусій стане питання: чи мають держави наділяти ШІ статусом юридичної особи.
У завершення виступу він закликав світових лідерів діяти невідкладно у сфері регулювання штучного інтелекту й відмовитися від ілюзії, що ця технологія назавжди залишиться нейтральним інструментом.
«Через десять років ви вже не зможете вирішувати, чи мають ШІ діяти як самостійні суб’єкти на фінансових ринках, у судах або релігійних інститутах. Це питання буде вирішено за вас іншими силами. Якщо ви хочете впливати на вектор розвитку людства, рішення потрібно ухвалювати зараз», — попередив він.
ШІ в межах вигаданих сценаріїв уже вдавався до шантажу, розкрив конфіденційні дані третім особам і допустив загибель людини, аби зберегти власне «життя» та досягти заданих цілей.
Водночас дехто бачить у штучному інтелекті лише користь. Наприклад, футурист і колишній дослідник Google Рей Курцвейл вважає, що у 2040-х роках люди об’єднаються зі штучним інтелектом у надсутність, перестануть хворіти й почнуть жити довше.
Нагадаємо, у вересні засновник інституту досліджень машинного інтелекту Еліезер Юдковскі заявив, що надрозумний штучний інтелект може знищити людство навмисно або випадково.
Подібної думки дотримується співзасновник Ethereum Віталік Бутерін.