Екс-CEO Google попередив про ризики ШІ для безпеки людини

Колишній голова Google Ерік Шмідт нагадав про суттєві ризики, пов’язані зі штучним інтелектом, і підкреслив його вразливість до зламів, повідомляє CNBC.

«Чи існує ймовірність, що поширення ШІ створює проблему? Безумовно. Ризики полягають у тому, що технології можуть потрапити до рук зловмисників, які використають їх зі шкідливою метою», — сказав він під час конференції Sifted Summit.

Експерт звернув увагу, що як відкриті, так і закриті моделі можна зламати та зняти з них обмеження безпеки.

«Під час навчання такі нейромережі дізнаються надзвичайно багато. Наприклад, як убити людину», — наголосив Шмідт.

За його словами, наразі не існує ефективного «режиму нерозповсюдження» — аналогічного до ядерного, який би допоміг стримати загрози, що походять від штучного інтелекту.

Попри тривожні застереження, колишній CEO Google висловив упевненість у величезному потенціалі технології, зазначивши, що її досі недооцінюють.

«Я написав дві книги разом із Генрі Кіссінджером ще до його смерті, і ми дійшли висновку, що поява “іншого” інтелекту — не зовсім людського, але частково під нашим контролем — це епохальна подія для людства. Люди звикли вважати себе на вершині еволюційного ланцюга. І, гадаю, поки що ця гіпотеза підтверджується: можливості цих систем з часом перевищать людські», — зазначив Шмідт.

Він додав, що серія GPT, кульмінацією якої став ChatGPT, наочно продемонструвала потужність і потенціал штучного інтелекту.

Його зауваження пролунали на тлі дискусій про можливу «бульбашку» на ринку ШІ. Шмідт відкинув таку ймовірність.

«Не думаю, що це станеться, хоча я й не професійний інвестор. Але знаю одне: люди, які вкладають свої гроші, переконані, що довгострокова економічна віддача буде величезною. Інакше навіщо їм ризикувати?» — підсумував він.

Нагадаємо, у серпні CEO OpenAI Сем Альтман заявив, що ринок штучного інтелекту перебуває у стані «бульбашки».