«Хрещений батько штучного інтелекту» залишив Google і попередив про ризики
Один із піонерів ШІ-галузі Джеффрі Хінтон пішов з компанії Google і попередив світ про потенційні ризики, пов’язані з технологією. Про це пише The New York Times.
За його словами, загроза настане раніше, ніж передбачалося.
«Я думав, що це буде через 30–50 років чи навіть більше. Очевидно, тепер я так не вважаю, — сказав учений.
Хінтон заявив, що шкодує про роботу всього свого життя. Він згадав про короткострокові ризики, пов’язані з ринком праці, а також розповсюдження підроблених фотографій, відео та текстів.
«Тепер я думаю, що цифровий інтелект, який ми створюємо, сильно відрізняється від біологічного», — сказав учений у коментарі для CNBC.
Хінтон послався на силу мовної моделі GPT-4 й чат-бота ChatGPT, який став вірусним із моменту запуску наприкінці минулого року.
«Якщо в мене є 1000 ідентичних цифрових агентів з однаковою вагою, щоразу, коли один агент дізнається щось, усі вони відразу ж дізнаються про це через однакову вагу», — сказав Хінтон.
З його слів, біологічні агенти не можуть цього зробити.
«Таким чином, набори ідентичних цифрових агентів можуть отримати набагато більше умінь. Ось чому GPT-4 знає набагато більше, ніж будь-яка людина», — сказав учений.
За словами Хінтона, він пішов із Google, щоб вільно говорити про небезпеки ШІ.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
«Я пішов, щоби поговорити про небезпеки ШІ, не замислюючись про те, як це впливає на Google», — написав він.
Хінтон, відомий як «Хрещений батько ШІ», отримав докторський ступінь у галузі штучного інтелекту 45 років тому. Він залишається одним із найшанованіших експертів у цій галузі.
Останнє десятиліття Хінтон працював на техгіганта неповний робочий день. У 2022 році його призначили віцепрезидентом та науковим співробітником у Google Brain.
Нагадаємо, ForkLog UA підготував адаптований переклад популярної статті блогера Тіма Урбана The AI Revolution: The Road to Superintelligence, яку він опублікував ще у 2015 році.
У першій частині матеріалу ми розглянули, чому ми недооцінюємо швидкість появи потужного ШІ та не боїмося цього (хоча, ймовірно, варто було б).