Революція ШІ: шлях до суперінтелекту [частина I]

Останніми місяцями всі говорять про штучний інтелект (ШІ). Звичайно, ця тема вже давно обговорюється дослідниками та підприємцями, а розробники роками представляють все нові інновації в сегменті. Втім, справжнім геймченджером стала нейромережа ChatGPT від OpenAI. 

На тлі неймовірної популярності чат-боту корпорації розпочали серйозні перегони в розробці ШІ. Одночасно з розвитком технології все голоснішими стають побоювання про наслідки нашого прогресу в цій галузі — наслідки для людства. 

Дискусія не є новою. Протягом десятиліть вчені розмірковують, чим обернеться створення потужного ШІ. Але сьогодні, коли ми на всіх парах несемося до цієї мети, подібні прогнозування вже не мають здаватися лише теоретизуванням у наукових колах. Це вже відбувається.

Ще у 2015 році Тім Урбан у своєму блозі Wait But Why написав статтю The AI Revolution: The Road to Superintelligence, яка стала надзвичайно популярною. В ній він розібрав, як ми можемо прийти до створення надпотужного ШІ (декілька передбачень вже збулися), на що він буде здатний та яка вірогідність, що ми переживемо цей “тектонічний зсув” у розвитку технологій. 

ForkLog UA публікує адаптований переклад статті українською. У першій частині матеріалу розглянемо, чому ми недооцінюємо швидкість появи потужного ШІ та не боїмося цього (хоча, ймовірно, варто б).

“Ми стоїмо на порозі змін, які можна порівняти із зародженням людського життя на Землі”, – Вернор Віндж.

Як воно — знаходитись у цій точці?

Здається, стояти на порозі такого стрибку має бути досить хвилюючим відчуттям. Але слід памʼятати – якщо ви стоїте на часовому графіку, ви не бачите нічого праворуч. Ось так виглядає ця ситуація для вас:

Далеке майбутнє — вже не таке далеке

Уявіть собі, що ви переноситися на машині часу в 1750 рік. В епоху, коли у світі не було електромереж, а для звʼязку з кимось треба було або голосно кричати, або стріляти в повітря.

Отже, ви опинилися в 1750 році. Візьміть звідти пересічну людину та перенесіть її у 2015 рік. І спостерігаєте за реакцією.

Ми не можемо навіть уявити, як це — вперше побачити блискучі капсули, що мчать по шосе, спілкуватися з людьми, які раніше того ж дня були в іншій частині планети, дивитися спортивні змагання, що відбуваються за тисячі кілометрів… Це все ще до того, як ви покажете мешканцю 1750 року інтернет або розкажете про існування таких речей, як Міжнародна космічна станція, Великий адронний колайдер чи ядерна зброя.

Подібний досвід для цієї людини не був би просто несподіваним, шокуючим чи навіть приголомшливим — цих слів недостатньо. Вона могла б буквально померти від масштабу того, що побачила. 

Але ось що цікаво: ця ж людина повернулася додому і на тій же машині часу відправилася приблизно у 1500 рік, щоб перенести жителя тієї епохи у свою. Для останнього досвід був би геть інакшим — різниця між 1500 і 1750 роками набагато менша, ніж поміж 1750 до 2015 роками.

Звичайно, дещо у 1750 році здивувало би жителя минулого, але повсякденне життя точно не шокувало б його до смерті.

Щоб нашому знайому з XIX сторіччя було по-справжньому весело, йому потрібно було повернутися набагато далі — наприклад, аж до 12 000 року до н.е. До того, як перша сільськогосподарська революція породила перші міста і створила поштовх до концепції цивілізації. 

Для того, щоб людина з минулого перенеслася в майбутнє та померла від рівня шоку, вона має пройти так далеко, щоб суспільство досягло шокуючого рівня прогресу — die level of progress або Die Progress Unit (DPU).

Для мисливців і збирачів DPU займав понад 100 000 років, але в період після аграрної революції показник становив би лише близько 12 000 років. Світовий прогрес після індустріальної революції відбувався настільки швидко, що людині 1750 року потрібно було б перенестись вже лише на пару сотень років вперед для досягнення нової точки DPU.

Цю закономірність — людський прогрес рухається все швидше й швидше з плином часу — футуролог Рей Курцвейл називає «законом прискореної віддачі». Суть проста: більш розвинені суспільства прогресують швидше, ніж менш розвинені. На думку Курцвейла, ХХІ століття досягне прогресу, який у 1000 разів перевищить все ХХ століття.

З огляду на історію, це припущення логічне. І дуже багато чого зміниться сильніше, ніж ми інтуїтивно очікуємо. 

Ми думаємо, що історія лінійна. Коли ми уявляємо світ через 30 років, то орієнтуємося на прогрес попередніх тридцяти. Ми інтуїтивно мислимо лінійно, а повинні — експоненціально. Це означає, що для передбачення треба дивитися на поточну швидкість прогресу, а не на попередню. Коректніше в контексті роздумів про майбутнє уявляти, що світ розвивається набагато швидше, ніж зараз.

Якщо найрозвиненіший вид на планеті продовжуватиме робити все більші стрибки в своєму прогресі з усе більшою швидкістю, в якийсь момент ми стрибнемо так високо, що це повністю змінить наше життя та взагалі сутність поняття “людина”. 

Шлях до суперінтелекту

Що таке ШІ? Якщо ви схожі на мене, то раніше вважали штучний інтелект концепцією з наукової фантастики. Але зараз про нього говорять відусюди — з чого б це?

Існує три причини, через які багато людей не до кінця осягають, що таке ШІ:

1. Ми асоціюємо ШІ з фільмами. “Зоряні війни”, “Термінатор”. «Космічна одіссея 2001 року». Як і герої-роботи, ШІ там усього лише вигадка. Тому ми не дуже віримо в нього.
2. Безліч речей називають ШІ. Від калькулятора у вашому телефоні та безпілотних автомобілів до чогось у майбутньому, що може кардинально змінити світ. Це заплутує.
3. Ми постійно використовуємо ШІ у повсякденному житті, але часто не усвідомлюємо цього. Джон Маккарті, який ввів термін «штучний інтелект» у 1956 році, скаржився: «Як тільки ШІ починає працювати, ніхто його більше так не називає». Штучний інтелект здається багатьом більш схожим на міфічне передбачення майбутнього, ніж на реальність. 

Тож давайте розбиратися. По-перше, перестаньте думати про роботів. 

Робот — це контейнер для штучного інтелекту, який іноді імітує людську форму, іноді ні, але сам штучний інтелект — це комп’ютер усередині робота. ШІ — це мозок, а робот — його тіло (якщо воно в нього є). Наприклад: програмне забезпечення та дані, на яких базується Siri, є штучним інтелектом, а голос, який ми чуємо, є уособленням цього ШІ. Й жодного робота в цій системі взагалі немає.

По-друге, ви, мабуть, чули термін «сингулярність». Його застосовували у фізиці для опису нескінченно малої щільної чорної діри або точки, в яку ми всі потрапили прямо перед Великим вибухом.

У 1993 році Вернор Віндж написав знамените есе, де застосував термін “технологічна сингулярність” до моменту в майбутньому, коли інтелект наших технологій перевищить наш власний. У цей самий момент життя, яким ми його знаємо, зміниться назавжди, і звичні правила більше не працюватимуть. 

Штучний інтелект є широким поняттям, але ми будемо зупинимося на трьох основних категоріях ШІ-систем:

1. Обмежений або вузький ШІ (ANI): його іноді називають слабким. Це ШІ, який спеціалізується на одній галузі. Наприклад, є штучний інтелект, який може перемогти чемпіона світу з шахів, але це єдине, що він робить. Попросіть його знайти кращий спосіб зберігання даних на жорсткому диску — він нічого не зрозуміє.
2. Загальний ШІ (AGI): іноді називають сильним штучним інтелектом або штучним інтелектом на рівні людини. Професорка Лінда Готтфредсон описує інтелект як «дуже загальну розумову активність, яка включає здатність міркувати, планувати, вирішувати проблеми, мислити абстрактно, розуміти складні ідеї та швидко навчатися на досвіді». AGI зможе зробити все це так само легко, як і ви.
3. Штучний суперінтелект (ASI): провідний дослідник ШІ Нік Бостром визначає його як «інтелект, який набагато розумніший за найгеніальніших людей практично в усіх сферах, зокрема й у науці, творчості, загальному здоровому глузді та соціальних навичках». ASI варіюється від комп’ютера, який трохи розумніший за людину, до такого, що перевершує її в трильйони разів. 

Революція штучного інтелекту — це шлях від слабкого ШІ через загальний до суперінтелекту. Шлях, який ми можемо й не пережити, але він у будь-якому випадку змінить усе.

Першу фазу ми вже пройшли і наразі ANI оточує нас всюди — від карт у вашому телефоні до спам-фільтрів електронної пошти, від Google Translate до пошуковиків. Не кажучи вже про системи, які застосовують у виробництві, вузьких спеціальностях тощо.

Такий ШІ не особливо страшний. У гіршому випадку несправна або погано запрограмована ANI може спричинити ізольовану катастрофу, як-от виведення з ладу електромережі, спричинення несправності атомної електростанції або провокування колапсу на фінансових ринках.

Втім, хоча ANI не загрожує людському існуванню, ми повинні дивитися на нього як на передвісника урагану, що насувається. Можна сказати, що ANI-системи «схожі на амінокислоти в первісному бульйоні юної Землі».

Від обмеженого до загального ШІ

Ніщо так не допоможе вам оцінити людський інтелект, як спроба створити компʼютер настільки розумний, як ми. Будувати хмарочоси, відправляти людей у ​​космос, з’ясовувати деталі того, як стався Великий вибух — усе це набагато легше, ніж зрозуміти наш власний мозок або як створити щось таке ж круте, як він. 

Важкі речі, на кшталт обчислення, стратегій фінансового ринку та мовного перекладу, є неймовірно легкими для комп’ютера, тоді як базові для нас речі — наприклад, зір, рух, сприйняття — ні. Або, як висловився науковець Дональд Кнут: 

«Штучному інтелекту вже вдалося зробити практично все, що вимагає «думання», але не він не може зробити більшість того, що люди і тварини роблять, не замислюючись”.

Ті речі, які здаються нам легкими, насправді дуже складні. Вони видаються простими лише тому, що ці навички були оптимізовані в нас (і в більшості тварин) сотнями мільйонів років еволюції. Коли ви простягаєте руку до предмета, м’язи, сухожилля та кістки вашого плеча, ліктя та зап’ястка миттєво виконують довгу серію фізичних операцій у поєднанні з вашими очима, щоб дозволити вам точно рухати рукою. 

З іншого боку, множення великих чисел або гра в шахи є відносно новою діяльністю для біологічних створінь, тому комп’ютеру не потрібно надто багато працювати, щоб перемогти нас у цьому. 

Щоби бути розумним на рівні людини, компʼютер має розпізнавати речі на кшталт виразу обличчя, різницю між задоволенням, радістю, полегшенням та іншими емоціями та розуміти, чому один фільм є шедевром, а інший — прохідним. Як цього досягти?

Перший крок: збільшити обчислювальну потужність

Закон Мура свідчить, що максимальна обчислювальна потужність у світі подвоюється приблизно кожні два роки. Це означає, що розвиток комп’ютерного обладнання, як і загальний розвиток цивілізації, зростає експоненціально. 

Але сама по собі обчислювальна потужність не робить комп’ютер сильним ШІ. Наступне питання полягає в тому, як ми додамо інтелект людського рівня до всієї цієї потужності?

Другий крок: зробити його розумним

Це проблема. Правда в тому, що ніхто насправді не знає, як зробити компʼютер по-справжньому розумним. Але існує купа стратегій, і в якийсь момент одна з них спрацює. Ось три найпоширеніші з них:

1. Скопіювати мозок. Тут вчені думають ніби учні. Коли дитина, що сидить поруч з вами в класі, дуже вправно справляється з контрольними, а ви не можете досягти її результатів, попри всі спроби, врешті можна сказати: “До біса, я просто скопіюю її відповіді”. Це має сенс — ми намагаємось створити надпотужний комп’ютер, і випадково у кожного з нас в голові вже існує прототип такого.
   
   Науковий світ наполегливо намагається дізнатися, як працює наш мозок, щоб з’ясувати, як еволюція створила таку складну річ. За оптимістичних оцінок, ми зможемо досягти цього до 2030 року. 
   
   Як тільки ми дізнаємося всі секрети того, як мозок працює настільки потужно та ефективно, то зможемо застосувати ці знання для розвитку інновацій.
   
   Одним із прикладів комп’ютерної архітектури, яка імітує мозок, є штучна нейромережа. Вона базується на мережі таких собі транзисторних «нейронів», з’єднаних один з одним і здатних передавати вхідні та вихідні сигнали. Вона нічого не знає — як мозок немовляти. 
   
   Її «навчання» полягає в тому, що нейромережа намагається виконати певне завдання, скажімо, розпізнати рукописний текст. Спочатку її нейронні сигнали та подальші припущення щодо розшифровки кожної літери будуть абсолютно випадковими. Але коли завдання виконується правильно, звʼязки, що створили таку відповідь, зміцнюються, в протилежному разі — слабшають.  
   
   Мозок навчається приблизно так само, але більш складним способом. Продовжуючи його вивчати, ми відкриваємо нові методи покращення використання нейромереж.
   
   Можна також застосувати стратегію під назвою «емуляція цілого мозку». Її суть полягає в тому, щоб розділити справжній мозок на тонкі шари, відсканувати кожен із них, за допомогою програмного забезпечення зібрати точну реконструйовану 3D-модель, а потім реалізувати останню на потужному комп’ютері. 
   
   Якщо інженери справді докладуть зусиль, вони зможуть емулювати мозок з такою точністю, що індивідуальність та пам’ять залишаться незмінними після того, як його архітектуру завантажать на комп’ютер [“технологія завантаження свідомості” — ForkLog UA].
   
   Наскільки ми далекі від цього? Ну, поки що лише нещодавно ми змогли емулювати мозок плоского хробака довжиною 1 мм, який складається з усього 302 нейронів. Людський мозок містить 100 мільярдів. 
   
   Втім, слід памʼятати про силу експоненціального прогресу — тепер, коли ми досягли успіху з крихітним мозком черв’яка, незабаром це може бути мураха, за нею — миша, і раптом це вже не здається неправдоподібним.
   
2. Спробувати підлаштувати під себе еволюцію. Якщо результати контрольної роботи розумної дитини надто важко списати повністю, ми можемо спробувати скопіювати її методи навчання.
   
   Створити такий же потужний комп’ютер, як мозок, можливо. Доказом цього є еволюція нашого власного мозку. І якщо він сам занадто складний для емулювання, ми могли б спробувати емулювати еволюцію. 
   
   Отже, як ми можемо імітувати еволюцію для створення сильного ШІ? Метод під назвою «генетичний алгоритм» працював би приблизно так: знову і знову штучний інтелект виконував би завдання та отримував оцінку. Для біологічних істот такою оцінкою може виступати їх здатність розповсюдити якнаймога більше генів. 
   
   Група програм намагатиметься виконати завдання, а найуспішніші з них об’єднуватимуться одна з одною та передаватимуть половину свого коду наступним “поколінням”. Менш успішні будуть виключені. Протягом багатьох ітерацій цей процес відбору робив би все кращі програми. Завдання полягало б у створенні автоматизованого циклу оцінки та “схрещування”, щоб “еволюція” відбувалася самостійно.
   
   Проблема з копіюванням еволюції полягає в тому, що останній потрібні мільярди років для успіху, а ми хочемо зробити це за кілька десятиліть.
   
   Втім, у нас є багато переваг перед цим природнім процесом. По-перше, еволюція працює випадково — створює більше марних мутацій, ніж корисних. Ми ж будемо контролювати перебіг.
   
   По-друге, у еволюції, власне, немає конкретної мети, включно з розвитком інтелекту. Ми ж могли б сфокусуватися виключно на цьому.
   
   Безсумнівно, ми б зробили все набагато швидше за еволюцію, але досі неясно, чи зможемо ми настільки перевершити цей природній процес, щоб зробити цю стратегію життєздатною.
   
3. Зробити це проблемою комп’ютера. Якщо вчені впадуть у відчай, лишиться тільки запрограмувати систему на самовдосконалення. Але це може бути найперспективнішим методом з усіх.
   
   Ідея полягає в тому, що ми створимо комп’ютер, двома основними навичками якого будуть дослідження ШІ та внесення змін у власний код. Ми можемо зробити алгоритми “вченими”, головна робота яких — з’ясувати, як зробити себе розумнішими. 

Все це може статися незабаром. Одночасно відбуваються швидкий розвиток апаратного забезпечення та експерименти з ПЗ, і AGI може зʼявитися швидко й несподівано з двох причин:

• експоненціальне зростання є інтенсивним. Здається, що все розвивається зі швидкістю равлика, але насправді може стрімко мчати вгору;
• що стосується програмного забезпечення, прогрес може здаватися повільним, але одне відкриття здатне миттєво змінити все. Комп’ютер, який самовдосконалюється, може здаватися далеким від сильного ШІ, але насправді лише одне удосконалення системи відділяє нас від того, як вона стане в тисячу разів ефективнішою і перейде до інтелектуального рівня людини.

Загальний штучний інтелект вже тут: інтерв’ю із CEO Pheon Юрієм Фіцджеральдом

Від загального ШІ до суперінтелекту

У якийсь момент ми досягнемо AGI — систем з інтелектом людського рівня. Прекрасне майбутнє, люди та компʼютери живуть у злагоді та рівності.

О, насправді, зовсім ні.

Річ у тім, що загальний ШІ з ідентичним людському рівнем інтелекту все одно матиме значні переваги над людьми. А саме:

• швидкість. Максимальна частота нейронів мозку становить близько 200 Гц, тоді як мікропроцесори (які є набагато повільнішими за ті, що ми матимемо на момент створення AGI) працюють на 2 ГГц — в 10 мільйонів разів швидше, ніж наші нейрони; 
• розмір і памʼять. Мозок обмежений розміром нашого черепа. І він все одно не міг би стати набагато більшим, інакше сигнал зі швидкістю 120 м/с займе надто багато часу, щоб перейти від однієї структури мозку до іншої. Комп’ютери можуть бути будь-якого розміру, дозволяючи використовувати набагато більше апаратного забезпечення, набагато більшу оперативну і довгострокову пам’ять;
• надійність і довговічність. Справа не тільки в пам’яті комп’ютера, яка була б більш точною. Комп’ютерні транзистори точніші за біологічні нейрони, і вони менш схильні до псування (в разі чого, їх можна відремонтувати або замінити). Крім того, людський мозок легко втомлюється, тоді як комп’ютери можуть працювати безперервно з максимальною продуктивністю 24/7;
• оновлення. На відміну від людського мозку, комп’ютерне ПЗ можна легко виправляти та експерементувати з ним. Оновлення також можуть охопити ті області, де людський мозок слабкий; 
• колективна здатність. Людство перевершило всі види у здатності до колективної взаємодії. Починаючи з розвитку мови та формування великих спільнот, розвиваючись завдяки писемності та друкарству, а тепер й інтернету здатність жити в колективі є однією з головних причин нашого значного розвитку порівняно з іншими видами. Втім, комп’ютери будуть у цьому набагато кращі, ніж ми. “Всесвітня мережа штучного інтелекту” могла б регулярно синхронізуватися між собою — усе, що дізнався один комп’ютер, миттєво завантажувалося б на всі інші пристрої. Система також ефективніше вирішуватиме будь-які завдання, тому що не матиме різних позицій, мотивацій та особистих інтересів, як у людської популяції.

Для сильного ШІ «інтелект людського рівня» не становитиме якусь важливу віху — вона є такою з нашої точки зору. Він не матиме жодних причин зупинятися на нашому рівні. І враховуючи переваги перед нами, які ШІ матиме навіть на цьому етапі, цілком очевидно, що він пробуде на ступіні “розумний, як людина” недовго, перш ніж помчати далі до нових вершин.

Коли це станеться, ми можемо бути шоковані. Чому? По-перше, всі види, які нам відомі, ми вважаємо інтелектуально нижчими за нас. По-друге, розумні люди нам здаються НАБАГАТО розумнішими за дурних. 

Отже, коли ШІ розвивається до нашого рівня, ми сприймаємо це з позиції: “Він просто стає розумнішим”. Коли він добереться до найпростіших здатностей людського інтелекту, ми будемо казати: «Ого, це як людина, але тупенька. Мило!»

Але ми забуваємо, що у спектрі людського інтелекту ідіот та Ейнштейн знаходяться дуже недалеко. Тож одразу після досягнення ШІ найпростішого рівня та оголошення його сильним, він раптом стане розумнішим за генія.

І що станеться після цього?

Інтелектуальний вибух

Сподіваюся, вам сподобалась нормальна частина, тому що зараз тема виходить поза норми та стає лякаючою, і надалі такою й залишиться. Кожна річ у цій статті є реальними науковими прогнозами майбутнього від великої кількості найповажніших дослідників і вчених. Просто пам’ятайте про це.

Як вже казалося, більшість наших поточних моделей для досягнення сильного ШІ передбачають, що він стає таким шляхом самовдосконалення. Як тільки ми створимо AGI, навіть системи, які сформувалися за допомогою методів, що не передбачали цього, тепер будуть достатньо розумними, щоб розпочати покращувати себе, якщо “захочуть”.

І ось де ми підходимо до інтенсивної концепції: рекурсивного самовдосконалення. Це працює так.

Система ШІ на певному рівні запрограмована з метою покращення власного інтелекту. У міру того як вона стає щодалі розумнішою — скажімо, знаходиться на рівні Ейнштейна — їй легше робити більші стрибки в розвитку. Так рівень загального ШІ зростатиме до моменту, коли він раптом стане суперінтелектом. 

Це називають інтелектуальним вибухом (за Ірвінгом Джоном Гудом) і він є найкращим прикладом закону прискореної віддачі.

Існують різні думки стосовно того, як скоро штучний інтелект досягне людського рівня. Сотні опитаних вчених у середньому називали 2040 рік як дату створення сильного ШІ.

Важливо розуміти, що першій ШІ-системі потрібні десятиліття, щоб досягти низького рівня людського інтелекту, але вона це зробила. Комп’ютер здатний розуміти навколишній світ так само добре, як і чотирирічна людина. Втім, уявіть: раптом, протягом години після досягнення цієї віхи, система презентує грандіозну теорію фізики, яка об’єднує загальну теорію відносності та квантову механіку, чого жодна людина не змогла зробити. Через 90 хвилин після цього ШІ став у 170 000 разів розумнішим за людину.

Осягнути масштаб такого суперінтелекту для нас настільки ж малоймовірно, як пояснити джмелю ідеї кейнсіанства. У нашому світі бути розумним означає мати IQ близько 130, а не дуже — 85. У нас немає навіть слів, щоб осягнути IQ у 12 952.

Але що ми знаємо напевне з нашої ж власної історії — із інтелектом приходить могутність. Це означає, що суперінтелект, коли ми його створимо, стане найпотужнішою істотою на Землі, а всі живі створіння, включно з людьми, повністю залежатимуть від її примхи. І це може статися в найближчі кілька десятиліть.

Якби наші мізерні мізки змогли винайти Wi-Fi, тоді щось у сто, тисячу, або навіть мільярд разів розумніше за нас не матиме проблем з розрахунками розташування кожного атома у всесвіті. Все, що ми називаємо магією, будь-яка сила, якою ми наділяємо бога, для суперінтелекту буде такою ж повсякденною діяльністю, як включити світло для нас. 

Створити технологію для зупинення старіння, перемогти хвороби, голод і навіть смерть, перепрограмувати погоду, щоб захистити майбутнє життя на Землі, — усе це раптово стане цілком можливим. Як і негайне знищення всього живого на планеті.

Якщо суперінтелект зʼявиться — вважайте, тепер на Землі є всемогутній бог. І найважливіше для нас питання: чи буде він добрим?

Детальніше про це – читайте незабаром у другій частині матеріалу.