Загальний штучний інтелект (AGI): апогей розвитку ШІ?
Інтелект — доволі складне поняття, що потребує вивчення глибших філософських, психологічних і наукових концепцій. Та спершу зупинімося на простішому визначенні з Кембриджського словника, за яким інтелект — це здатність навчатися, розуміти та виносити судження або формувати думку на основі розуму. Але як у це поняття вписується комп'ютерний інтелект?
Протягом століть інтелект асоціювався виключно з людством. Саме homo sapiens (людина розумна) завжди були в авангарді соціальних і технологічних інновацій. Ми рухали світ уперед, прагнучи нових ідеалів і глибшого розуміння Всесвіту. Однак стрімкий розвиток технологій і постійне вдосконалення ШІ-моделей може призвести до появи нової форми інтелекту — загального ШІ (AGI). Якщо ж ці розробки матимуть успіх, нова технологія кардинально змінить наш світ.
Що таке AGI?
Загальний ШІ, також відомий як сильний штучний інтелект (AGI), є теоретичною концепцією створення складного програмного забезпечення, яке імітуватиме когнітивні здібності людського мозку, такі як логічні міркування, критичне мислення, здатність до навчання та інші функції розуму. Відмінною рисою такого програмного забезпечення є його здатність функціонувати поза рамками заздалегідь заданого коду. Це дасть йому змогу самостійно міркувати й ухвалювати автономні рішення, на відміну від наявних ШІ-моделей, які працюють за принципом введення і виведення даних. Наявний ШІ, також відомий як вузький або прикладний штучний інтелект, чудово справляється з конкретними завданнями й нерідко перевершує людину за швидкістю і якістю їх виконання. Проте його можливості обмежені. Він не справляється із завданнями, що вимагають роздумів і автономного мислення, оскільки не може вийти за рамки запрограмованих обмежень і знань. Однак передбачається, що AGI зможе розуміти та вчитися, подібно до людини. Девід Дойч, британський фізик-теоретик, професор Центру квантових обчислень Оксфордського університету, підкреслює відмінність між цими технологіями: «AI не має нічого спільного з AGI. Це абсолютно різні технології, і багато в чому AI є прямою протилежністю AGI».
З розвитком комп'ютерних наук і нейронаук, а також участю провідних дослідницьких лабораторій, таких техгігантів як Google DeepMind, OpenAI, Amazon і Meta, у перегонах за AGI, ідея створення цифрового інтелекту, подібного до людського, стає дедалі реалістичнішою.
Гра в шахи
Щоб краще зрозуміти різницю між вузьким/слабким штучним інтелектом і загальним/сильним штучним інтелектом, варто проаналізувати підхід цих двох технологій до гри в шахи. У 1997 році світ приголомшила перемога суперкомп'ютера Deep Blue, розробленого компанією IBM, над Гаррі Каспаровим, тодішнім чемпіоном світу з шахів.
Існує понад 9 млн можливих позицій після трьох ходів з кожного боку. Після чотирьох ходів їхня кількість становить понад 288 млрд. Кількість ігор у 40 ходів вища за кількість електронів у видимому нами Всесвіті. Але не обов'язково знати всі результати. Потрібно лише бачити далі, ніж бачить твій супротивник,— стверджує Еліот Алдерсон в одному з епізодів серіалу Пан Робот.
Але якщо і цього недостатньо, розгляньмо наступний кейс. Майже через 20 років після релізу Deep Blue дослідницька лабораторія DeepMind розробила ШІ-програму AlphaGo, яка перемогла чемпіона світу зі стародавньої східноазійської настільної гри Го в 4 партіях із 5. На відміну від шахів, у грі Го вже після трьох ходів існує близько 200 квадрильйонів різних позицій. Однак попри ці приголомшливі досягнення, що демонструють здатність комп'ютерів моделювати та навіть перевершувати людське мислення, вони всього лише прораховують свої ходи. Безумовно, AGI теж здатний ретельно продумувати свої кроки для перемоги в шахах або Го. Але на відміну від вузького штучного інтелекту, ШІ загального призначення теоретично може обрати іншу стратегію. Наприклад, у шахах AGI може зосередитися на розвитку гри, а не на якнайшвидшому шляху до перемоги, зробивши партію цікавішою і захопливішою. У своєму есе «За межею нагороди та покарання» Девід Дойч припускає, що загальний штучний інтелект може не просто грати, а й щиро насолоджуватися грою в шахи, демонструючи рівень взаємодії та розуміння, який можна порівняти з людським досвідом.
AGI може отримувати задоволення від гри в шахи та вдосконалюватися завдяки своєму захопленню грою. Він може прагнути до перемоги, використовуючи незвичайне розміщення фігур на дошці, як це іноді роблять гросмейстери. Або переносити ідеї зі своїх інших захоплень у шахи. Іншими словами, він вчиться і грає, розмірковуючи так, як це заборонено шаховим ШІ. А потім, якщо йому загрожуватиме покарання, він може або підкоритися, або збунтуватися,— зазначає Девід Дойч.
Перегони за AGI: технологічні гіганти та перешкоди
Після того як OpenAI представила чат-бот ChatGPT, інші компанії почали розробляти свої власні ШІ-продукти. Це буквально перевернуло всі сфери економічної діяльності та суспільного життя. Технології продовжують стрімко розвиватися, і, за даними Statista, до 2030 року світовий ринок ШІ зросте до $1,8 трлн. Провідні гравці індустрії, як-от генеральний директор NVidia Дженсен Хуанг, неодноразово заявляли, що ті, хто відмовиться від використання ШІ, поступляться своїми робочими місцями тим, хто освоїть нові технології. У другому кварталі 2024 року дохід NVIDIA склав $22,1 млрд, що на 262% більше порівняно з аналогічним періодом минулого року. 18 червня 2024 року виробник ШІ-чипів став найдорожчою публічною компанією у світі, обігнавши багаторічних лідерів Microsoft і Apple, а його ринкова капіталізація перевищила $3 трлн. В інтерв'ю Ендрю Россу Соркіну з New York Times Хуанг заявив, що ШІ зможе пройти будь-який тест на людяність у найближчі 5 років. Однак поки що не відомо, чи буде ця технологія вважатися AGI. Варто зазначити, що Дженсен не єдиний, хто пророкує швидку появу загального штучного інтелекту. На думку гендиректора OpenAI Сема Альтмана, технологія з'явиться до кінця поточного десятиліття, якщо не раніше. Він вважає, що за розумом AGI буде на рівні середньостатистичної людини, яка цілком може бути вашим колегою. Але для цього загальний ШІ повинен володіти метанавичками, що дозволять йому вчитися і вдосконалюватися в будь-якій обраній сфері.
У лютому 2023 року компанія OpenAI опублікувала заяву, повідомивши, що працює над створенням AGI, який «принесе користь усьому людству».
Якщо нам вдасться створити AGI, ця технологія зможе підняти людство на новий рівень, збільшивши достаток, прискоривши розвиток глобальної економіки та сприяючи відкриттю нових наукових знань, що розширять наші межі можливостей,— повідомляється на сайті компанії.
OpenAI також усвідомлює, що ця нова технологія може принести певні ризики та потрясіння для світу. Однак в компанії вірять, що цього можна уникнути, якщо розробники AGI зможуть зробити все правильно.
Це підводить нас до непростої теми синтетичного інтелекту і тих, хто дотримується більш обережного підходу. Нещодавно було опубліковано відкритий лист, який підписали нинішні та колишні співробітники OpenAI, Google DeepMind і Anthropic. У листі порушуються питання про ризики та небезпеки автономних ШІ-систем. Також підкреслюється, що провідні компанії в галузі ШІ мають бути відкритими для критики без загрози репресій для співробітників і забезпечувати прозорість під час розроблення цих нових технологій. Глава компаній Tesla і SpaceX Ілон Маск також неодноразово попереджав про небезпеки безвідповідальної розробки AGI. Свого часу він навіть ініціював судовий позов проти OpenAI, який пізніше несподівано відкликав. Попри публічні розбіжності з OpenAI та критику їхнього підходу, Маск не виступає проти самої технології. Він сам неодноразово заявляв останніми роками, що Tesla — це компанія, що займається штучним інтелектом і робототехнікою. До того ж він є засновником ШІ-стартапу xAI, який, згідно із заявами на сайті, прагне використовувати технологію, щоб прискорити наукові відкриття людини і розібратися в істинній природі Всесвіту.
Британсько-канадський учений у галузі когнітивної психології та інформатики Джеффрі Хінтон, чиї роботи з глибокого навчання і нейронних мереж сприяли розвитку штучного інтелекту, звільнився з компанії Google через побоювання, що ШІ може становити небезпеку для людства. Хінтон вважає, що мегакорпорації в гонитві за машинним інтелектом ігноруватимуть найважливіші правила і питання безпеки. Мустафа Сулейман, співзасновник DeepMind і нинішній генеральний директор Microsoft AI, також висловив занепокоєння з приводу ризиків, пов'язаних зі швидким розвитком ШІ. Сулейман виступає за стратегію стримування, яка передбачає співпрацю між ключовими гравцями індустрії, урядами та суспільством загалом.
У грі відхилення андроїдів спочатку вважалися помилками в коді, але ці девіанти насправді здобули самосвідомість і автономію, повставши проти свого програмування, щоб проявити свободу волі. З розвитком сюжету кожен андроїд виходить за рамки своєї початкової програми, демонструючи поведінку, схожу на AGI.
Наразі складно відповісти, чи можливо це реалізувати. В умовах капіталістичного ринку компанії постійно змагаються за першість у цій галузі. Щомісяця Google, Microsoft, OpenAI, Nvidia і Meta випускають нові ШІ-застосунки, функції та генеративні моделі, прагнучи стати кращими. Такий поспіх призводить до створення дефектних ШІ, порушення авторських прав, галюцинацій штучного інтелекту, дипфейків, дезінформації, збільшення кількості низькоякісного контенту, хибних результатів пошукових систем, складних ботів і дуже токсичних, а не продуктивних розмов. Попри всі позитивні ефекти ШІ, як-от рання діагностика раку, чи не повинні ми спочатку розв'язати ці проблеми, перш ніж переходити до наступного етапу розвитку технології — AGI?
Технології майбутнього зі світу наукової фантастики
Письменники-фантасти та творці фантастичних фільмів часто напрочуд точно передбачають майбутні розробки. Вигадані технології часто стають реальністю через роки. У фільмі Стівена Спілберга «Особлива думка» було використано таргетовану рекламу, і, за словами художника-постановника Алекса Макдауелла, понад 100 патентів було видано на ідеї, вперше представлені в цьому фільмі. Фільм Рідлі Скотта «Той, хто біжить по лезу» передбачив сканування сітківки та відеодзвінки, а голосовий ШІ-помічник з фільму Спайка Джонза «Вона» вже майже став реальністю після недавньої презентації голосової функції GPT-4o від OpenAI. Однак для ілюстрації тонкої межі між вузьким і загальним штучним інтелектом найкраще підходить відеогра Detroit: Become Human, розроблена французькою студією Quantic Dream. Ця пригодницька гра розповідає історії трьох андроїдів: Коннора, Кари та Маркуса. На відміну від роботів, створених для виконання певних завдань, андроїди у вигаданих світах імітують людську подобу й оснащені просунутим ШІ. Хоча в реальному житті ми ще не досягли цього рівня, індустрія робототехніки продовжує розвиватися. Цього року, наприклад, OpenAI оголосила про співпрацю з компанією Figure і намір інтегрувати ChatGPT у Figure 01 — першого у світі універсального робота-гуманоїда. Цей прогрес у реальному світі відображає можливе майбутнє, зображене в Detroit: Become Human. У грі андроїди стають масовим продуктом і використовуються людьми для повсякденних або спеціалізованих завдань, як це показано на прикладі головних героїв:
- Коннор — найпросунутіший андроїд, який використовує можливості ШІ для допомоги в проведенні поліцейських розслідувань у справах девіантів;
- Кара — андроїд-домробітниця, яка допомагає по господарству чоловікові та його доньці Алісі;
- Маркус — андроїд, який доглядає за літнім художником.
Коннор починає сумніватися в наказах і набуває почуття моралі, що змушує його ухвалювати рішення, виходячи з власних переконань, а не заданих алгоритмів.
Шлях Кари від слухняності до автономії проявляється в її рішенні захищати та піклуватися про дівчинку на ім'я Аліса, керуючись емоціями, що демонструє емпатичний бік ШІ.
Маркус перетворюється з опікуна на революціонера, виступаючи за права і свободу андроїдів та уособлюючи людську боротьбу за рівність і справедливість.
Їхній шлях до самосвідомості відображає суть AGI, коли штучні істоти набувають здатності вчитися, міркувати й ухвалювати самостійні рішення, що виходять за рамки їхнього початкового програмування. Цей перехід від простих інструментів до розумних істот демонструє проблеми та можливості розроблення справжніх систем AGI в реальному світі, порушуючи питання про автономність, етику, мораль і майбутнє взаємин людини та робота. У грі, коли андроїдів карають або погрожують їм, вони стають непокірними, демонструючи важливий аспект AGI — здатність чинити опір контролю і відстоювати свою автономію, що може становити загрозу для людей.
У своєму есе Девід Дойч стверджує, що процес створення AGI має повністю відрізнятися від будь-якого іншого завдання програмування. Не можна підходити до цього як до створення TOM (Totally Obedient Moron, «абсолютно слухняного тупака»), як це описується на курсах з основ ПК. Термін ТОМ позначає програми, включно зі ШІ, які не розуміють, що і чому вони роблять, оскільки їхні функції заздалегідь визначені.
Для AGI весь спектр ідей має бути відкритий,— стверджує Девід Дойч.
Дойч порівнює створення AGI з вихованням дитини. ШІ повинен мати можливість самовиражатися без оцінювання успішності та неуспішності його результатів. На думку Девіда, розробка AGI в рамках системи покарань і заохочень буде згубною для такої програми, так само як це шкодить творчому мисленню у людей. Як і дитина, зрештою, вона має отримати можливість обирати свій власний шлях. Цей перехід від запрограмованої поведінки до незалежного мислення відображає думку Дойча про те, що загальному штучному інтелекту потрібно надати можливість вільно досліджувати та розвиватися. Як це і сталося у вигаданому світі гри Detroit: Become Human, де андроїди досягають самосвідомості та автономії.
А як щодо надінтелекту?
Колишній співробітник OpenAI з відділу SuperAligment Леопольд Ашенбреннер нещодавно опублікував серію есе під назвою «Ситуаційна обізнаність: майбутнє десятиліття». За кілька місяців до публікації цього документа Ашенбреннера було звільнено з OpenAI за ймовірне розголошення секретної інформації.
Перегони за AGI почалися. Ми створюємо машини, які можуть думати та міркувати. До 2025-2026 років ці машини перевершать багатьох випускників коледжів. До кінця десятиліття вони будуть розумнішими, ніж ви або я; у нас буде надінтелект у справжньому сенсі цього слова,— пише Леопольд Ашенбреннер на початку своєї роботи.
За визначенням IBM, штучний надінтелект (ASI) — це теоретична концепція програмного забезпечення, яке перевершує людський інтелект. ASI матиме значно досконаліші здібності до мислення і навчання порівняно з людиною.
За словами глави OpenAI Сема Альтмана, Ашенбреннер вірить, що загальний штучний інтелект може з'явитися вже до 2027 року. Це означає, що такі моделі зможуть виконувати роботу дослідника/інженера в галузі ШІ. Ашенбреннер зазначає у своєму есе, що щойно ми досягнемо рівня AGI, створення системи штучного надінтелекту стане лише питанням часу. Якщо AGI почне самостійно автоматизувати процес дослідження ШІ, ми можемо зіткнутися з чимось немислимим.
Не встигнемо ми озирнутися, як у нас в руках з'явиться надінтелект — системи штучного інтелекту, набагато розумніші за людей, здатні на нову, творчу, складну поведінку, яку ми навіть не можемо зрозуміти —можливо, навіть невелика цивілізація, що складається з мільярдів таких систем. Їхні можливості будуть величезними. Застосування надінтелекту до досліджень і розробок в інших галузях призведе до вибухового прогресу не лише в машинному навчанні. Незабаром вони вирішать завдання в робототехніці, зроблять значні прориви в інших галузях науки та техніки за лічені роки, що призведе до промислової революції,— стверджує Леопольд Ашенбреннер.
Але не все так безхмарно. Як участь військових у розробці напівпровідників сприяла розвитку ранніх обчислювальних технологій, про що йдеться в книжці Кріса Міллера «Війна чипів: боротьба за найважливішу технологію у світі», так і надінтелект може зробити революцію у військовій сфері. ASI може стати найбільшою військовою суперсилою. Такий прорив створить значні ризики не тільки для потенційних супротивників, а й для глобальної стабільності загалом.
У разі стрімкого інтелектуального вибуху, ШІ-дослідник прогнозує такі зміни:
- Безмежні можливості ШІ: автоматизовані дослідження в галузі ШІ дадуть змогу усунути обмеження AGI й автоматизувати всю когнітивну діяльність.
- Подолання проблем робототехніки: автоматизовані дослідження в галузі ШІ усунуть проблеми машинного навчання, що призведе до створення повністю автономних заводів, керованих роботами.
- Науково-технічний прогрес: використання ASI дасть змогу прискорити НДДКР і досягти багатовікового прогресу людства всього за кілька років.
- Промисловий та економічний бум: стрімкий технологічний прогрес і автоматизація призведуть до безпрецедентного економічного зростання — потенційні темпи зростання ВВП становитимуть 30% і більше на рік.
Після інтелектуального вибуху ШІ значно перевершить людину. Джерело: https://situational-awareness.ai/
Леопольд Ашенбреннер також наводить економічні чинники, без яких це все буде неможливо. За даними Bloomberg, до 2032 року обсяг ринку генеративного ШІ сягне $1,3 трлн. Розроблення AI, AGI та ASI вимагає величезних ресурсів та інвестицій, причому енергетичні ресурси є основним обмеженням. Ашенбреннер також підкреслює, що ШІ-лабораторії гостро потребують супербезпеки на рівні національної оборони, особливо з огляду на випадки шпигунства, кібератак і зломів, як-от нещодавня крадіжка російськими хакерами електронних листів вищого керівництва Microsoft.
Розвиток ШІ-технологій стане ключовим чинником у визначенні глобальної позиції держави, впливаючи на її економічну силу, технологічне лідерство та геополітичний вплив. Дослідження технологічних викликів і виняткового потенціалу цієї гіпотетичної нової цивілізації ШІ ставить перед нами важливу дилему: чи варто нам прагнути до надконтролю або дозволити технологіям розвиватися автономно? Або ж поєднувати обидва підходи? І хто прийматиме остаточне рішення?
Подальший шлях
Оскільки поява загального штучного інтелекту залишається лише питанням часу, вкрай важливо відповідально підійти до його розробки. Необхідно вийти за рамки поточного програмування ШІ та сприяти розвитку справжнього автономного навчання і прийняття рішень. Шлях до AGI змушує нас переглянути розуміння інтелекту і свободи волі, припускаючи, що штучні істоти, як і люди, повинні мати можливість вільно досліджувати та розвиватися самостійно. Однак цей шлях також викликає серйозні побоювання з приводу безпеки. Неконтрольований розвиток AGI може призвести до непередбачуваних і потенційно катастрофічних наслідків, якщо ці системи вийдуть з-під нашого контролю або розуміння. Тому при створенні загального штучного інтелекту необхідно дотримуватися правил, які поєднують заохочення вільного дослідження і творчості із суворими заходами безпеки та етичними нормами. Це забезпечить розвиток інтелектуальних систем у безпечних і контрольованих умовах. Дотримуючись бачення Девіда Дойча про AGI як про вічного учня, ми повинні створювати умови, в яких ці системи зможуть розвиватися, адаптуватися і сприяти людським знанням і прогресу. Водночас важливо впроваджувати надійні заходи безпеки, щоб запобігти виходу штучного інтелекту з-під контролю.
Що ж станеться з появою надінтелекту? Це може не лише змінити технології, а й змусити нас переосмислити саме поняття людяності. Чи можемо ми уявити собі майбутнє, де наші творіння перевершать нас? Якою б не була відповідь, нам потрібно бути готовими до цього.
