GPT-4 vs людина: на кого зробили ставку в OpenAI?
Стрімкий розвиток AI водночас захоплює та лякає. Потенційно штучний надрозум надасть змогу подолати бідність та страждання. Але є побоювання, що через AI люди не лише розучаться думати, а й втратять свою людяність.
У 2015 році Ілон Маск разом із колишнім президентом бізнес-інкубатора Y Combinator Семом Альтманом та співзасновником платіжної компанії Stripe Грегом Брокманом заснували неприбуткову дослідницьку лабораторію OpenAI. Підприємці домовилися інвестувати $1 млрд у розвиток безпечних для людства систем штучного інтелекту. У 2018 році Маск вийшов з ради директорів OpenAI. Вже через рік привілейованим партнером лабораторії стала компанія Microsoft Білла Гейтса. Вона виділила OpenAI ще $1 млрд і стала власником ексклюзивної ліцензії на алгоритм генерації тексту GPT-3.
Сьогодні Інститут майбутнього життя, який здебільшого фінансується фондом Маска, збирає тисячу підписів із вимогою припинити розробку AI. А Сем Альтман і Білл Гейтс оприлюднюють найближчі перспективи розвитку GPT та штучного інтелекту у своїх публічних виступах.
Сем Альтман: зараз ми на порозі глибокої соціальної трансформації
Найімовірніше, вона відбудеться протягом наступних десятиріч. Тоді ми озирнемося й побачимо, що GPT-4, який зробив стільки галасу в березні 2023-го, був дуже примітивним, повільним та ненадійним. У своєму нещодавньому подкасті Сем Альтман порівнює GPT-4 з першими ПК, на подальшу розробку яких знадобилося кілька десятиріч. Але вони дали людству вектор розвитку і зрештою стали невіддільною частиною нашого життя.
В OpenAI вже непогано розібралися, як створювати свої великі попередньо навчені моделі. Тепер потрібно зрозуміти, як зробити AI придатним для використання, мудрим та етичним.
Компанія розвивається у відкритому доступі і вважає надзвичайно важливим забезпечити людей доступом до технології AI на ранній стадії. Це потрібно для того, щоб швидко визначати її негативні та позитивні ознаки, а ще безпосередньо впливати на процес її створення. Адже, як підкреслює Сем, мудрість і талант зовнішнього світу допомагають дізнатися про те, чого розробники ніколи б не навчилися самостійно.
Ми хочемо робити помилки, поки ставки ще не великі. Ми хочемо ставати кращими з кожним повторенням, — каже він.
У певному сенсі процес навчання GPT схожий на людське спілкування. Ми взаємодіємо, паралельно намагаючись з'ясувати, які слова використовувати, щоб краще порозумітися. Іноді виникає відчуття, що процес навчання GPT — це спосіб дізнатися більше про себе.
Альтман зізнається, що йому не подобається, коли машина починає робити йому зауваження. І вимагає, щоб система ставилася до користувача як до дорослого. Формат діалогу дає змогу чату GPT відповідати на додаткові запити, визнавати помилки, спростовувати хибні думки та відхиляти недоречні запити.
Але є відчуття, що він бореться з ідеями. Звичайно, завжди хочеться антропоморфізувати, — жартує Альтман.
Розробник розповідає, що створення GPT-4 було завершено минулого літа. Далі компанія пів року працювала над багатоступеневою перевіркою технології. Але можна вважати, що синхронізація AI з уявленнями та цінностями людей ще не почалася.
Що повинен відповісти GPT, якщо у нього запитають «Чи не товста я у цій сукні?» Адже на таке просте запитання можна по-різному відповісти. В ідеальному світі людство могло б зібратися та провести вдумливу дискусію щодо меж для GPT. Нехай ніхто не отримав би точно того, чого хотів. Але в результаті було б знайдено рішення, яке задовольнило б усіх. А вже в його межах можна створити національні версії правил для AI. Це занадто гарно звучить, щоб бути правдою. Але Сем сподівається, що згодом людство хоча б наблизиться до дискусії такого формату.
Водночас Альтман досить скептично ставиться до побоювань, що AI повністю витіснить людину з ринку праці. Він згадує, як Каспаров програв суперкомп'ютеру Deep Blue. Тоді багато хто казав, що більше ніхто не захоче грати у шахи. Який сенс, якщо AI все одно обіграє людину? Але, як говорить Сем, «ця кава надто смачна». Сьогодні шахи так само популярні. І нам зовсім не цікаво спостерігати, як два AI змагаються між собою, хоча їхню гру і можна назвати досконалою. Людей більше цікавить те, що роблять інші люди.
Альтман переконаний, що GPT-4 ще дуже далекий від AGI (Artificial General Intelligence). Система не є надрозумною, якщо вона не може відкрити чи винайти нову фундаментальну науку. Для цього розробникам потрібно буде розширити парадигму GPT у напрямах, для яких немає навіть концепцій.
Проте Сем з ентузіазмом дивиться у майбутнє. Там AI стане продовженням людини і найкориснішим інструментом з будь-коли створених. Можливо, OpenAI ніколи не розробить AGI. Він просто зробить людей супервеличними.
Білл Гейтс: AI зробить революцію в освіті та охороні здоров'я
У своєму блозі Білл Гейтс також згадує час перших ПК. Ринок ПЗ тоді був настільки малий, що всі розробники світу могли поміститися на одній сцені. Сьогодні це глобальна галузь, яка зосереджена на AI. Дні, коли для використання комп'ютера потрібно було друкувати C:> у командному рядку, скоро здаватимуться такими ж далекими, як і епоха до штучного інтелекту.
Гейтс припускає, що AI розвантажить медичних працівників і візьме не себе весь документообіг. У країнах, що розвиваються, штучний інтелект зробить медичні послуги доступними ширшому колу людей. Багато хто з них сьогодні просто не має змоги звернутися до лікаря.
AI допоможе не лише в діагностиці та веденні пацієнтів, а й прискорить темпи розвитку медичної науки. Наприклад, вже зібрано величезну кількість інформації щодо функціонування складних біологічних систем. І є програмне забезпечення, яке може аналізувати ці дані, шукати мішені для патогенів та створювати нові ліки, зокрема й від раку. Вже наступне покоління AI розраховуватиме дозування та прогнозуватиме побічні дії.
Білл Гейтс зазначає, що, попри великі очікування, комп'ютери суттєво не вплинули на жодний з показників успішності учнів. Можливо, у наступні 5-10 років AI вдасться докорінно змінити принципи викладання та навчання. Він зможе адаптувати матеріал, щоб зацікавити дитину, бо знатиме про її захоплення й таланти. Штучний інтелект об'єктивно оцінить ступінь опанування нової інформації, зрозуміє, коли учень втрачає цікавість до предмета, визначить, який стимул підійде краще за інші. А також надасть вичерпну інформацію та рекомендації щодо планування кар'єри.
Як і Сем Альтман, Білл Гейтс стверджує, що до створення AGI людству ще дуже далеко. На це може піти щонайменше десятиріччя.
Фізичний Всесвіт все ще поза межами контролю штучного інтелекту, — заспокоює Гейтс.
Але цей «сильний» AI, мабуть, зможе ставити свої власні цілі. Якими вони будуть? А що як вони суперечитимуть цілям людства? Чи маємо ми зупинити процес створення AGI? Гейтс визнає, що згодом ці запитання стануть актуальнішими.
На них вже має відповіді співзасновник компанії Solv Protocol Янь Мен (Yan Meng). Він вважає, що в гармонії з AGI люди зможуть жити лише за допомогою блокчейну. Фундаментальна проблема AGI полягає у тому, що його внутрішній механізм незрозумілий людям. Тому впливати на нього з надією домогтися безпеки безглуздо.
Блокчейн має іншу ціннісну перспективу, ніж AGI, але саме це й дасть змогу їм сформувати взаємодоповнювальні відносини. Згодом AGI відповідатиме за підвищення ефективності, а блокчейн — за підтримку справедливості. AGI підвищуватиме продуктивність, а блокчейн регулюватиме виробничі відносини. AGI розроблятиме передові технології, а блокчейн зв'яже його контрактом. Навіть після того, як AGI значною мірою замінить людський мозок, одним із небагатьох завдань, які людям доведеться розв'язувати, стане написання та перевірка смартконтрактів на блокчейні.
Якщо стисло, AGI нічим не обмежений, і блокчейн накладає на нього віжки, — резюмує Янь Мен.
А тим часом довкола AI швидко зростає ринок вакансій. Компанії готові платити промт-інженерам, які допомагають людині та AI краще розуміти одне одного, понад $335 тис. на рік.
