Технології ШІ розвиваються з безпрецедентною швидкістю, тому питання контролю та вектора цього розвитку стає критично важливим. Творець Ethereum Віталік Бутерін пропонує альтернативний підхід до технооптимізму, заснований на принципах децентралізації та захисту.
У своєму черговому есе d/acc: one year later Віталік Бутерін розвиває ідею d/acc (децентралізованого / диференційованого прискорення) як спосіб гарантовано спрямувати технологічний прогрес у позитивне річище, мінімізуючи ризики, пов'язані з ШІ та іншими потенційно небезпечними для цивілізації технологіями. Замість бездумного і загального прискорення, d/acc робить акцент на вибірковому розвитку тих інновацій, які сприяють захисту і децентралізації влади.
Але історія довела, що централізована влада часто сама стає джерелом проблем. Так, помилка ВООЗ із надто пізнім офіційним визнанням щодо передавання вірусу COVID-19 повітряно-крапельним шляхом продемонструвала, як централізований контроль придушив ініціативу на місцях і, як наслідок, призвів до багатотисячних жертв, яких можна було уникнути. Крім того, Бутерін переконаний, що централізація завжди передбачає ризик зловживань владою.
D/acc у такому разі означав би:
Що таке d/acc
d/acc (децентралізоване / диференціальне прискорення) — це підхід до технологічного розвитку, за якого враховуються цивілізаційні ризики. d/acc прагне до створення більш безпечного та справедливого світу.
Щоб допомогти зрозуміти, у чому полягає унікальність цього підходу, Бутерін протиставляє d/acc трьом іншим можливим стратегіям:
- Звичайне децентралізоване прискорення
Прихильником цієї ідеї є, наприклад, співзасновник a16z Марк Андріссен, якого називають «технооптимістом».
У контексті ШІ такий підхід означає, що людство загалом може виявитися безсилим перед надрозумними машинами.
- Централізований контроль заради безпеки
Але історія довела, що централізована влада часто сама стає джерелом проблем. Так, помилка ВООЗ із надто пізнім офіційним визнанням щодо передавання вірусу COVID-19 повітряно-крапельним шляхом продемонструвала, як централізований контроль придушив ініціативу на місцях і, як наслідок, призвів до багатотисячних жертв, яких можна було уникнути. Крім того, Бутерін переконаний, що централізація завжди передбачає ризик зловживань владою.
- Уповільнення або зупинка прогресу
Віталік Бутерін наполягає, що найкраще зрозуміти принцип d/acc можна саме на прикладі боротьби з пандемією.
Змоделюймо ситуацію, коли світ, зіткнувшись із новим і ще небезпечнішим штамом COVID, пішов би одним із трьох описуваних шляхів:
- Неконтрольоване прискорення в цьому контексті означало б розроблення будь-яких ліків і вакцин якнайшвидше, без належної перевірки та врахування побічних дій. Це могло б призвести до створення неефективних або навіть небезпечних препаратів.
- Централізований контроль означав би, що всі рішення про лікування і профілактику ухвалює один центр (у нашому випадку — ВООЗ), без урахування місцевих особливостей і думки лікарів на місцях. Це напевно призвело б до помилок і затримок у наданні допомоги.
- Уповільнення прогресу означало б відмову від розроблення нових ліків і вакцин у принципі, що прирекло б людство на загибель (як, власне, і відбувалося кілька століть тому, коли епідемії викошували цілі континенти).
- Швидке розроблення вакцин і ліків, але з обов'язковою перевіркою безпеки та ефективності.
- Децентралізований обмін інформацією про хворобу, симптоми, методи лікування та результати досліджень.
- Відкритий доступ до інформації про вакцини та ліки, а також до технологій їхнього виробництва.
Ідея d/acc має багато спільного з боротьбою проти пандемії. Джерело: vitalik.eth.limo
Отже, підхід d/acc, як і ефективна боротьба з пандемією, дає змогу знаходити баланс між швидкістю, безпекою та децентралізацією. Він передбачає активне використання технологій для розв'язання проблем, але з урахуванням можливих ризиків і з опорою на розподілену мережу учасників.
Процвітання неможливе без захисту
Раніше Бутерін уже порушував тему позитивного бачення майбутнього в контексті d/acc, згадуючи створення ШІ як інструментів, а не автономних агентів, і прогресивні соціальні технології, як-от pol.is і ринки прогнозів. Однак тепер він підкреслює, що це не просто окремі ідеї, а взаємопов'язані аспекти єдиної філософії.
Віталік наводить низку прикладів, що демонструють цей зв'язок. Так, дослідження, спрямовані на боротьбу з наслідками COVID-19, можуть призвести до проривів у лікуванні інших захворювань, таких як хвороба Альцгеймера, і навіть у боротьбі зі старінням. Тобто технології, розроблені для виживання в умовах пандемії, можуть сприяти процвітанню людства в довгостроковій перспективі.
Розробки в галузі мініатюрних інструментів візуалізації (наприклад, проєкт Openwater) можна застосовувати не лише для діагностики та лікування раку, а й для нейрокомп'ютерної діагностики, відкриваючи нові можливості для вивчення мозку і розвитку нейротехнологій. А методи, що забезпечують конфіденційність даних (наприклад, докази з нульовим розголошенням ZK), не тільки захищають особисту інформацію, а й розширюють можливості для наукових досліджень, даючи змогу використовувати більше даних без ризику витоків.
Бутерін наголошує, що d/acc — це не лише про захист від загрози неконтрольованого розвитку ШІ, а й про створення умов для процвітання. Важливо розглядати ці два аспекти в комплексі та прагнути до створення технологій, які одночасно гарантують безпеку і відкривають нові можливості для людства.
Головна проблема, на думку Бутеріна, полягає в тому, що технології розвиваються занадто швидко, і правила, які здаються розумними сьогодні, можуть застаріти вже завтра. Наприклад, якщо зараз здається, що найпотужніші ШІ потребують величезних витрат на навчання, то вже незабаром можуть з'явитися методи, які дають змогу створювати такі самі ШІ набагато дешевше. Тому вже сьогодні не можна створювати правила, які залежать від таких параметрів, як вартість навчання, бо вони втратять актуальність завтра.
Ще один серйозний виклик — це військові. Вони часто діють поза межами звичайних законів і правил, і саме вони, на думку Бутеріна, становлять найбільшу небезпеку в контексті ШІ. Будь-які обмеження, введені урядами, найімовірніше, не поширюватимуться на військові розробки, що особливо небезпечно для виживання людства.
Основні принципи регулювання розвитку ШІ
Віталік вважає, що наріжним каменем такого регулювання має бути відповідальність за наслідки. Якщо хтось використовує ШІ, і цей ШІ завдає шкоди, то цей хтось має бути за це відповідальним. Це схоже на звичайні закони, які діють щодо інших сфер діяльності.
Бутерін вважає, що притягувати до відповідальності слід не розробників, а користувачів, бо саме вони контролюють, як застосовується технологія. Однак він визнає, що користувачі не завжди можуть бути достатньо обізнаними, тому можуть розглядатися й інші варіанти: наприклад, відповідальність посередників, що надають доступ до ШІ.
Також він висловлює неординарну ідею — карати власників обладнання, що використовує штучний інтелект для завдавання шкоди (простіше кажучи, якщо ШІ зламав ваш комп'ютер і використовував його для атаки, то винні будете саме ви).
Другий принцип — можливість зупинки найпотужніших ШІ-застосунків. Бутерін пропонує створити можливість тимчасово блокувати їх, якщо виникне загроза катастрофи. Це схоже на екстрене гальмування.
Уявіть собі, що є спеціальні чипи на обладнанні, яке використовують для роботи найпотужніших ШІ. Ці чипи мають вимагати щотижневого схвалення від кількох міжнародних організацій, щоб продовжувати роботу. Якщо виникне небезпека для людства, ці організації можуть відмовитися давати підтвердження, і тоді роботу цих застосунків буде автоматично припинено. Це дасть час на роздуми та вжиття заходів.
Бутерін вважає, що «щеплення» від безконтрольних технологій і вірусів мають бути надійними. Джерело: vitalik.eth.limo
Хто платитиме за реалізацію d/acc
Бутерін вважає, що важливо не намагатися повністю зупинити розвиток ШІ, а створити надійну систему, яка дасть змогу контролювати його та мінімізувати ризики. Він підкреслює, що для цього необхідна міжнародна співпраця. Спроби однієї країни домінувати в цій сфері приречені на провал. Ба більше, на його думку, для реалізації d/acc знадобиться ефективне децентралізоване фінансування, оскільки традиційні бізнес-моделі часто виявляються несумісними для проєктів із відкритим вихідним кодом.
Бутерін вважає, що для цього потрібне створення ефективного механізму фінансування суспільних благ, порівнянного з ринковим фінансуванням приватних благ. Це дасть змогу розробникам створювати якісні проєкти з відкритим вихідним кодом, не йдучи на компроміси ні з користувачами, ні з власною совістю.
Сьогодні багато важливих проєктів, як-от вакцини та нейроінтерфейси, патентуються, що обмежує їхню доступність і створює непотрібну конкуренцію. Фінансування суспільних благ може стимулювати відкритість і співпрацю, що особливо важливо в контексті можливого розвитку надрозумного ШІ (AGI). Бутерін закликає криптоспільноту активно вивчати та розвивати ці механізми, щоб підготувати їх до широкого застосування в науці та технологіях.
d/acc розв’яже дилему розвитку людства. Джерело: vitalik.eth.limo
Виклики, які стоять перед людством, може розв’язати лише відповідальна децентралізація.
Віталік Бутерін завершує своє есе роздумами щодо викликів і можливостей, які постають перед людством у найближчі десятиліття. Окрім стрімкого розвитку технології штучного інтелекту, найнебезпечнішим є зниження рівня глобальної співпраці, коли впливові корпорації мають вузькі фінансові інтереси.
Однак Бутерін бачить і позитивні сторони. По-перше, у нас з'явилися потужні інструменти для розв'язання цих проблем. ШІ можна використовувати для створення нових технологій в управлінні, наприклад у фінансуванні. Завдяки інтернету, соціальним мережам і криптовалютам покращилися можливості глобальної координації. Розвиваються технології кібербезпеки, спрощується розроблення програмного забезпечення, досягнуто прогресу в біотехнологіях і розумінні природи вірусів. Усе це відкриває нові можливості для поліпшення нашої біології та навколишнього середовища.
По-друге, послаблення впливу «старої гвардії» дає змогу створити широку коаліцію технореалістів, до якої може приєднатися будь-яка людина.
Головна ідея Бутеріна полягає в тому, що доступ до нових інструментів дає нам змогу адаптуватися і покращувати світ, а принципи d/acc і ліберального плюралізму гарантують: це відбуватиметься без шкоди для свободи інших. Він упевнений, що людство здатне побудувати яскраве майбутнє, зберігши свободу і можливості для розвитку.
Читайте також: Зрозумілий ШІ-словник
