Технологии ИИ развиваются с беспрецедентной скоростью, поэтому вопрос контроля и вектора этого развития становится критически важным. Создатель Ethereum Виталик Бутерин предлагает альтернативный подход к технооптимизму, основанный на принципах децентрализации и защиты.
В своем очередном эссе d/acc: one year later Виталик Бутерин развивает идею d/acc (децентрализованного / дифференцированного ускорения) в качестве способа гарантированно направить технологический прогресс в позитивное русло, минимизируя риски, связанные с ИИ и другими потенциально опасными для цивилизации технологиями. Вместо бездумного и всеобщего ускорения, d/acc делает акцент на избирательном развитии тех инноваций, которые способствуют защите и децентрализации власти.
Но история доказала, что централизованная власть часто сама становится источником проблем. Так, ошибка ВОЗ со слишком поздним официальным признанием относительно передачи вируса COVID-19 воздушно-капельным путем продемонстрировала, как централизованный контроль подавил инициативу на местах и, как следствие, привел к многотысячным жертвам, которых можно было избежать. Кроме того, Бутерин убежден, что централизация всегда подразумевает риск злоупотреблений властью.
D/acc в данном случае означал бы:
Что такое d/acc
d/acc (децентрализованное / дифференциальное ускорение) — это подход к технологическому развитию, при котором учитываются цивилизационные риски. d/acc стремится к созданию более безопасного и справедливого мира.
Чтобы помочь понять, в чем заключается уникальность этого подхода, Бутерин противопоставляет d/acc трем другим возможным стратегиям:
- Обычное децентрализованное ускорение
Сторонником этой идеи является, например, соучредитель a16z Марк Андриссен, которого называют «технооптимистом».
В контексте ИИ такой подход означает, что человечество в целом может оказаться бессильным перед сверхразумными машинами.
- Централизованный контроль ради безопасности
Но история доказала, что централизованная власть часто сама становится источником проблем. Так, ошибка ВОЗ со слишком поздним официальным признанием относительно передачи вируса COVID-19 воздушно-капельным путем продемонстрировала, как централизованный контроль подавил инициативу на местах и, как следствие, привел к многотысячным жертвам, которых можно было избежать. Кроме того, Бутерин убежден, что централизация всегда подразумевает риск злоупотреблений властью.
- Замедление или остановка прогресса
Виталик Бутерин настаивает, что лучше всего понять принцип d/acc можно именно на примере борьбы с пандемией.
Смоделируем ситуацию, когда мир, столкнувшись с новым и еще более опасным штаммом COVID, пошел бы по одному из трех описываемых путей:
- Неконтролируемое ускорение в этом контексте означало бы разработку любых лекарств и вакцин как можно быстрее, без должной проверки и учета побочных эффектов. Это могло бы привести к созданию неэффективных или даже опасных препаратов.
- Централизованный контроль означал бы, что все решения о лечении и профилактике принимаются одним центром (в нашем случае — ВОЗ), без учета местных особенностей и мнения врачей на местах. Это наверняка привело бы к ошибкам и задержкам в оказании помощи.
- Замедление прогресса означало бы отказ от разработки новых лекарств и вакцин в принципе, что обрекло бы человечество на гибель (как, собственно, и происходило несколько веков назад, когда эпидемии выкашивали целые континенты).
- Быструю разработку вакцин и лекарств, но с обязательной проверкой безопасности и эффективности.
- Децентрализованный обмен информацией о болезни, симптомах, методах лечения и результатах исследований.
- Открытый доступ к информации о вакцинах и лекарствах, а также к технологиям их производства.
Идея d/acc имеет много общего с борьбой против пандемии. Источник: vitalik.eth.limo
Таким образом, подход d/acc, как и эффективная борьба с пандемией, позволяет находить баланс между скоростью, безопасностью и децентрализацией. Он предполагает активное использование технологий для решения проблем, но с учетом возможных рисков и с опорой на распределенную сеть участников.
Процветание невозможно без защиты
Ранее Бутерин уже затрагивал тему позитивного видения будущего в контексте d/acc, упоминая создание ИИ как инструментов, а не автономных агентов, и прогрессивные социальные технологии, такие как pol.is и рынки прогнозов. Однако теперь он подчеркивает, что это не просто отдельные идеи, а взаимосвязанные аспекты единой философии.
Виталик приводит ряд примеров, демонстрирующих эту связь. Так, исследования, направленные на борьбу с последствиями COVID-19, могут привести к прорывам в лечении других заболеваний, таких как болезнь Альцгеймера, и даже в борьбе со старением. То есть технологии, разработанные для выживания в условиях пандемии, могут способствовать процветанию человечества в долгосрочной перспективе.
Разработки в области миниатюрных инструментов визуализации (например, проект Openwater) могут применяться не только для диагностики и лечения рака, но и для нейрокомпьютерной диагностики, открывая новые возможности для изучения мозга и развития нейротехнологий. А методы, обеспечивающие конфиденциальность данных (например, доказательства с нулевым разглашением ZK), не только защищают личную информацию, но и расширяют возможности для научных исследований, позволяя использовать больше данных без риска утечек.
Бутерин подчеркивает, что d/acc — это не только про защиту от угрозы неконтролируемого развития ИИ, но и про создание условий для процветания. Важно рассматривать эти два аспекта в комплексе и стремиться к созданию технологий, которые одновременно обеспечивают безопасность и открывают новые возможности для человечества.
Главная проблема, по мнению Бутерина, заключается в том, что технологии развиваются слишком быстро, и правила, которые кажутся разумными сегодня, могут устареть уже завтра. Например, если сейчас кажется, что самые мощные ИИ требуют огромных затрат на обучение, то уже скоро могут появиться методы, позволяющие создавать такие же ИИ гораздо дешевле. Поэтому уже сегодня нельзя создавать правила, которые зависят от таких параметров, как стоимость обучения, потому что они потеряют актуальность завтра.
Еще один серьезный вызов — это военные. Они часто действуют вне рамок обычных законов и правил, и именно они, по мнению Бутерина, представляют наибольшую опасность в контексте ИИ. Любые ограничения, введенные правительствами, скорее всего, не будут распространяться на военные разработки, что особенно опасно для выживания человечества.
Основные принципы регулирования развития ИИ
Виталик считает, что краеугольным камнем такого регулирования должна быть ответственность за последствия. Если кто-то использует ИИ, и этот ИИ причиняет вред, то этот кто-то должен нести за это ответственность. Это похоже на обычные законы, которые действуют в отношении других сфер деятельности.
Бутерин считает, что возлагать ответственность следует не на разработчиков, а на пользователей, потому что именно они контролируют, как применяется технология. Однако он признает, что пользователи не всегда могут быть достаточно осведомленными, поэтому могут рассматриваться и другие варианты: например, ответственность посредников, которые предоставляют доступ к ИИ.
Также он высказывает неординарную идею — наказывать владельцев оборудования, которое используется искусственным интеллектом для нанесения вреда (проще говоря, если ИИ взломал ваш компьютер и использовал его для атаки, то виноваты будете именно вы).
Второй принцип — возможность остановки наиболее мощных ИИ-приложений. Бутерин предлагает создать возможность временно блокировать их, если возникнет угроза катастрофы. Это похоже на экстренное торможение.
Представьте себе, что есть специальные чипы на оборудовании, которое используется для работы самых мощных ИИ. Эти чипы должны требовать еженедельного одобрения от нескольких международных организаций, чтобы продолжать работу. Если возникнет опасность для человечества, эти организации могут отказаться давать подтверждение, и тогда работа этих приложений будет автоматически приостановлена. Это даст время на размышление и принятие мер.
Бутерин считает, что «прививки» от бесконтрольных технологий и вирусов должны быть надежными. Источник: vitalik.eth.limo
Кто будет платить за реализацию d/acc
Бутерин считает, что важно не пытаться полностью остановить развитие ИИ, а создать надежную систему, которая позволит контролировать его и минимизировать риски. Он подчеркивает, что для этого необходимо международное сотрудничество. Попытки одной страны доминировать в этой сфере обречены на провал. Тем более, что, по его мнению, для реализации d/acc потребуется эффективное децентрализованное финансирование, так как традиционные бизнес-модели часто оказываются несовместимыми для проектов с открытым исходным кодом.
Бутерин считает, что для этого потребуется создание эффективного механизма финансирования общественных благ, сравнимого с рыночным финансированием частных благ. Это позволит разработчикам создавать качественные проекты с открытым исходным кодом, не идя на компромиссы ни с пользователями, ни с собственной совестью.
Сегодня многие важные проекты, такие как вакцины и нейроинтерфейсы, патентуются, что ограничивает их доступность и создает ненужную конкуренцию. Финансирование общественных благ может стимулировать открытость и сотрудничество, что особенно важно в контексте возможного развития сверхразумного ИИ (AGI). Бутерин призывает криптосообщество активно изучать и развивать эти механизмы, чтобы подготовить их к широкому применению в науке и технологиях.
d/acc решит дилемму развития человечества. Источник: vitalik.eth.limo
Вызовы, которые стоят перед человечеством, может решить только ответственная децентрализация.
Виталик Бутерин завершает свое эссе размышлениями о вызовах и возможностях, стоящих перед человечеством в ближайшие десятилетия. Кроме стремительного развития технологии искусственного интеллекта, самым опасным является снижение уровня глобального сотрудничества, когда влиятельные корпорации преследуют узкие финансовые интересы.
Однако Бутерин видит и положительные стороны. Во-первых, у нас появились мощные инструменты для решения этих проблем. ИИ можно использовать для создания новых технологий в управлении, например в финансировании. Благодаря интернету, социальным сетям и криптовалютам улучшились возможности глобальной координации. Развиваются технологии кибербезопасности, упрощается разработка программного обеспечения, достигнут прогресс в биотехнологиях и понимании природы вирусов. Все это открывает новые возможности для улучшения нашей биологии и окружающей среды.
Во-вторых, ослабление влияния «старой гвардии» позволяет создать широкую коалицию технореалистов, к которой может присоединиться любой человек.
Главная идея Бутерина заключается в том, что доступ к новым инструментам позволяет нам адаптироваться и улучшать мир, а принципы d/acc и либерального плюрализма гарантируют: это будет происходить без ущерба для свободы других. Он уверен, что человечество способно построить яркое будущее, сохранив свободу и возможности для развития.
Читайте также: Понятный словарь ИИ-терминов
