Почему не следует заменять правительство блокчейном
Автоматизация работы правительства при помощи смарт-контрактов — это звучит заманчиво. Но стоит ли это делать? Попробовали разобраться, почему не следует заменять правительственные органы саморегулируемой системой, и чего следует избегать при возможной кооперации блокчейна и правительства.
Почему замена правительства алгоритмом не сработает?
Из блокчейна получится хорошая книга бухучета — такая, в которой нельзя что-то спрятать. На этом его полезность не заканчивается. Условно, для замены правительства полностью автоматизированной и автономной системой его работу придется перевести на смарт-контракты, которые будут запускаться только при заранее определенных условиях. Чем это опасно? В 2016 году Тал Зарски идентифицировал основные сложности при замене государства на алгоритм, его наработки опубликовал в январе 2016 журнал Science, Technology, & Human Values.
По мнению исследователя, проблема замены государства алгоритмом — в закрытости последнего: считается, что заранее неизвестно, каким образом программа принимает решения и что учитывается при этом. Закрытая реализация в непубличном пространстве позволяет избежать «обмана» со стороны человека, но ценой закладывания других проблем: «честности» и «эффективности».
Мини-версию проблемы «честности» можно найти в системах автоматической оценки заемщиков банками: для аналитических моделей используют 1000 и 1 переменную, которые не раскрываются публике. В условный 1 на 10^10 случаев система дает сбой и принимает решение не в пользу человека. Использование смарт-контрактов должно облегчить проблему «честности», однако даже в таком случае будет оставаться проблема «эффективности».
Разделение проблем при автоматизации веток государства или коммерции | Source: MDPI.com
У решений, которые принимает алгоритм, два свойства: непрозрачность и автоматичность. По первому: только тот, кто писал код и закладывал архитектуру, знает, на что опирается алгоритм при принятии решений. По второму: в этом процессе отсутствует человек, поэтому изменить что-то «на лету» не получится.
Эти два свойства разделяют проблему на «честность» и «эффективность». Согласно теории Тала Зарски, проблематика «эффективности» исходит из попытки оценивать и предсказывать человеческое поведение при помощи программ. Например, датасет, используемый алгоритмом, может содержать ошибки или заведомо ложную информацию, что будет приводить к ошибочным решениям. На практике это может, например, означать ложные — недействительные — судебные иски, ошибки при расчете налогов и планировании госбюджета.
Проблемы «честности» исходят из того, каким образом алгоритм оценивает приоритетность принимаемых решений, в чью пользу и на основе каких причин. Допустим, алгоритм решил, что вы и ваше поведение — социально неприемлемы. Почему? Неизвестно. Но с вашей точки зрения вы не делаете чего-то объективно плохого. Открытость смарт-контрактов должна частично разрешить эту проблему, делая процесс принятия решений публичным.
Третичная проблема, вытекающая из «честности»: недостаток вовлеченности. Если большинство решений принимает автоматика, то информация, используемая для этих решений, обходит умы остальных политиков. Человек перестает обладать полной картиной происходящего, необходимой для оценки действий и решений во времени.
Как разрешить проблемы честности и эффективности алгоритмов?
Решения этому есть разные. Например, проведение открытых хакатонов с целью публичного отслеживания поведения и достойности разработчиков. Есть и другой подход — введение открытого аудирования кода, который принимает решения с общедоступными результатами. Поскольку вынесение решений основано на цельности исходных данных, нужно проверять и содержание датасета, который использует алгоритм.
Проблематика автоматизации работы города при помощи смарт-контрактов | Source: GNCrypto.News
Проблема эффективности — в предсказании человеческого поведения. Из-за сложности человеческого поведения оно крайне малопредсказуемо на уровне алгоритмов. Такие ошибки портят эффективность суждения алгоритма. Например, это может вносить погрешности при расчетах принятия решения о дефолте по кредиту. Чтобы вынести такое решение, обычно проводят переговоры с заемщиком и затем переводят дело из гражданского в уголовное. Алгоритм же может неверно истолковать поведение заемщика и подать ошибочный иск в суд.
Коммерческие интересы и права человека. Некоторые правовые поля конфликтуют — права человека не всегда сходятся с коммерческими интересами. Например, как поступать алгоритму с античеловеческими условиями труда на складах Amazon? Аналогичный вопрос возникает и при оценке изнануряющих условий труда на заводах Tesla c 12-часовыми сменами. Алгоритмизация потребует приоритизации некоторых законов над другими, в частности тех, которые касаются защиты свобод и прав человека, его здоровья. Однако такой подход может расходиться с актуальной политикой корпораций, которая предусматривает максимизацию прибыли.
Невозможность донесения всех способов использования личной информации. При алгоритмизации потребуется донести полный список всех способов использования личной информации по запросу ее владельца. Такой список должен содержать полный перечень способов и операций, в которых используются личные данные, документы, справки, выписки, активы и ценные бумаги. Помимо этого, список должен включать использование любой другой касающейся человека информации, вроде ДНК — если такие данные были затребованы и переданы. Подобный уровень прозрачности может создавать и угрозу со стороны внешнего шпионажа и последующих вмешательств.
Потребуется разделение ошибок на программные и легальные. После алгоритмизации части решений потребуется отслеживать, какие из ошибок, выдаваемые программой, ложные, а какие — вызваны поведением человека. Подобная система называется HITL — Human In The Loop, или принцип построения архитектуры при участии автоматики и человека. Несогласованность будет приводить к нарушению баланса, для соблюдения которого понадобится фильтровать, какие из ошибок должны приводить к автоматическому решению, а какие лучше рассмотреть человеку.
При внедрении человека понадобится проходить проверку на уровень навыков. Для адаптации работы системы необходимо понимать, какой процент, к примеру, юристов способен работать с алгоритмическим типом правительства. Если предполагается, что разворачиваемая система будет работать с людьми, то к списку рабочих навыков добавится и умение работать со смарт-контрактами, либо же базовое понимание принципов работы этих инструментов. Следом потребуется создание интерфейса, для работы с которым необходимо будет обучить специалистов. Подобный интерфейс должен быть стандартизирован для ряда операций — для облегчения работы с ним в будущем.
Блокчейн — отлично, но как там с безопасностью?
Смарт-контракты поддаются взлому, и полная или частичная алгоритмизация потребует создания органов, контролирующих киберпространство вокруг правительственных данных. Обычно такие проблемы преследуют DeFi-, P2E- и GameFi-проекты, где за период с 2021 по 2022 произошло 17 крупных взломов на $600 млн. Ошибки в работе алгоритмов могут приводить к нарушениям чьих-то прав и ограничениям свобод. Даже при полной автоматизации потребуется надзор и дополнительная корректировка со стороны человека.
Будет ли считаться взлом правительственного смарт-контракта преступлением?
На каком-то уровне понятие «алгоритмическое правительство» сводится к строкам кода. Взлом подобного кода с целью получения выгоды должен подпадать под определение нарушения закона. В частности, это следует рассматривать как взлом закона, поскольку преступник в таком случае может преследовать цель изменения работы контракта для получения нового уровня доступа. Одно из возможных решений — это изоляция кластеров, принимающих решения, токенизируя их базовые функции, чтобы они продолжали быть частью общей цепочки, но оставались изолированы для сохранности данных.
Проблематика автоматизации законов при помощи смарт-контрактов | Source: GNCrypto.News
Понадобится внедрение нового класса специалистов
Это должны быть управленцы и разработчики, занимающиеся поддержанием работы алгоритмов на программном уровне. Но с какой стороны их понадобится внедрить и как они будут взаимодействовать с остальными участниками системы: дипломатами, депутатами, судьями, адвокатами и другими? С точки зрения практики, круг влияния подобного органа должен распространяться лишь на поддержание работы кода и алгоритмизацию новых решений. Однако, с точки зрения поддержания работы системы в целом — HITL-архитектуры, такой орган должен будет иметь и исполнительные полномочия.
Токенизация социальных консенсусов будет усугублять опасность взломов
Выпуск токенов для закрепления решений, выражения политической воли или поддержания существующих решений будет превращать киберпространство в еще один фронт влияния и защиты. С точки зрения эволюции, столкновение двух алгократических государств, работающих на базе смарт-контрактов в блокчейне, может свестись до обмена взломами. Однако такие действия будут куда разрушительнее, если работа города и структур в нем зависит от строк кода.
Стоит ли создавать себе «пороховую бочку» на смарт-контрактах? С одной стороны, автоматика может облегчить жизнь, с другой — сделать ее невыносимо сложнее. Как и в любом другом вопросе, здесь требуется соблюдение баланса.
