Чому не слід заміняти уряд блокчейном

Рішення, що приймає алгоритм, мають дві властивості: непрозорість та автоматичність. Щодо першої: тільки той, хто писав код і закладав архітектуру, знає, на що спирається алгоритм у момент прийняття рішень. Щодо другої властивості: у цьому процесі відсутня людина, тож змінити щось «на льоту» буде неможливо.

Ці дві властивості поділяють проблему на «чесність» та «ефективність». Відповідно до теорії Тала Зарські, в основу проблематики «ефективності» покладено спроби оцінювати та передбачати людську поведінку за допомогою програм. Наприклад, датасет, який використовує алгоритм, може містити помилки або свідомо неправдиву інформацію, що буде зумовлювати прийняття помилкових рішень. На практиці це може означати неправдиві — недійсні — судові позови, помилки під час розрахунку податків чи планування держбюджету.

Проблеми «чесності» виходять із того, як саме алгоритм оцінює пріоритетність ухвалених рішень, на чию користь вони приймаються та на яких підставах. Припустимо, алгоритм вирішив, що ви і ваша поведінка є соціально неприйнятними. Чому? Невідомо. Але, на ваш погляд, не відбувається нічого об'єктивно поганого. Відкритість смартконтрактів має частково вирішити цю проблему, переводячи процес ухвалення рішень у публічну площину.

Третинна проблема, яка походить від «чесності»: недостатня залученість. Якщо більшість рішень приймає автоматика, то інформація щодо цих рішень оминає решту політиків. Людина перестає бачити повну картину того, що відбувається, а отже втрачає об’єктивність, яка необхідна для оцінки дій і рішень у часі.

Проблема ефективності — у передбаченні людської поведінки. Через свою складність людська поведінка вкрай малопередбачувана на рівні алгоритмів. Такі помилки псують ефективність судження алгоритму. Наприклад, це може зумовити появу похибки у розрахунках ухвалення рішення про дефолт за кредитом. Щоб винести таке рішення, зазвичай проводять переговори з позичальником і потім переводять справу з категорії цивільної у кримінальну. Алгоритм може неправильно сприйняти поведінку позичальника і подати помилковий позов до суду.

Комерційні інтереси та права людини. Деякі правові поля конфліктують — права людини не завжди відповідають комерційним інтересам. Наприклад, що робити алгоритму з нелюдськими умовами праці на складах Amazon? Аналогічне питання постає і під час оцінювання виснажливих умов праці на заводах Tesla, де зміни тривають по 12 годин. Алгоритмізація потребує пріоритизації певних законів, зокрема тих, що стосуються захисту свобод і прав людини, її здоров'я. Однак такий підхід може розходитися з актуальною політикою корпорацій, яка передбачає максимізацію прибутку.

Неможливість донести всі способи використання особистої інформації. При алгоритмізації доведеться скласти повний перелік всіх способів використання особистої інформації за запитом її власника. Такий список має містити повний перелік способів та операцій, у яких використовуються особисті дані, документи, довідки, виписки, активи та цінні папери. До того ж список повинен включати використання будь-якої іншої інформації, що стосується людини, на кшталт ДНК, якщо такі дані були затребувані і передані. Такий рівень прозорості може створювати і загрози через зовнішнє шпигунство та подальші втручання.

Потрібен розподіл помилок на програмні та легальні. Після алгоритмізації частини рішень потрібно буде відстежувати, які помилки, що видає програма, хибні, а які — зумовлені поведінкою людини. Така система має назву HITL — Human In The Loop, або принцип побудови архітектури за участю автоматики та людини. Неузгодженість призводитиме до порушення балансу. Щоб його утримувати, доведеться фільтрувати, які помилки мають приводити до автоматичного вирішення, а які краще розглянути людині.

У разі залучення людини доведеться проходити перевірку рівня навичок. Для адаптації роботи системи слід розуміти, який відсоток, наприклад, юристів здатний працювати з алгоритмічним типом уряду. Якщо система, що розгортається, працюватиме з людьми, то до списку робочих навичок буде додано і вміння працювати зі смартконтрактами або базове розуміння принципів роботи цих інструментів. Далі доведеться створити інтерфейс, для роботи з яким потрібно навчити спеціалістів. Такий інтерфейс має бути стандартизований для низки операцій, аби надалі полегшити роботу з ним.