В ООН обсудили AI: блестящие перспективы или риски?
В середине июля в Совете Безопасности ООН мировые лидеры впервые собрались вместе, чтобы обсудить риски масс-эдопшн AI. Результатом стал план действий на ближайшие 3 года. Флагманом глобального регулирования может стать Великобритания.
Заседания Совбеза было созвано Соединенным Королевством в качестве председательствующего в этом международном органе. Полтора десятка участников поговорили о серьезных изменениях, которые способно вызвать лавинообразное распространение AI. Ожидаются, что они затронут буквально каждый аспект жизни человека: инновации в медицине, повышение производительности, революция систем образования, адаптация к изменениям климата, победа над коррумпированными чиновниками, мир во всем мире… Все это так, однако настроения мировых лидеров никак нельзя назвать прекраснодушными.
Проактивная позиция Британии
Также Клеверли считает, что AI ускоряет и масштабирует процессы распространения дезинформации и дипфейков, ставит под угрозу демократические процессы и глобальную стабильность. Тираны и террористы могут подключить возможности искусственного интеллекта для разработки оружия массового уничтожения всех типов. Поэтому британцы настаивают: управление AI должно осуществляться на глобальном уровне. Они предлагают руководствоваться 4 основными принципами:
- открытость (AI служит исключительно свободе и демократии);
- ответственность (AI руководствуется верховенством закона и соблюдает права человека);
- безопасность и предсказуемость (AI гарантирует защиту прав интеллектуальной собственности, неприкосновенность частной жизни граждан, соответствие основным принципам национальной безопасности);
- отказоустойчивость (защита критически важных систем).
Уже осенью Великобритания хочет собрать первый глобальный саммит по безопасности AI. На нем будут присутствовать страны большой семерки, ведущие технологические компании и ученые. Они обсудят, как в дальнейшем мониторить и оценивать наиболее значительные риски, связанные с этой технологией.
Зачем это Великобритании, спросите вы? Дело в том, что страна является мировым лидером в области AI, занимая третье место после США и Китая. Вклад индустрии искусственного интеллекта в британскую экономику – £3,7 млрд ежегодно. В компаниях сектора трудоустроено 50 тысяч человек. При этом, свои штаб-квартиры в Лондоне уже открыли все крупнейшие AI-игроки, в том числе OpenAI, Anthropic, Google Deepmind, Palantir и др.
Слово США
Позицию Америки выразил посол Джеффри ДеЛаурентис, и.о. зампредставителя при ООН. Он считает, что в Совбезе должны наладить координацию между государствами-членами, технологическими гигантами и представителями общественности.
Пример таких усилий уже продемонстрировали в США, где в начале мая Президент Байден встретился с ведущими AI-компаниями, а Национальный институт стандартов и технологий запустил специализированную онлайн-платформу. С ее помощью корпоративный сектор может получить разнообразные руководства по управлению рисками, связанными с системами искусственного интеллекта. Кроме того, в Белом доме работают над биллем о правах AI. В документе будут собраны принципы проектирования, использования и развертывания автоматизированных систем.
Ни одно государство-член не должно использовать ИИ для цензуры, ограничения, подавления или лишения прав людей. Использование ИИ в военных целях также может и должно быть этичным, ответственным и укреплять международную безопасность.– подчеркнул ДеЛаурентис
Также США уже опубликовали Политическую декларацию об ответственном военном использовании AI и автономных систем. В ней излагаются принципы разработки и использования искусственного интеллекта в военной сфере в соответствии с нормами международного права. Основной момент – безусловная подотчетность AI военнослужащим из числа homo sapiens.
Дальнейшие шаги Совбеза
Генеральный секретарь ООН Антониу Гутерриш продемонстрировал осведомленность в проблематике использования современных технологий в целом. Он привел пример социальных сетей, которые задумывались как инструменты для укрепления связей между людьми из разных стран и континентов. Вместо этого мы имеем платформы, где распространяется пропаганда, разжигается гнев и насилие.Та же история складывается и вокруг AI. Кроме того, Гутерриш видит отсутствие навыков работы с искусственным интеллектом у чиновников всех уровней (а как в таком случае они смогут его регулировать? — прим. автора). Власти нужно научить жить в новых технических реалиях на национальном и глобальном уровнях.
Неисправности систем искусственного интеллекта – еще одна серьезная проблема. И взаимодействие между AI и ядерным оружием, биотехнологиями, нейротехнологиями и робототехникой вызывает глубокую тревогу.– отметил он
В результате, представители 15-ти стран-участниц выработали план действий на ближайшие годы.
- Создать на базе ООН новую структуру, которая будет управлять AI по аналогии с Международным агентством по атомной энергии, Международной организации гражданской авиации и т.п.
- К концу 2024 года ООН должна собрать совещание, на котором будут представлены варианты глобального управления AI.
- Начать подготовку аналитической записки “Новая программа для мира”, где будут собраны рекомендации по управлению AI для государств-членов.
- Определить, что к 2026 году завершатся переговоры по глобальному Договору о запрещении автономных систем вооружений, которые способны работать без участия человека.
Мы должны работать вместе над созданием AI, который устраняет социальные, цифровые и экономические различия, а не разъединяет нас еще больше. Я призываю вас объединить усилия и укрепить доверие во имя мира и безопасности.– резюмировал Генсек ООН
