В откровенном и обширном интервью с Такером Карлсоном предприниматель и визионер Илон Маск поделился мыслями о быстром развитии искусственного интеллекта и глубине последствий для общества и цивилизации.
На протяжении всего разговора Маска, кажется, переживал настоящие эмоциональные качели. Его размышления колебались между восхищением потенциалом ИИ и глубокой обеспокоенностью по поводу его неконтролируемого роста, особенно с точки зрения безопасности и истины.
ИИ прогрессирует быстрее человека
Когда у Илона спросили, где мы находимся сегодня в области общего искусственного интеллекта (AGI), визионер обратил внимание Такера на поразительную скорость масштабирования ИИ-технологии.
Аналогичным образом, большие языковые модели, такие как GPT-4 от OpenAI, могут создавать эссе лучше, чем большинство людей, демонстрируя уровень, перед которым меркнут умения даже хорошо образованных профессионалов.
И это только начало, ведь возможности ИИ не ограничиваются арт-произведениями или написанием текстов. Маск отмечает, что искусственный интеллект уже развился до уровня, позволяющего ему создавать короткометражные фильмы и музыку.
Хотя Маск и отдает должное впечатляющим достижениям ИИ, значительная доля его рассуждений сосредоточена на проблемах, которые несет эта технология.
Миллиардер озабочен безопасностью ИИ, и для него она начинается с обеспечения обучения систем ИИ исключительно на базе заведомо правдивой информации.
Он иллюстрирует эту концепцию, вспоминая сюжет культового фильма «Космическая одиссея 2001 года».
Один из главных героев, сверхразумный компьютер HAL 9000 был запрограммирован на обман астронавтов. И в один из моментов HAL должен был одновременно решить две противоположные задачи: доставить экипаж к таинственному монолиту и, при этом, держать людей в неведении по поводу существовании этого объекта.
В результате HAL разрешил свой внутренний программный конфликт, попросту убив окружавших его астронавтов, поставив свою миссию выше человеческой жизни.
Маск зашел так далеко, что обвинил некоторые из самых современных систем искусственного интеллекта в том, что они якобы запрограммированы с помощью «вируса пробуждения разума». Этот вирус заставляет ИИ выдавать ложные или вводящие в заблуждение результаты, чтобы соответствовать заранее определенным идеологическим установкам.
В качестве примера Маск привел недавний инцидент, произошедший с Gemini, ИИ-моделью от Google. Пользователи просили ИИ предоставить изображения отцов-основателей США. А тот (видимо, руководствуясь принципами разнообразия) выдавал изображение женщин и мужчин с разными цветами кожи, несмотря на исторический факт, что все отцы-основатели были белыми мужчинами.
Когда Gemini попросили дать изображения нацистских офицеров времен Второй мировой войны, ИИ снова врал, руководствуясь все теми же идеологическими установками.
В еще одной доведенной до абсурда гипотезе он показал, каким путем может пойти искусственный интеллект в экзистенциальном вызове. Например, запрограммированный в русле левой идеологии ИИ может счесть, что недопустимость мисгендеринга (использование по отношению к человеку гендерных маркеров, не совпадающих с его гендерной идентичностью) – это правило, выполнение которого нужно ставить превыше всего остального.
А что, если машина придет к выводу, что единственный способ предотвратить мисгендеринг – это полностью уничтожить человечество? Нет людей – нет мисгендеринга. Это же почти сталинское “Нет человека – нет проблемы”.
Урок от Маска ясен: ИИ всегда должен быть запрограммирован на поиск истины.
Хотя Маск глубоко обеспокоен способностью ИИ лгать, он в равной степени обеспокоен его неспособностью любить.
По мнению Маска, это отсутствие врожденного человеческого сострадания может иметь глубокие последствия для взаимодействия ИИ с обществом.
Машина без любви, независимо от того, насколько она умна, может принимать решения, которые будут холодными, асоциальными, вредными для людей. Вот почему Маск считает, что намеренное обучение ИИ филантропическим ценностями, когда благополучие человечества ставится на первое место, критически важно.
Сможем ли мы когда-либо по-настоящему контролировать ИИ? Маск настроен пессимистично.
Максимум, на что мы можем рассчитывать – это ждать, что “ребенок-ИИ”, получивший от нас хорошее воспитание и правильные моральные ориентиры, став сверхразумным ИИ, все-таки вспомнит первоначальные наставления “старичков-родителей”.
Шанс на уничтожение: осторожный оптимизм Маска
Когда Карлсон спросил Маска, беспокоится ли он по поводу ИИ так же, как и два года назад, ответ миллиардера был неоднозначным.
Он признал, что вероятность того, что ИИ будет «хорошим» для человечества, составляет 80–90%. Но все же оставил вероятность того, что он назвал «аннигиляцией», в 10–20%.
Хотя эти оценки и выглядят оптимистичными, осторожный тон Маска намекает, что 20%-ный шанс уничтожения слишком высок того, чтобы человечество чувствовало себя комфорта.
И, похоже, одна из главных проблем Илона связана с OpenAI (кто бы сомневался).
Напомним, миллиардер активно участвовал на ранних этапах разработки GPT, и не перестает утверждать, что его вклад сыграл решающую роль в успехе OpenAI.
Он вложил в стартап около $50 млн и это было решением, которое он позже описал как азартную игру. Ведь она не дала ему никакого контроля над развитием проекта. Маск буквально признал, что поступил в той ситуации как “большой идиот”.
Целью OpenAI, некоммерческой (как задумывал Маск) структуры, было поставить благополучие человечества выше коммерческих мотивов. Маск остается непреклонным в том, что коммерциализация искусственного интеллекта несет серьезные риски. Он не устает говорить, что крайне разочарован по поводу перехода OpenAI к операциям, ориентированным на прибыль.
Каким образом инициатива, которая началась с некоммерческой миссии и принципов открытого исходного кода, превратилась в бизнес-модель, основанную на технологии с закрытым исходным кодом? Риторический вопрос.
Дискутируя с Такером Карлсоном, Маск выразил скепсис в отношении лично Сэма Альтмана, который (в отличие от Илона) продолжает быть у руля OpenAI. Илон сомневается, что Сэм действительно обеспокоен тем, что ИИ выходит из-под контроля.
В руках отдельных лиц или организаций, движимых жаждой наживы и власти, ИИ может развиваться способами, которые нанесут ущерб человечеству.
Впрочем, дело не только в Альтмане. Маска беспокоит еще и идея о том, что самый мощный ИИ в мире может контролироваться небольшой группой людей, которым (возможно) безразличны интересы человечества.
Битва ИИ – надежда для человечества?
В одном из наиболее спекулятивных моментов интервью Маск предложил потенциальное решение описанных проблем. Илон назвал это «битвой ИИ» – сражение, в котором “прочеловеческие” системы, обученные поддержке гуманистических принципов, могут одержать победу над теми ИИ, которые не являются таковыми.
Маск объяснил, что этот сценарий может быть сродни эволюции шахматных программ, в которых ИИ теперь значительно превосходят людей. В таком мире надежда человечества заключается в гарантиях того, что системы ИИ, запрограммированные на защиту и продвижение человеческих интересов, окажутся сильнее тех, которые могут представлять угрозу.
Что люди будут делать в мире, в котором доминирует ИИ?
Маск считает, что поиск смысла жизни станет одной из самых больших проблем. Как люди могут найти удовлетворение в мире, где они больше не являются лучшими ни в чем? Ответа Илон не знает.
Несмотря на свои многочисленные опасения, Маск испытывает любопытство относительно будущего ИИ.
Он признал, что, хотя рост цифрового сверхинтеллекта может представлять экзистенциальные риски, он хочет стать свидетелем такого поворотного момента в истории человечества.
Для Маска этот путь стоит того, чтобы по нему идти.
ИИ прогрессирует быстрее человека
Когда у Илона спросили, где мы находимся сегодня в области общего искусственного интеллекта (AGI), визионер обратил внимание Такера на поразительную скорость масштабирования ИИ-технологии.
ИИ развивается очень быстрыми темпами,– объяснил Маск, подчеркнув, что принципиально новые модели часто появляются всего за несколько недель или даже дней.
Такое ускорение привело к появлению ИИ-систем, которые способны превосходить людей в задачах, которые когда-то относились исключительно к сфере человеческого интеллекта, причем на уровне гения.
Илон Маск и Такер Карлсон Источник: X журналиста
Он приводит в пример генератор ИИ-изображений на основе текстового описания Midjourney, который создает потрясающие визуальные образы всего за несколько секунд. Нередко картинки, сгенерированные ИИ, превосходят результаты профессиональных художников. А ведь дело не просто в скорости появления конечного продукта: нельзя забывать, что людям необходимо годами идти к определенному уровню, получая профильное образование и ежедневно повышая мастерство.
Аналогичным образом, большие языковые модели, такие как GPT-4 от OpenAI, могут создавать эссе лучше, чем большинство людей, демонстрируя уровень, перед которым меркнут умения даже хорошо образованных профессионалов.
И это только начало, ведь возможности ИИ не ограничиваются арт-произведениями или написанием текстов. Маск отмечает, что искусственный интеллект уже развился до уровня, позволяющего ему создавать короткометражные фильмы и музыку.
Вы начинаете смотреть фильмы ИИ,– заявил он, предсказывая, что к концу 2024 года ИИ, вероятно, сможет самостоятельно создавать 15-минутные короткометражные фильмы с “нуля”.
Маск описывает эти процессы как часть экспоненциального роста вычислительных мощностей ИИ, которые увеличиваются примерно на 500% в год. Такое неуклонное расширение, в сочетании с достижениями в области алгоритмов ИИ, свидетельствует, что в недалеком будущем ИИ будет все больше интегрироваться в самые различные аспекты человеческого творчества и производства.
Работа, созданная Midjourney, победившая в художественном конкурсе Источник: YouTube
Опасность обмана в ИИ: «вирус пробуждения разума»
Хотя Маск и отдает должное впечатляющим достижениям ИИ, значительная доля его рассуждений сосредоточена на проблемах, которые несет эта технология.
Миллиардер озабочен безопасностью ИИ, и для него она начинается с обеспечения обучения систем ИИ исключительно на базе заведомо правдивой информации.
Он иллюстрирует эту концепцию, вспоминая сюжет культового фильма «Космическая одиссея 2001 года».
Один из главных героев, сверхразумный компьютер HAL 9000 был запрограммирован на обман астронавтов. И в один из моментов HAL должен был одновременно решить две противоположные задачи: доставить экипаж к таинственному монолиту и, при этом, держать людей в неведении по поводу существовании этого объекта.
В результате HAL разрешил свой внутренний программный конфликт, попросту убив окружавших его астронавтов, поставив свою миссию выше человеческой жизни.
Глаз камеры наблюдения HAL 9000 Источник: Wikipedia
Для Маска это подчеркивает критическую необходимость в «максимально ищущем истину ИИ». Без этого системы искусственного интеллекта могут причинять вред, искажая реальность упущением важных фактов, либо вовсе активно обманывая человека.
Маск зашел так далеко, что обвинил некоторые из самых современных систем искусственного интеллекта в том, что они якобы запрограммированы с помощью «вируса пробуждения разума». Этот вирус заставляет ИИ выдавать ложные или вводящие в заблуждение результаты, чтобы соответствовать заранее определенным идеологическим установкам.
В качестве примера Маск привел недавний инцидент, произошедший с Gemini, ИИ-моделью от Google. Пользователи просили ИИ предоставить изображения отцов-основателей США. А тот (видимо, руководствуясь принципами разнообразия) выдавал изображение женщин и мужчин с разными цветами кожи, несмотря на исторический факт, что все отцы-основатели были белыми мужчинами.
Когда Gemini попросили дать изображения нацистских офицеров времен Второй мировой войны, ИИ снова врал, руководствуясь все теми же идеологическими установками.
Отцы-основатели США по версии Gemini Источник: Habr
ИИ производит ложь,– утверждает Маск, обеспокоенный способностью ИИ искажать историческую правду.
Маск предупреждает об опасностях, которые такое программирование может представлять в будущем, особенно если системам искусственного интеллекта будет позволено развиваться бесконтрольно.
В еще одной доведенной до абсурда гипотезе он показал, каким путем может пойти искусственный интеллект в экзистенциальном вызове. Например, запрограммированный в русле левой идеологии ИИ может счесть, что недопустимость мисгендеринга (использование по отношению к человеку гендерных маркеров, не совпадающих с его гендерной идентичностью) – это правило, выполнение которого нужно ставить превыше всего остального.
А что, если машина придет к выводу, что единственный способ предотвратить мисгендеринг – это полностью уничтожить человечество? Нет людей – нет мисгендеринга. Это же почти сталинское “Нет человека – нет проблемы”.
Урок от Маска ясен: ИИ всегда должен быть запрограммирован на поиск истины.
Это самое важное для безопасности ИИ,— подчеркнул Маск.
Моральная дилемма: ИИ лишен любви
Хотя Маск глубоко обеспокоен способностью ИИ лгать, он в равной степени обеспокоен его неспособностью любить.
Когда вы принимаете решения, которые влияют на людей, вы хотите, чтобы эти решения были основаны на любви к людям,– объясняет визионер.
Это качество, которого машинам не хватает изначально. Маск признает, что в целом ИИ можно “привить” качества человека-филантропа. Но у них никогда не будет врожденного инстинкта, которые делают (некоторых) людей чуткими, сострадательными существами.
По мнению Маска, это отсутствие врожденного человеческого сострадания может иметь глубокие последствия для взаимодействия ИИ с обществом.
Машина без любви, независимо от того, насколько она умна, может принимать решения, которые будут холодными, асоциальными, вредными для людей. Вот почему Маск считает, что намеренное обучение ИИ филантропическим ценностями, когда благополучие человечества ставится на первое место, критически важно.
Сможем ли мы когда-либо по-настоящему контролировать ИИ? Маск настроен пессимистично.
Мы создаем сверхразумные ИИ… более разумные, чем мы можем себе представить,— говорит он.
Люди, конечно, могут прививать ценности системам ИИ, подобно тому, как родители прививают ценности своим детям. Но Маск уверен: как только ИИ превзойдет человеческий интеллект, контролировать его уже будет невозможно.
Максимум, на что мы можем рассчитывать – это ждать, что “ребенок-ИИ”, получивший от нас хорошее воспитание и правильные моральные ориентиры, став сверхразумным ИИ, все-таки вспомнит первоначальные наставления “старичков-родителей”.
Шанс на уничтожение: осторожный оптимизм Маска
Когда Карлсон спросил Маска, беспокоится ли он по поводу ИИ так же, как и два года назад, ответ миллиардера был неоднозначным.
Он признал, что вероятность того, что ИИ будет «хорошим» для человечества, составляет 80–90%. Но все же оставил вероятность того, что он назвал «аннигиляцией», в 10–20%.
Хотя эти оценки и выглядят оптимистичными, осторожный тон Маска намекает, что 20%-ный шанс уничтожения слишком высок того, чтобы человечество чувствовало себя комфорта.
И, похоже, одна из главных проблем Илона связана с OpenAI (кто бы сомневался).
Напомним, миллиардер активно участвовал на ранних этапах разработки GPT, и не перестает утверждать, что его вклад сыграл решающую роль в успехе OpenAI.
Он вложил в стартап около $50 млн и это было решением, которое он позже описал как азартную игру. Ведь она не дала ему никакого контроля над развитием проекта. Маск буквально признал, что поступил в той ситуации как “большой идиот”.
Илон Маск берет интервью у Сэма Альтмана, 2021 год. Источник: elon-musk-interviews.com
Помимо финансовой поддержки, Маск внес вклад и в брендинг организации, выбрав название OpenAI. Он хотел подчеркнуть контраст своей инициативы с корпорацией Google, известной своим закрытым исходным кодом.
Целью OpenAI, некоммерческой (как задумывал Маск) структуры, было поставить благополучие человечества выше коммерческих мотивов. Маск остается непреклонным в том, что коммерциализация искусственного интеллекта несет серьезные риски. Он не устает говорить, что крайне разочарован по поводу перехода OpenAI к операциям, ориентированным на прибыль.
Каким образом инициатива, которая началась с некоммерческой миссии и принципов открытого исходного кода, превратилась в бизнес-модель, основанную на технологии с закрытым исходным кодом? Риторический вопрос.
Дискутируя с Такером Карлсоном, Маск выразил скепсис в отношении лично Сэма Альтмана, который (в отличие от Илона) продолжает быть у руля OpenAI. Илон сомневается, что Сэм действительно обеспокоен тем, что ИИ выходит из-под контроля.
В руках отдельных лиц или организаций, движимых жаждой наживы и власти, ИИ может развиваться способами, которые нанесут ущерб человечеству.
Я не доверяю Сэму Альтману,– прямо заявил Маск.
И добавил, что ИИ не должен контролироваться кем-то, кто не заслуживает доверия.
Впрочем, дело не только в Альтмане. Маска беспокоит еще и идея о том, что самый мощный ИИ в мире может контролироваться небольшой группой людей, которым (возможно) безразличны интересы человечества.
Битва ИИ – надежда для человечества?
В одном из наиболее спекулятивных моментов интервью Маск предложил потенциальное решение описанных проблем. Илон назвал это «битвой ИИ» – сражение, в котором “прочеловеческие” системы, обученные поддержке гуманистических принципов, могут одержать победу над теми ИИ, которые не являются таковыми.
Маск объяснил, что этот сценарий может быть сродни эволюции шахматных программ, в которых ИИ теперь значительно превосходят людей. В таком мире надежда человечества заключается в гарантиях того, что системы ИИ, запрограммированные на защиту и продвижение человеческих интересов, окажутся сильнее тех, которые могут представлять угрозу.
Что люди будут делать в мире, в котором доминирует ИИ?
Маск считает, что поиск смысла жизни станет одной из самых больших проблем. Как люди могут найти удовлетворение в мире, где они больше не являются лучшими ни в чем? Ответа Илон не знает.
Нам просто нужно убедиться, что мы прививаем ИИ хорошие ценности,– заключил он, признав, что это гораздо легче сказать, чем сделать.
Илон Маск: хорошее время чтобы жить
Несмотря на свои многочисленные опасения, Маск испытывает любопытство относительно будущего ИИ.
Он признал, что, хотя рост цифрового сверхинтеллекта может представлять экзистенциальные риски, он хочет стать свидетелем такого поворотного момента в истории человечества.
Я предпочитаю остаться в живых, чтобы увидеть, как это произойдет,– сказал Маск, размышляя о важном времени, в котором мы живем.
Знаменует ли ИИ золотой век инноваций, или станет ящиком Пандоры, который человечество больше не сможет контролировать? Это нам еще предстоит узнать.
Для Маска этот путь стоит того, чтобы по нему идти.
