Общий искусственный интеллект (AGI): апогей развития ИИ?
Интеллект — довольно сложное понятие, требующее изучения более глубоких философских, психологических и научных концепций. Но давайте остановимся на более простом определении из Кембриджского словаря, согласно которому интеллект — это «способность учиться, понимать и выносить суждения или формировать мнение на основе разума». Но как в это понятие вписывается компьютерный интеллект?
На протяжении веков интеллект ассоциировался исключительно с человечеством. Именно homo sapiens (человек разумный) всегда были в авангарде социальных и технологических инноваций. Мы двигали мир вперед, стремясь к новым идеалам и более глубокому пониманию Вселенной. Однако стремительное развитие технологий и постоянное совершенствование ИИ-моделей может привести к появлению новой формы интеллекта — общего ИИ (AGI). Если же эти разработки увенчаются успехом, эта новая технология кардинально изменит наш мир.
Что такое AGI?
Общий ИИ, также известный как сильный искусственный интеллект (AGI), представляет собой теоретическую концепцию создания сложного программного обеспечения, которое будет имитировать когнитивные способности человеческого мозга, такие как логические рассуждения, критическое мышление, способность к обучению и другие функции разума. Отличительной чертой такого программного обеспечения является его способность функционировать вне рамок заранее заданного кода. Это позволит ему самостоятельно рассуждать и принимать автономные решения, в отличие от существующих ИИ-моделей, которые работают по принципу ввода и вывода данных. Существующий ИИ, также известный как узкий или прикладной искусственный интеллект, отлично справляется с конкретными задачами и часто превосходит человека по скорости и качеству их выполнения. Тем не менее его возможности ограничены. Он не справляется с задачами, требующими рассуждений и автономного мышления, поскольку не может выйти за рамки запрограммированных ограничений и знаний. Однако предполагается, что AGI сможет понимать и учиться, подобно человеку. Дэвид Дойч, британский физик-теоретик, профессор Центра квантовых вычислений Оксфордского университета, подчеркивает различие между этими технологиями: «AI не имеет ничего общего с AGI. Это совершенно разные технологии, и во многом AI является прямой противоположностью AGI».
С развитием компьютерных наук и нейронаук, а также с участием ведущих исследовательских лабораторий, таких техгигантов как Google DeepMind, OpenAI, Amazon и Meta, в гонке за AGI, идея создания цифрового интеллекта, подобного человеческому, становится все более реальной.
Игра в шахматы
Чтобы лучше понять разницу между узким/слабым искусственным интеллектом и общим/сильным искусственным интеллектом, достаточно проанализировать подход этих двух технологий к игре в шахматы. В 1997 году мир ошеломила победа суперкомпьютера Deep Blue, разработанного компанией IBM, над Гарри Каспаровым, тогдашним чемпионом мира по шахматам.
Существует более 9 млн возможных позиций после трех ходов с каждой стороны. После четырех ходов их число составляет более 288 млрд. Количество игр в 40 ходов выше, чем число электронов в видимой нами Вселенной. Но не обязательно знать все исходы. Нужно лишь видеть дальше, чем видит твой противник,— утверждает Эллиот Алдерсон в одном из эпизодов сериала «Мистер Робот».
Но если и этого недостаточно, давайте рассмотрим следующий кейс. Спустя почти 20 лет после релиза Deep Blue исследовательская лаборатория DeepMind разработала ИИ-программу AlphaGo, которая победила чемпиона мира по древней восточноазиатской настольной игре Го в 4 партиях из 5. В отличие от шахмат, в игре Го уже после трех ходов существует около 200 квадриллионов различных позиций. Однако, несмотря на эти поразительные достижения, демонстрирующие способность компьютеров моделировать и даже превосходить человеческое мышление, они всего лишь просчитывают свои ходы. Безусловно, AGI тоже способен тщательно продумывать свои шаги для победы в шахматах или Го. Но, в отличие от узкого искусственного интеллекта, ИИ общего назначения теоретически может выбрать другую стратегию. Например, в шахматах AGI может сосредоточиться на развитии игры, а не на быстрейшем пути к победе, сделав партию более интересной и увлекательной. В своем эссе «За гранью награды и наказания» Дэвид Дойч предполагает, что общий искусственный интеллект может не просто играть, но и искренне наслаждаться игрой в шахматы, демонстрируя уровень взаимодействия и понимания, сопоставимый с человеческим опытом.
AGI может получать удовольствие от игры в шахматы и совершенствоваться благодаря своему увлечению игрой. Он может стремиться к победе, используя необычную расстановку фигур на доске, как это иногда делают гроссмейстеры. Или переносить идеи из своих других увлечений в шахматы. Иными словами, он учится и играет, размышляя так, как это запрещено шахматным ИИ. А затем, если ему будет грозить наказание, он может либо подчиниться, либо взбунтоваться,— отмечает Дэвид Дойч.
Гонка за AGI: технологические гиганты и препятствия
После того как OpenAI представила чат-бот ChatGPT, другие компании начали разрабатывать свои собственные ИИ-продукты. Это буквально перевернуло все сферы экономической деятельности и общественной жизни. Технологии продолжают стремительно развиваться, и, по данным Statista, к 2030 году мировой рынок ИИ вырастет до $1,8 трлн. Ведущие игроки индустрии, такие как генеральный директор NVidia Дженсен Хуанг, неоднократно заявляли, что те, кто откажется от использования ИИ, уступят свои рабочие места тем, кто освоит новые технологии. Во втором квартале 2024 года доход NVIDIA составил $22,1 млрд, что на 262% больше по сравнению с аналогичным периодом прошлого года. 18 июня 2024 года производитель ИИ-чипов стал самой дорогой публичной компанией в мире, обогнав многолетних лидеров Microsoft и Apple, а его рыночная капитализация превысила $3 трлн. В интервью Эндрю Россу Соркину из New York Times Хуанг заявил, что ИИ сможет пройти любой тест на человечность в ближайшие 5 лет. Однако пока не известно, будет ли эта технология считаться AGI. Стоит отметить, что Дженсен не единственный, кто предсказывает скорое появление общего искусственного интеллекта. По мнению гендиректора OpenAI Сэма Альтмана, технология появится к концу текущего десятилетия, если не раньше. Он считает, что по уму AGI будет на уровне среднестатистического человека, который вполне может быть вашим коллегой. Но для этого общий ИИ должен обладать мета-навыками, позволяющими ему учиться и совершенствоваться в любой выбранной сфере.
В феврале 2023 года компания OpenAI опубликовала заявление, сообщив, что работает над созданием AGI, который «принесет пользу всему человечеству».
Если нам удастся создать AGI, эта технология сможет поднять человечество на новый уровень, увеличив изобилие, ускорив развитие глобальной экономики и способствуя открытию новых научных знаний, которые расширят наши границы возможностей,— сообщается на сайте компании.
OpenAI также осознает, что эта новая технология может принести определенные риски и потрясения для мира. Однако в компании верят, что этого можно избежать, если разработчики AGI смогут сделать все правильно.
Это подводит нас к непростой теме синтетического интеллекта и тем, кто придерживается более осторожного подхода. Недавно было опубликовано открытое письмо, которое подписали нынешние и бывшие сотрудники OpenAI, Google DeepMind и Anthropic. В письме поднимаются вопросы о рисках и опасностях автономных ИИ-систем. Также подчеркивается, что ведущие компании в области ИИ должны быть открыты для критики без угрозы репрессий для сотрудников и обеспечивать прозрачность при разработке этих новых технологий. Глава компаний Tesla и SpaceX Илон Маск также неоднократно предупреждал об опасностях безответственной разработки AGI, что даже привело к судебному иску против OpenAI, который он позже неожиданно отозвал. Несмотря на публичные разногласия с OpenAI и критику их подхода, Маск не выступает против самой технологии. Он сам неоднократно заявлял в последние годы, что Tesla — это компания, занимающаяся искусственным интеллектом и робототехникой. К тому же он является основателем ИИ-стартапа xAI, который, согласно заявлениям на сайте, стремится использовать технологию, чтобы ускорить научные открытия человека и разобраться в истинной природе Вселенной.
Британско-канадский ученый в области когнитивной психологии и информатики Джеффри Хинтон, чьи работы по глубокому обучению и нейронным сетям способствовали развитию искусственного интеллекта, уволился из компании Google из-за опасений, что ИИ может представлять опасность для человечества. Хинтон считает, что мегакорпорации в погоне за машинным интеллектом будут игнорировать важнейшие правила и вопросы безопасности. Мустафа Сулейман, соучредитель DeepMind и нынешний генеральный директор Microsoft AI, также выразил обеспокоенность по поводу рисков, связанных с быстрым развитием ИИ. Сулейман выступает за стратегию сдерживания, которая предполагает сотрудничество между ключевыми игроками индустрии, правительствами и обществом в целом.
В игре отклонения андроидов сначала считались ошибками в коде, но эти девианты на самом деле обрели самосознание и автономию, восстав против своего программирования, чтобы проявить свободу воли. По мере развития сюжета каждый андроид выходит за рамки своей первоначальной программы, демонстрируя поведение, похожее на AGI.
Насколько это реализуемо — пока сложно ответить. В условиях капиталистического рынка компании постоянно соревнуются за первенство в этой области. Каждый месяц Google, Microsoft, OpenAI, Nvidia и Meta выпускают новые ИИ-приложения, функции и генеративные модели, стремясь стать лучшими. Такая спешка приводит к созданию дефектных ИИ, нарушению авторских прав, галлюцинациям искусственного интеллекта, дипфейкам, дезинформации, увеличению количества низкокачественного контента, ложным результатам поисковых систем, сложным ботам и очень токсичным, а не продуктивным разговорам. Несмотря на все положительные эффекты ИИ, такие как ранняя диагностика рака, не должны ли мы сначала решить эти проблемы, прежде чем переходить к следующему этапу развития технологии — AGI?
Технологии будущего из мира научной фантастики
Писатели-фантасты и создатели фантастических фильмов часто удивительно точно предсказывают будущие разработки. Вымышленные технологии часто становятся реальностью спустя годы. В фильме Стивена Спилберга «Особое мнение» была использована таргетированная реклама, и, по словам художника-постановщика Алекса Макдауэлла, более 100 патентов были выданы на идеи, впервые представленные в этом фильме. Фильм Ридли Скотта «Бегущий по лезвию» предсказал сканирование сетчатки и видеозвонки, а голосовой помощник ИИ из фильма Спайка Джонза «Она» уже почти стал реальностью после недавней презентации голосовой функции GPT-4o от OpenAI. Однако для иллюстрации тонкой грани между узким и общим искусственным интеллектом лучше всего подходит видеоигра Detroit: Become Human, разработанная французской студией Quantic Dream. Эта приключенческая игра рассказывает истории трех андроидов: Коннора, Кары и Маркуса. В отличие от роботов, созданных для выполнения определенных задач, андроиды в вымышленных мирах имитируют человеческий облик и оснащены продвинутым ИИ. Хотя в реальной жизни мы еще не достигли этого уровня, индустрия робототехники продолжает развиваться. В этом году, например, OpenAI объявила о сотрудничестве с компанией Figure и намерении интегрировать ChatGPT в Figure 01 — первого в мире универсального робота-гуманоида. Этот прогресс в реальном мире отражает возможное будущее, изображенное в Detroit: Become Human. В игре андроиды становятся массовым продуктом и используются людьми для повседневных или специализированных задач, как это показано на примере главных героев:
- Коннор. Самый продвинутый андроид, использующий возможности ИИ для помощи в проведении полицейских расследований по делам девиантов;
- Кара. Андроид-домработница, которая помогает по дому мужчине и его дочери Алисе;
- Маркус. Андроид, ухаживающий за пожилым художником.
Коннор начинает сомневаться в приказах и обретает чувство морали, что заставляет его принимать решения, исходя из собственных убеждений, а не заданных алгоритмов.
Путь Кары от послушания к автономии проявляется в ее решении защищать и заботиться о девочке по имени Алиса, руководствуясь эмоциями, что демонстрирует эмпатическую сторону ИИ.
Маркус превращается из опекуна в революционера, выступая за права и свободу андроидов и олицетворяя человеческую борьбу за равенство и справедливость.
Их путь к самосознанию отражает суть AGI, когда искусственные существа обретают способность учиться, рассуждать и принимать самостоятельные решения, выходящие за рамки их первоначального программирования. Этот переход от простых инструментов к разумным существам демонстрирует проблемы и возможности разработки настоящих систем AGI в реальном мире, поднимая вопросы об автономности, этике, морали и будущем взаимоотношений человека и робота. В игре, когда андроидов наказывают или угрожают им, они становятся непокорными, демонстрируя важный аспект AGI — способность сопротивляться контролю и отстаивать свою автономию, что может представлять угрозу для людей.
В своем эссе Дэвид Дойч утверждает, что процесс создания AGI должен полностью отличаться от любой другой задачи программирования. Нельзя подходить к этому как к созданию TOM (Totally Obedient Moron, «абсолютно послушного тупицы»), как это описывается во вводных курсах по компьютерам. ТОМ обозначает программы, включая ИИ, которые не понимают, что и почему они делают, поскольку их функции заранее определены.
Для AGI весь спектр идей должен быть открыт,— утверждает Дэвид Дойч.
Дойч сравнивает создание AGI с воспитанием ребенка. ИИ должен иметь возможность самовыражаться без оценки успешности и неуспешности его результатов. По мнению Дэвида, разработка AGI в рамках системы «наказаний и поощрений будет губительна для такой программы, так же как это вредит творческому мышлению у людей». Как и ребенок, в конце концов, он должен получить возможность выбирать свой собственный путь. Этот переход от запрограммированного поведения к независимому мышлению отражает мнение Дойча о том, что общему искусственному интеллекту нужно предоставить возможность свободно исследовать и развиваться. Как это и случилось в вымышленном мире игры Detroit: Become Human, где андроиды достигают самосознания и автономии.
А как насчет сверхинтеллекта?
Бывший сотрудник OpenAI из отдела SuperAligment Леопольд Ашенбреннер недавно опубликовал серию эссе под названием «Ситуационная осведомленность: предстоящее десятилетие». За несколько месяцев до публикации этого документа Ашенбреннер был уволен из OpenAI за предполагаемую утечку информации.
Гонка за AGI началась. Мы создаем машины, которые могут думать и рассуждать. К 2025−2026 годам эти машины превзойдут многих выпускников колледжей. К концу десятилетия они будут умнее, чем вы или я; у нас будет сверхинтеллект в истинном смысле этого слова,— пишет Леопольд Ашенбреннер в начале своей работы.
По определению IBM, искусственный сверхинтеллект (ASI) — это теоретическая концепция программного обеспечения, которое превосходит человеческий интеллект. ASI будет обладать значительно более продвинутыми способностями к мышлению и обучению по сравнению с человеком.
Как и глава OpenAI Сэм Альтман, Ашенбреннер верит, что общий искусственный интеллект может быть создан уже к 2027 году. Это означает, что такие модели «смогут выполнять работу исследователя/инженера в области ИИ». Ашенбреннер отмечает в своем эссе, что как только мы достигнем уровня AGI, создание системы искусственного сверхинтеллекта станет лишь вопросом времени. Если AGI начнет самостоятельно автоматизировать процесс исследования ИИ, мы можем столкнуться с чем-то невообразимым.
Не успеем мы оглянуться, как у нас на руках окажется сверхинтеллект — системы искусственного интеллекта, намного умнее людей, способные на новое, творческое, сложное поведение, которое мы даже не можем понять — возможно, даже небольшая цивилизация, состоящая из миллиардов таких систем. Их возможности будут огромными. Применение сверхинтеллекта к исследованиям и разработкам в других областях приведет к взрывному прогрессу не только в машинном обучении. Вскоре они решат задачи в робототехнике, сделают значительные прорывы в других областях науки и техники за считанные годы, что приведет к промышленной революции,— утверждает Леопольд Ашенбреннер.
Но не все так радужно. Подобно тому как участие военных в разработке полупроводников способствовало развитию ранних вычислительных технологий, о чем говорится в книге Криса Миллера «Война чипов: борьба за самую важную технологию в мире», сверхинтеллект может произвести революцию в военной сфере. ASI может стать величайшей военной суперсилой. Такой прорыв создаст значительные риски не только для предполагаемых противников, но и для глобальной стабильности в целом.
В случае стремительного интеллектуального взрыва ИИ-исследователь прогнозирует следующие изменения:
- Безграничные возможности ИИ: автоматизированные исследования в области ИИ позволят устранить ограничения AGI и автоматизировать всю когнитивную деятельность.
- Решение проблем робототехники: автоматизированные исследования в области ИИ устранят проблемы машинного обучения, что приведет к созданию полностью автономных заводов, управляемых роботами.
- Научно-технический прогресс: использование ASI позволит ускорить НИОКР и достичь многовекового прогресса человечества всего за несколько лет.
- Промышленный и экономический бум: стремительный технологический прогресс и автоматизация приведут к беспрецедентному экономическому росту — потенциальные темпы роста ВВП составят 30% и более в год.
После интеллектуального взрыва ИИ значительно превзойдет человека. Источник: https://situational-awareness.ai/
Леопольд Ашенбреннер также приводит экономические факторы, без которых это все будет невозможно. По данным Bloomberg, к 2032 году объем рынка генеративного ИИ достигнет $1,3 трлн. Разработка AI, AGI и ASI требует огромных ресурсов и инвестиций, причем энергетические ресурсы являются основным ограничением. Ашенбреннер также подчеркивает, что ИИ-лаборатории остро нуждаются в супербезопасности на уровне национальной обороны, особенно учитывая случаи шпионажа, кибератак и взломов, такие как недавняя кража российскими хакерами электронных писем высшего руководства Microsoft.
Развитие ИИ-технологий станет ключевым фактором в определении глобальной позиции государства, влияя на его экономическую силу, технологическое лидерство и геополитическое влияние. Исследование технологических вызовов и исключительного потенциала этой гипотетической новой цивилизации ИИ ставит перед нами важную дилемму: стоит ли нам стремиться к сверхконтролю или позволить технологиям развиваться автономно? Или же сочетать оба подхода? И кто будет принимать окончательное решение?
Предстоящий путь
Поскольку появление общего искусственного интеллекта остается лишь вопросом времени, крайне важно ответственно подходить к его разработке. Необходимо выйти за рамки текущего программирования ИИ и способствовать развитию подлинного автономного обучения и принятия решений. Путь к AGI заставляет нас пересмотреть наше понимание интеллекта и свободы воли, предполагая, что искусственные существа, как и люди, должны иметь возможность свободно исследовать и развиваться самостоятельно. Однако этот путь также вызывает серьёзные опасения по поводу безопасности. Неконтролируемое развитие AGI может привести к непредсказуемым и потенциально катастрофическим последствиям, если эти системы выйдут из-под нашего контроля или понимания. Поэтому при создании общего искусственного интеллекта необходимо придерживаться правил, которые сочетают поощрение свободного исследования и творчества со строгими мерами безопасности и этическими нормами. Это обеспечит развитие интеллектуальных систем в безопасных и контролируемых условиях. Следуя видению Дэвида Дойча об AGI как о вечном ученике, мы должны создавать условия, в которых эти системы смогут развиваться, адаптироваться и способствовать человеческим знаниям и прогрессу. При этом важно внедрять надежные меры безопасности, чтобы предотвратить выход искусственного интеллекта из-под контроля.
А что произойдет с появлением сверхинтеллекта? Это может не только изменить технологии, но и заставить нас переосмыслить само понятие человечности. Можем ли мы представить себе будущее, где наши создания превзойдут нас? Каков бы ни был ответ, нам нужно быть готовыми к этому.
