Книга «Грядущая волна»: Мустафа Сулейман об эволюции ИИ-сектора
В 2023 году Мустафа Сулейман, британский исследователь искусственного интеллекта, совместно с Майклом Бхаскаром выпустил занимательную книгу. «Грядущая волна: технология, власть и величайшая дилемма XXI века» предлагает читателю основательный анализ развития ИИ-технологий и того влияния, которое новейшие разработки оказывают на наше мироустройство.
Кроме исследований, Мустафа активно вовлечен в бизнес-среду. Он известен как сооснователь компаний DeepMind и Inflection AI. И предприниматель предупреждает, что ИИ-сектор не лишен собственных рисков, которые нуждаются в срочных профилактических мерах. Его работа предлагает нам путь, который способен помочь доработать глобальный технопрорыв, пока позволяет время.
ИИ-скачок эволюции: природа и особенности технологии
Сулейман посвятил более десяти лет своей жизни научно-исследовательским работам в ИИ-сфере. Мустафа уверен, что технологический скачок наших дней просто уникален как в своих масштабах, так и в своей непредсказуемости. Грядущая его волна, движимая передовыми достижениями ИИ-отрасли, синтетической биологии и ряда других смежных областей, среди которых те же квантовые вычисления, способна перестроить наш мир так, что мы сейчас даже не способны постичь это в полной мере.
Грядущая волна технологического прогресса базируется в первую очередь на двух технологиях универсального назначения, которые способны работать как на самых комплексных, так и на фундаментальных уровнях: речь идет об искусственном интеллекте и синтетической биологии. Впервые основные компоненты нашей технологической экосистемы затронут два краеугольных элемента нашего мира — интеллект и жизнь. Иначе говоря, сейчас технология переживает период трансформации. Это уже не просто инструмент, это инженерия жизни, и она сможет конкурировать и даже превзойти наш интеллектуальный потенциал, ─ Мустафа Сулейман.
Человечество, с одной стороны, успешно перешагнуло несколько технологических этапов, в том числе индустриальную революцию и эру компьютеров. Общественные институты быстро овладели автоматизацией и продолжили эволюционный путь. Так появились представители homo technologicus: современные люди, для которых плоды прогресса стали неотъемлемой частью жизни. Но Сулейман настаивает на том, что современный технобум отличается от эволюционных рывков технологической сферы, с которыми мы сталкивались в прошлом, а последствия безответственного обращения с такими разработками могут выйти за все пределы наших возможностей. Речь идет не просто о более прогрессивной автоматизации и новых методах оцифровки информации: это кардинальные перемены в аспектах человеческой коммуникации и способе взаимодействия с окружающей средой. По мнению предпринимателя из ИИ-отрасли, новый рывок в нашем техноразвитии в перспективе может перекроить многие аспекты жизни индивидов и общества в целом. То, что не менялось веками.
Однако основной посыл книги заключается в вопросе локализации непредсказуемых последствий. Проблема в действительности является серьезной, поскольку технологии способны распространяться и создавать технобумы, которые невозможно контролировать. Соответственно, могут последовать и негативные эффекты. Именно поэтому в XXI веке человечеству предстоит решить колоссальную проблему: сдержать неуёмный потенциал новых технологий.
Парадоксу технологического прогресса тоже посвящена немалая роль. По мере того как растут наши возможности, повышаются и риски. Однако как полный отказ от концепции технопрогресса, так и безудержная свобода технологической эволюции несут в себе равные катастрофические перспективы. Баланс между эксплуатацией технопотенциала и разработкой мер реагирования на непредвиденные последствия технических бумов является потенциальным выходом из этой кризисной ситуации. Более того, развитие технологий необходимо сдерживать, иначе обеспечить человечеству процветание и благополучие будет куда сложнее, считает Мустафа.
AlphaGo: ИИ, что изменил многое
Из личных свершений на ИИ-арене Сулейман выделяет AlphaGo, программу для игры в Го на основе искусственного интеллекта. Ее разработали в DeepMind, и железный разум смог одолеть оппонента-человека в 4 партиях из 5. Невероятный успех на пути ИИ-эволюции, поскольку игра и ее правила сами по себе довольно сложные. Мустафа приводит пример для иллюстрации: «После трех ходов в Го на игровом поле уже появляется порядка 200 квадриллионов (2 x 10^15) потенциальных комбинаций». А значит, это была не просто победа в запутанной настольной игре, это доказательство того, что ИИ способен решать задачи, которые прежде считались исключительно человеческой компетенцией. Успех AlphaGo в 2016 году ознаменовал собой старт нового витка в развитии машинного обучения, а также продемонстрировал потенциал ИИ к обучению и адаптации.
Синтетическая биология
Область синтетической биологии также описана в труде Сулеймана. По мнению Мустафы, ее синтез с ИИ может предвещать новый рывок техноэволюции, поскольку использование мощностей искусственного интеллекта позволит существенно ускорить биологические исследования и разработку практических решений сферы. В книге представлены варианты будущего, где синтетическая биология, движимая ИИ, будет представлять собой существенный стимул для революционных открытий из области генной инженерии и здравоохранения. Вместе с тем ученый призывает относиться к разработке этических норм и мер безопасности со всем вниманием, так как подобные меры предосторожности способны предотвратить эксцессы, что по масштабам вполне могут конкурировать с, например, утечкой нового штамма вируса из биолаборатории. И эти угрозы могут быть еще более смертельно опасными.
Разработки ИИ: темпы развития и внедрения
Сулейман особо акцентирует внимание на ускорении развития ИИ-сектора и тенденции, которая образовалась вокруг нового технобума. В настоящее время решения, основанные на железном разуме технологии, все охотнее интегрируют в работу разнообразных отраслей, будь то здравоохранение или финансовые учреждения. Тот же ChatGPT от OpenAI: старт нейросети породил целое направление ИИ-чатботов, благодаря которому сай-фай истории о разговорах с роботами перестали быть далекой мечтой.
ИИ это гораздо более глубокая технология с грандиозным потенциалом. Ее риски не в чрезвычайной популярности,а в том, что человечество не понимает масштаба технопрорыва будущего. Речь идет не об очередном инструменте или платформе, а о метатехнологии, которая способна трансформировать сам техноконцепт, ядро будущих достижений технического прогресса, которая сама способна образовывать как инструменты, так и платформы. Целый генератор систем. Систем разнообразных направлений деятельности. Просто взгляните немного шире на перспективу: мы стоим на пороге переломного этапа истории нашего вида, — Мустафа Сулейман.
Прорывы из ИИ-отрасли, естественно, сами по себе не являются признаком существенных сдвигов в разработке общего искусственного интеллекта или же AGI. Такие технологии позволили бы машине превзойти когнитивные способности даже самых светлых умов планеты. Но тем не менее подобные разработки больше не принадлежат жанру научной фантастики.
Мировая гонка ИИ-технологий и ее ключевые игроки
В наше время технологическое превосходство правит миром. И Сулейман подмечает, что среди государств нашей планеты все усиливается борьба за передовые ИИ-позиции. Ее геополитические последствия не менее серьезны, поскольку технологии железного разума вышли за рамки инструмента для стимуляции экономического развития. Теперь искусственный интеллект применяют и в вооруженных силах. Для здравой конкуренции и недопущения преступной реализации подобных инноваций чрезвычайно важно установить глобальное сотрудничество государств, что могло бы регламентировать ответственное использование ИИ-технологий. К тому же разработка этических норм тоже способна помочь в этом деле.
Помимо этого, Мустафа Сулейман упоминает и растущую важность проблемы нехватки мощностей, с которой столкнулись компании-производители чипов. Микросхемы критически важны для ИИ-сферы, это ее нейроны. И спрос на высокопроизводительные и энергоэффективные полупроводниковые чипы только растет. Комплексность ИИ-алгоритмов продолжает возрастать, и для работы систем требуется все более и более мощное оборудование.
Производители просто не способны закрыть весь спрос. И это настоящий вызов для техносектора, который в то же время сулит большие возможности для тех, кто пойдет по пути полупроводниковых инноваций. Естественно, в этой отрасли существуют крупные игроки, такие как NVIDIA, Taiwan Semiconductor Manufacturing Company (TSMC) и ASML. Эти компании играют ключевую роль в производстве так необходимых ИИ-сектору комплектующих. Но все же дефицит чипов существенно повышает градус напряженности в мировой гонке развития искусственного интеллекта. Именно поэтому многие известные личности из индустрии, как тот же Сэм Альтман из OpenAI, уже подумывают о запуске собственных предприятий для производства чипов.
Возможно ли локализовать потенциальную угрозу?
Нарратив книги Сулеймана балансирует между оптимизмом и осмотрительностью. Однако акцент на разрушительном потенциале ИИ все же прослеживается на страницах труда Мустафы. Ученый многократно подчеркивает важность разработки эффективных мер сдерживания, и более того, предлагает 10-этапный план для реализации этой задачи. Среди его пунктов звучит идея о том, что бизнес и правительственные органы должны добровольно сотрудничать между собой как на локальном, так и на международном уровнях, прилагая все возможные усилия для смягчения потенциальных рисков ИИ-эволюции. Сдержать их будет непросто, объясняет Сулейман. Для этого потребуется адаптироваться к вызовам и создавать надлежащие механизмы контроля. Как появление ядерной бомбы, так и рождение отрасли социальных сетей влекли за собой серьезные вызовы и непредвиденные последствия. История циклична, и то же с большой вероятностью ждет и технобум искусственного интеллекта.
В «Грядущей волне» мы видим будущее, в картине которого ИИ-технологии уже занимают центральное место. Мустафа Сулейман рассмотрел ключевые вызовы и сценарии, которые, несмотря на свой шарм антиутопии, могут послужить настоящим предостережением для людей. Особенно, если мы и дальше будем наблюдать за развитием железного разума сложа руки. Эта книга по сути своей — призыв к обществу: мы должны принять будущее и подойти к этому вопросу со всей сознательностью, ответственностью и дальновидностью. В конце концов мощь технологий в руках злых людей может быть столь же разрушительна и смертельна, как и граната в руках обезьяны.
Тем, кто ищет понимания эволюционных перспектив сферы наших технологий и стремится осознать степень морально-этической ответственности, которая теперь лежит на плечах человечества, «Грядущая волна» совершенно точно послужит работой, что достойна внимания.
