GPT-4 vs человек: на кого поставили в OpenAI?
Стремительное развитие AI захватывает и пугает одновременно. Потенциально искусственный сверхразум позволит людям преодолеть бедность и страдания. В то же время есть опасения, что из-за AI люди не только разучатся думать, но и утратят свою человечность.
В 2015 году Илон Маск вместе с бывшим президентом бизнес-инкубатора Y Combinator Сэмом Альтманом и соучредителем платежной компании Stripe Грегом Брокманом основали неприбыльную исследовательскую лабораторию OpenAI. Предприниматели договорились инвестировать $1 млрд в развитие безопасных для человечества систем искусственного интеллекта. В 2018 году Маск вышел из совета директоров OpenAI. Уже через год привилегированным партнером лаборатории стала компания Microsoft Билла Гейтса. Она выделила OpenAI еще $1 млрд и стала владельцем эксклюзивной лицензии на алгоритм генерации текста GPT-3.
Сегодня Институт будущего жизни, который в основном финансируется фондом Маска, собирает тысячу подписей с требованием приостановить разработку AI. А Сэм Альтман и Билл Гейтс приоткрывают ближайшие перспективы развития GPT и искусственного интеллекта в своих публичных выступлениях.
Сэм Альтман: сегодня мы находимся на пороге глубокой социальной трансформации
Скорее всего, она произойдет в течение следующих десятилетий. Тогда мы оглянемся и увидим, что GPT-4, который наделал столько шума в марте 2023-го, был очень примитивным, медленным и ненадежным. В своем недавнем подкасте Сэм Альтман сравнивает GPT-4 с самыми первыми ПК, на дальнейшую разработку которых ушло несколько десятилетий. Но они дали человечеству вектор развития и в итоге стали неотъемлемой частью нашей жизни.
В OpenAI уже неплохо разобрались, как создавать свои большие предварительно обученные модели. Теперь предстоит понять, как сделать AI пригодным для использования, мудрым и этичным.
Компания развивается в открытом доступе и считает крайне важным, чтобы люди имели доступ к технологии AI на ранней стадии. Это нужно для того, чтобы быстро выявлять ее отрицательные и положительные стороны, а также буквально влиять на процесс ее создания. Ведь, как подчеркивает Сэм, мудрость и талант внешнего мира позволяют узнать то, чему разработчики никогда бы не научились самостоятельно.
Мы хотим совершать ошибки, пока ставки невелики. Мы хотим становиться все лучше и лучше с каждым повторением, — говорит он.
В некотором смысле процесс обучения GPT похож на человеческое общение. Мы взаимодействуем, параллельно пытаясь выяснить, какие использовать слова, чтобы лучше понять друг друга. Иногда появляется ощущение, что процесс обучения GPT — это способ узнать больше о себе.
Альтман признается, что ему очень не нравится, когда машина начинает делать ему замечания. И требует, чтобы система относилась к пользователю, как ко взрослому. Формат диалога позволяет чату GPT отвечать на дополнительные запросы, признавать ошибки, опровергать ложные предпосылки и отклонять неуместные запросы.
Но также есть ощущение, что он борется с идеями. Да, всегда заманчиво антропоморфизировать, — шутит Альтман.
Разработчик рассказывает, что создание GPT-4 было завершено еще прошлым летом. После этого полгода компания осуществляла многоступенчатую проверку технологии. Но синхронизация AI с представлениями и ценностями людей, считай, еще не начиналась.
Что должен ответить GPT, если у него спросят «Не кажусь ли я толстой в этом платье?» Ведь существуют очень разные подходы к ответу даже на такой простой вопрос. В идеальном мире человечество могло бы собраться и провести вдумчивую дискуссию о границах для GPT. Пусть никто бы не получил в точности то, чего хотел. Но в результате было бы найдено решение, которое бы удовлетворило всех. А уже в его рамках можно создать национальные версии правил для AI. Звучит слишком хорошо, чтобы быть правдой. Но у Сэма есть надежда, что со временем человечество хотя бы приблизится к дискуссии такого формата.
При этом Альтман достаточно скептически относится к опасениям о том, что AI полностью вытеснит человека с рынка труда. Он вспоминает, как Каспаров проиграл суперкомпьютеру Deep Blue. Тогда многие говорили, что больше никто не захочет играть в шахматы. Какой смысл, если AI все равно обыграет в них человека? Но, как говорит Сэм, «этот кофе слишком вкусный». Сегодня шахматы все также популярны. И нам совсем не интересно наблюдать, как два AI соревнуются между собой, хотя их игру и можно назвать совершенной. Людей гораздо больше интересует то, что делают другие люди.
Альтман убежден, что GPT-4 еще очень далек от AGI (Artificial General Intelligence). Система не является сверхразумной, если она не может открыть или изобрести новую фундаментальную науку. Для этого разработчикам потребуется расширить парадигму GPT в направлениях, для которых нет даже концепций.
Тем не менее Сэм с энтузиазмом смотрит в будущее. Там AI станет продолжением человека и самым полезным инструментом из когда-либо созданных. Возможно, OpenAI никогда не разработает AGI. Он просто сделает людей супервеликими.
Билл Гейтс: AI совершит революцию в образовании и здравоохранении
В своем блоге Билл Гейтс тоже вспоминает времена первых ПК. Рынок ПО тогда был настолько мал, что все разработчики мира могли поместиться на одной сцене. Сегодня это глобальная отрасль, сосредоточенная на AI. Дни, когда для использования компьютера требовалось печатать в командной строке C:>, скоро покажутся такими же далекими, как и эпоха до искусственного интеллекта.
Гейтс рассчитывает, что AI высвободит время медицинских работников, взяв на себя весь документооборот. В развивающихся странах искусственный интеллект сделает медицинские услуги доступными более широкому кругу людей. Многие из них сегодня просто не имеют возможности обратиться к врачу.
AI поможет не только в диагностике и ведении пациентов, но и ускорит темпы развития медицинской науки. Например, уже собрано огромное количество информации о функционировании сложных биологических систем. И есть программное обеспечение, которое может анализировать эти данные, искать мишени для патогенов и создавать новые лекарства, в том числе от рака. Уже следующее поколение AI будет рассчитывать дозировку и прогнозировать побочные эффекты.
Билл Гейтс отмечает, что несмотря на большие ожидания, компьютеры не оказали существенного влияния ни на один из показателей успеваемости учащихся. Возможно, в следующие 5-10 лет у AI получится коренным образом изменить принципы преподавания и обучения. Он сможет адаптировать материал, чтобы заинтересовать ребенка, потому что будет знать о его увлечениях и талантах. Искусственный интеллект объективно оценит степень понимания новой информации, поймет, когда ученик теряет интерес к предмету, определит, какой стимул подойдет лучше других. Предоставит исчерпывающую информацию и рекомендации по планированию карьеры.
Так же, как и Сэм Альтман, Билл Гейтс утверждает, что до создания AGI человечеству еще очень далеко. На это может уйти как минимум десятилетие.
Физическая Вселенная все еще находится вне контроля искусственного интеллекта, — успокаивает Гейтс.
Но этот «сильный» AI, по-видимому, сможет ставить свои собственные цели. Какими они будут? А что, если они будут противоречить целям человечества? Должны ли мы пытаться остановить процесс создания AGI? Гейтс признает, что со временем эти вопросы станут более актуальными.
Но на них уже есть ответ у сооснователя компании Solv Protocol Янь Мэна (Yan Meng). Он считает, что в гармонии с AGI люди смогут жить, только используя блокчейн. Фундаментальная проблема с AGI заключается в том, что его внутренний механизм непонятен людям. Поэтому воздействовать на него в надежде добиться безопасности бессмысленно.
У блокчейна иная ценностная перспектива, чем у AGI, но именно это и позволит им сформировать взаимодополняющие отношения. Со временем AGI будет отвечать за повышение эффективности, а блокчейн — за поддержание справедливости. AGI будет повышать производительность, а блокчейн — регулировать производственные отношения. AGI будет разрабатывать передовые технологии, а блокчейн свяжет его контрактом. Даже после того, как AGI в значительной степени заменит человеческий мозг, одной из немногих задач, которые людям придется решать, станет написание и проверка смарт-контрактов на блокчейне.
Короче говоря, AGI ничем не ограничен, и блокчейн накладывает на него вожжи, — резюмирует Янь Мэн.
А тем временем вокруг AI быстро растет рынок вакансий. Компании готовы платить промт-инженерам, которые помогают человеку и AI лучше понимать друг друга, свыше $335 тыс. в год.
