Sakana: преимущества меньших моделей AI
Два талантливых специалиста уволились с перспективной работы в Google, чтобы создать новое направление систем искусственного интеллекта. Они обратились к истокам и подсмотрели свой AI у природы – рыб и пчел.
Идеология проекта разделенного AI Sakana
Каждое из звеньев новой системы по отдельности уступает мощным моделям признанных лидеров отрасли. Но какие результаты покажет взаимодействие цифровых аналогов водных животных и насекомых, собранных в стаи?
Свой необычный AI-проект Дэвид Ха и Ллион Джонс назвали Sakana. Вообще, Sakana – название одного из видов рыб. Но в широком смысле слово применяется японцами, когда речь идет о сложных рыбных блюдах (например, суши) и продукции пчеловодства. Этот брендинг выглядит очень удачным, ведь он олицетворяет ноу-хау изобретателей, взявших на вооружение модель поведения соответствующих коллективных живых существ.
Sakana: AI-рой пчел и рыб Источник: аккаунт Sakana в Х
В то время как основные игроки отрасли искусственного интеллекта спешат разработать все более массивные системы (со всеми вытекающими рисками), Sakana стремится использовать возможности мелких моделей AI. Они работают в коллаборации, формируя «рой» программ, которые потенциально могут соответствовать возможностям своих крупных аналогов.
Муравьи передвигаются и динамично формируют мост, который может быть не самым прочным мостом. Но они могут сделать это немедленно. адаптируясь к окружающей среде. Я думаю, что такая адаптация – одна из очень мощных концепций, которые мы видим в естественных алгоритмах, – поясняет свою идею Дэвид Ха.
Преимущества модели AI Sakana
Отметим, что риски больших языковых моделей могут проявляться, например, в том, что сбой одной крохотной части программы вызывает отказ системы в целом. В них просто не предусмотрены заменители, которые временно могут взять на себя функции неисправного узла.
Человеческий мозг по-прежнему работает лучше, чем наш лучший AI. Итак, очевидно, что человеческий мозг делает правильно что-то, чего мы еще не поняли, – рассуждает Джонс.
Инновационная концепция Дэвида Ха и Ллиона Джонса может привести к экономически эффективным и адаптируемым решениям AI. В перспективе изобретатели нацелены на создание генеративного искусственного интеллекта, который сможет создавать контент на основе подсказок.
Предыстория создания Sakana
Дэвид Ха и Лион Джонс – не просто проактивные стартаперы, решившими подзаработать на модной теме. Исследователи являются влиятельными фигурами в индустрии искусственного интеллекта. Например, Джонс был соавтором знаковой статьи «Внимание — это все, что вам нужно», выпущенной под эгидой Google. Концепции этой публикации легли в основу многих популярных AI-продуктов. Опыт Ха включает работу над генеративным AI в Google Brain.
Во время работы в токийских офисах технологического гиганта, коллеги осознали, что крупные корпорации склонны существенно замедлять темп создания инновационных продуктов из-за бюрократической волокиты. Теперь, вне Google, у создателей Sakana скорости намного больше.
