Sakana: переваги менших моделей AI

Фото - Sakana: переваги менших моделей AI
Два талановиті фахівці звільнилися з перспективної роботи в Google, щоб створити новий напрямок систем штучного інтелекту. Вони звернулися до витоків і підглянули свій AI у природи – риб і бджіл.

Ідеологія проєкту розділеного AI Sakana

Кожна із ланок нової системи окремо поступається потужним моделям визнаних лідерів галузі. Але які результати покаже взаємодія цифрових аналогів водних тварин та комах, зібраних у зграї?
 
Свій незвичний AI-проєкт Девід Ха та Лліон Джонс назвали Sakana. Взагалі-то Sakana – назва одного з різновидів риб. Але в широкому сенсі слово застосовується японцями, коли ідеться про складні рибні страви (наприклад, суші) і продукцію бджільництва. Цей брендинг є дуже вдалим, адже уособлює ноу-хау винахідників, які взяли на озброєння модель поведінки відповідних колективних живих істот.
Sakana: AI-рій бджіл і риб Джерело: акаунт Sakana в Х

Sakana: AI-рій бджіл і риб Джерело: акаунт Sakana в Х

У той час, коли основні гравці галузі штучного інтелекту поспішають розробити все більш масивні системи (з усіма наявними ризиками), Sakana прагне використовувати можливості дрібних моделей AI. Вони працюють у колаборації, формуючи «рій» програм, які потенційно можуть відповідати можливостям своїх великих аналогів.
Мурахи пересуваються і динамічно формують міст, який може бути не найміцнішим. Але вони можуть це зробити негайно, адаптуючись до оточуючого середовища. Гадаю, така адаптація – одна з дуже потужних концепцій, які ми бачимо у природних алгоритмах
, – пояснює свою ідею Девід Ха.

Переваги моделі AI Sakana

Зазначимо, що ризики великих мовних моделей можуть виявлятися, наприклад, у тому, що збій однієї крихітної частини програми зумовлює відмову системи загалом. У них просто не передбачені замінники, які тимчасово можуть взяти на себе функції несправного вузла.
Людський мозок, як і раніше, працює краще, ніж найпотужніший AI. Отже, очевидно, що людський мозок робить правильно щось, чого ми ще не зрозуміли
, – розмірковує Джонс.
Інноваційна концепція Девіда Ха та Лліона Джонса може привести до економічно ефективних та адаптованих рішень AI. У перспективі винахідники націлені на створення генеративного штучного інтелекту, який зможе створювати контент з урахуванням підказок.

Передісторія створення Sakana

Девід Ха та Лліон Джонс – не просто проактивні стартапери, які вирішили підзаробити на модній темі. Дослідники є впливовими постатями в індустрії штучного інтелекту. Наприклад, Джонс був співавтором знакової статті «Увага — це все, що вам потрібно», яка побачила світ під егідою Google. Концепції цієї публікації стали основою багатьох популярних AI-продуктів. Досвід Ха включає роботу над генеративним AI у Google Brain.

Під час роботи в токійських офісах технологічного гіганта колеги усвідомили, що великі корпорації схильні суттєво уповільнювати темпи створення інноваційних продуктів через бюрократичну тяганину. Тепер, залишивши Google, творці Sakana значно пришвидшились.