✨ Groq чипувався та обігнав ChatGPT
опубліковано 19 лют 2024
Чат-бот Groq перевершив свого конкурента від OpenAI у швидкості обробки запитів і генерації відповідей!
Groq — чат-бот на базі ШІ-моделі Mixtral. Одна з його головних переваг — швидкість. Groq може обробляти 500 токенів (частин слів) на секунду, що у 8 разів більше за ChatGPT 3.5, який за той самий час обробляє приблизно 40 токенів.
Для досягнення заявлених параметрів команда Groq розробила власний чип — Tensor Processing Unit, призначений для великих мовних моделей (LLM). Новий чип називають Language Processing Unit (LPU або «блок обробки мови»). Це як відеокарта або ASIC-майнер, але спеціально створений для ШІ.
Зазначимо, що OpenAI теж зацікавлена у розробці власного спеціалізованого ШІ-процесора та шукає фінансування для цієї ініціативи.
Проєкт Groq був заснований ще у 2016 році. Це на 7 років раніше за чат-бота Grok від скандально відомого підприємця Ілона Маска. Зважаючи на схожість у назвах, розробники Groq закликали Маска перейменувати свій чат-бот на Slartibartfast (відсилка до серії книг «Путівник Галактикою» Дугласа Адамса).
Більше актуальних новин
