⚡ Google выпустил языковую модель Gemini 1.5
опубликовано 15 февр 2024
Компания Google представила новую версию своей языковой модели — Gemini 1.5. В первую очередь доступ к ней получат только корпоративные пользователи и разработчики, но со временем с ней смогут работать и обычные пользователи. По предварительным тестам, новая модель превосходит предыдущую версию практически на 100%.
В частности, производительность Gemini 1.5 Pro на 87% превышает показатели первой версии и даже приближается к уровню Gemini Ultra. Этого удалось достичь благодаря методу машинного обучения «Смесь экспертов», которая позволяет объединить несколько небольших языковых моделей в одну большую без необходимости запускать всех при каждом запросе.
Помимо этого, новая языковая модель имеет гораздо больше доступных токенов (1 млн), что позволяет обрабатывать объемные запросы. Для сравнения, у популярной модели GPT-4 всего 128 000 токенов, а у обычной Gemini Pro всего 32 000. По словам исполнительного директора компании Сундара Пичаи, это примерно 11 часов видео.
Я рассматриваю это как один из самых больших прорывов, которые мы сделали, — отмечает Сундар.
Несмотря на планы разработчиков компании по дальнейшему увеличению количества токенов до 10 млн, сейчас за использование 1 млн придется доплачивать. Однако все бесплатные приложения Google будут работать исключительно на Gemini 1.5 Pro с использованием 125 000 токенов, что, по мнению Пичаи, никак не повлияет на обычных пользователей.