Две компании по искусственному интеллекту утверждают, что научно-фантастический термин «Grok» принадлежит им, но только одна ускоряет развитие индустрии искусственного интеллекта.
Groq, компания по производству чипов искусственного интеллекта, хочет, чтобы все забыли о язвительном чат-боте Илона Маска с практически таким же именем, Grok. Молниеносные демонстрации от Groq стали вирусными в эти выходные, заставляя текущие версии ChatGPT, Gemini и даже Grok выглядеть медленными. Groq утверждает, что предоставляет «самые быстрые модели больших языков в мире», и сторонние тесты показывают, что это утверждение может быть подтверждено.
Согласно демонстрации, опубликованной на X, Groq производит сотни слов в виде фактического ответа за долю секунды, сославшись на источники. В другой демонстрации основатель и генеральный директор Джонатон Росс позволил ведущему CNN вести разговор в реальном времени с чат-ботом на другом конце света прямо во время прямого эфира. Хотя ChatGPT, Gemini и другие чат-боты впечатляют, Groq может сделать их молниеносными. Достаточно быстро, чтобы иметь практические варианты использования в реальном мире.
Groq создает чипы искусственного интеллекта, называемые языковыми процессорами (LPU), которые, по их утверждению, работают быстрее, чем графические процессоры (GPU) Nvidia. Графические процессоры Nvidia обычно считаются отраслевым стандартом для запуска моделей искусственного интеллекта, но первые результаты показывают, что LPU могут вытеснить их из воды.
Groq — это «машинный вывод», а не чат-бот, как ChatGPT, Gemini или Grok. Это помогает этим чат-ботам работать невероятно быстро, но не заменяет их полностью. На веб-сайте Groq вы можете протестировать различных чат-ботов и посмотреть, насколько быстро они работают с использованием LPU Groq.
По результатам стороннего теста, опубликованного на прошлой неделе, Groq производит 247 токенов в секунду по сравнению с 18 токенами в секунду у Microsoft. Это означает, что ChatGPT мог бы работать более чем в 13 раз быстрее, если бы он работал на чипах Groq.
Чат-боты с искусственным интеллектом, такие как ChatGPT, Gemini и Grok, могли бы быть значительно более эффективными, если бы они работали быстрее. Одним из текущих ограничений является то, что эти модели не могут следовать за человеческой речью в реальном времени; некоторые задержки делают разговоры роботизированными. Недавно Google подделал демонстрацию Gemini, чтобы создать впечатление, что Gemini может вести мультимодальный разговор в реальном времени, хотя на самом деле это не так. Но с увеличенной скоростью Groq это видео может стать реальностью.
До появления Groq Росс был соучредителем подразделения Google по производству микросхем искусственного интеллекта, которое создавало передовые чипы для обучения моделей искусственного интеллекта. По словам Росса, с помощью LPU Groq обходит два узких места LLM, с которыми сталкиваются графические и центральные процессоры: плотность вычислений и пропускная способность памяти.
Имя Grok взято из книги Роберта Хайнлайна «Чужой в чужой стране», вышедшей в 1961 году. Это слово означает «понимать глубоко и интуитивно». Именно поэтой причине многие компании по искусственному интеллекту используют его для описания своих продуктов искусственного интеллекта.
Помимо Groq Росса и Grok Илона Маска, существует также ИТ-компания поддержкой искусственного интеллекта под названием Grok. У Граймс также есть игрушка с искусственным интеллектом, Grok, предположительно названная в честь того, как она и дети Маска произносят «Грокет». Тем не менее, Росс утверждает, что его Groq был первым в 2016 году.