Mô hình Groq AI đang thu hút sự chú ý rộng rãi trên mạng xã hội, thách thức sự thống trị của ChatGPT và gây ra sự so sánh với mô hình riêng của Elon Musk, có tên tương tự là Grok.
Groq, mô hình trí tuệ nhân tạo (AI) mới nhất xuất hiện trên thị trường, đang làm cho mạng xã hội nổi sóng với tốc độ phản ứng và công nghệ mới có thể loại bỏ cần thiết cho GPU.
Groq trở thành hiện tượng qua đêm sau khi các thử nghiệm đánh giá công khai của nó trở nên lan truyền trên nền tảng mạng xã hội X, cho thấy tốc độ tính toán và phản ứng của nó vượt qua AI chatbot phổ biến ChatGPT.
The first public demo using Groq: a lightning-fast AI Answers Engine.
It writes factual, cited answers with hundreds of words in less than a second.
More than 3/4 of the time is spent searching, not generating!
The LLM runs in a fraction of a second.https://t.co/dVUPyh3XGV https://t.co/mNV78XkoVB pic.twitter.com/QaDXixgSzp
— Matt Shumer (@mattshumer_) February 19, 2024
Điều này là do nhóm phát triển Groq đã phát triển một vi mạch tích hợp ứng dụng cụ thể (ASIC) riêng cho các mô hình ngôn ngữ lớn (LLMs), cho phép nó tạo ra khoảng 500 mã thông báo mỗi giây. So với đó, ChatGPT 3.5, phiên bản công khai của mô hình, chỉ có thể tạo ra khoảng 40 mã thông báo mỗi giây.
Groq Inc., nhà phát triển của mô hình này, tuyên bố đã tạo ra đơn vị xử lý ngôn ngữ (LPU) đầu tiên thông qua đó nó chạy mô hình của mình, thay vì sử dụng các đơn vị xử lý đồ họa (GPU) khan hiếm và đắt tiền thường được sử dụng để chạy các mô hình AI.
Wow, that's a lot of tweets tonight! FAQs responses.
• We're faster because we designed our chip & systems
• It's an LPU, Language Processing Unit (not a GPU)
• We use open-source models, but we don't train them
• We are increasing access capacity weekly, stay tuned pic.twitter.com/nFlFXETKUP— Groq Inc (@GroqInc) February 19, 2024
Tuy nhiên, công ty đứng sau Groq không phải là mới. Nó đã được thành lập vào năm 2016, cũng là lúc mà họ đã đăng ký thương hiệu cho tên Groq. Vào tháng 11 năm ngoái, khi mô hình AI riêng của Elon Musk, cũng được gọi là Grok – nhưng được viết bằng chữ k – đang thu hút sự chú ý, các nhà phát triển đứng sau Groq gốc đã đăng một bài đăng trên blog chỉ trích Musk về việc chọn tên:
“Chúng tôi hiểu tại sao bạn muốn sử dụng tên của chúng tôi. Bạn thích những thứ nhanh chóng (tên lửa, siêu vòng xoay, tên công ty chỉ có một chữ cái) và sản phẩm của chúng tôi, Động cơ suy luận Groq LPU, là cách nhanh nhất để chạy các mô hình ngôn ngữ lớn (LLMs) và các ứng dụng trí tuệ nhân tạo sinh khác. Tuy nhiên, chúng tôi phải yêu cầu bạn chọn một tên khác, và nhanh chóng.”
Kể từ khi Groq trở nên nổi tiếng trên mạng xã hội, không có Elon Musk cũng như trang Grok trên X đã bình luận về sự tương tự giữa tên của hai mô hình này.
Tuy nhiên, nhiều người dùng trên nền tảng đã bắt đầu so sánh giữa mô hình LPU và các mô hình phổ biến khác dựa trên GPU.
Một người dùng làm việc trong lĩnh vực phát triển trí tuệ nhân tạo đã gọi Groq là “một trò chơi thay đổi” cho các sản phẩm đòi hỏi độ trễ thấp, điều này ám chỉ đến thời gian mà nó mất để xử lý một yêu cầu và thu được một phản hồi.
side by side Groq vs. GPT-3.5, completely different user experience, a game changer for products that require low latency pic.twitter.com/sADBrMKXqm
— Dina Yerlan (@dina_yrl) February 19, 2024
Một người dùng khác đã đăng rằng các LPU của Groq có thể cung cấp một “sự cải tiến lớn” so với GPU khi đến việc phục vụ các nhu cầu của các ứng dụng trí tuệ nhân tạo trong tương lai và nói rằng nó cũng có thể trở thành một lựa chọn tốt thay thế cho “phần cứng hoạt động cao” của các vi mạch A100 và H100 đang được Nvidia sản xuất.
Điều này xảy ra vào thời điểm trong ngành khi các nhà phát triển trí tuệ nhân tạo lớn đang cố gắng phát triển các vi mạch trong nhà, để không chỉ phụ thuộc vào các mô hình của Nvidia.
Theo tin đồn, OpenAI đang tìm kiếm hàng ngàn tỷ đô la từ các chính phủ và nhà đầu tư trên toàn thế giới để phát triển vi mạch riêng của mình để vượt qua các vấn đề về việc mở rộng sản phẩm của mình.
Tin Tức Bitcoin tổng hợp
