Gradient ra mắt Echo-2, tăng hiệu suất nghiên cứu AI hơn 10 lần

Gradient ra mắt Echo-2, framework học tăng cường phân tán giúp huấn luyện mô-đun 30B+ với chi phí khoảng 425 USD cho mỗi phiên 9,5 giờ nhờ tách Learner và Actor và dùng RL bất đồng bộ.

Công bố ngày 12/02, Echo-2 được mô tả là giảm chi phí và tăng khả năng mở rộng khi huấn luyện mô hình lớn, đồng thời hỗ trợ kiến trúc plug-and-play và phân phối trọng số nhanh cho tác vụ phân tán.

Echo-2 mang lại gì về chi phí và kiến trúc?

Echo-2 nhắm tới giảm chi phí huấn luyện bằng cách decouple Learner và Actor, chạy reinforcement learning bất đồng bộ với bounded staleness.

Theo Gradient, chi phí huấn luyện các mô-đun 30B+ được đưa về khoảng 425 USD cho mỗi phiên kéo dài 9,5 giờ. Cơ chế tách Learner/Actor giúp phân rã tải huấn luyện và giảm nút thắt cổ chai khi điều phối tác vụ trong môi trường phân tán.

Echo-2 sử dụng kiến trúc ba mặt phẳng (three-plane) để hỗ trợ plug-and-play, cho phép thay thế hoặc lắp ghép thành phần khi triển khai phân tán. Hệ thống cũng đề cập Lattica có thể phân phối trọng số 60GB+ trong vài phút, tối ưu tốc độ truyền và đồng bộ trọng số cho các phiên huấn luyện lớn.

So sánh hạ tầng: RTX5090 phân tán vs A100 tập trung

Bài báo của Gradient cho biết dùng Parallax để lập lịch RTX5090 phân tán khi huấn luyện mô-đun Qwen3-8B rẻ hơn 36% so với dùng A100 tập trung và không bị diverge.

Điểm nhấn là Parallax đóng vai trò lập lịch (scheduling) cho cụm GPU RTX5090 phục vụ huấn luyện phân tán. Tuyên bố 36% rẻ hơn tập trung A100 cho cùng bài toán Qwen3-8B gợi ý chi phí/hiệu năng được tối ưu khi ghép nhiều GPU phổ thông/đa điểm thay vì phụ thuộc vào hạ tầng trung tâm.

Tài liệu cũng nhấn mạnh tính ổn định huấn luyện: không diverge trong kịch bản RTX5090 phân tán. Kết hợp với RL bất đồng bộ (bounded staleness), Echo-2 hướng tới mở rộng quy mô mà vẫn giữ độ ổn định khi cập nhật tham số và đồng bộ tiến trình.

Tuyên bố miễn trừ: Bài viết này chỉ nhằm mục đích cung cấp thông tin dưới dạng blog cá nhân, không phải là khuyến nghị đầu tư. Nhà đầu tư cần tự nghiên cứu kỹ lưỡng trước khi đưa ra quyết định và chúng tôi không chịu trách nhiệm đối với bất kỳ quyết định đầu tư nào của bạn.

Theo Nghị quyết số 05/2025/NQ-CP ngày 09/09/2025 của Chính phủ về việc thí điểm triển khai thị trường tài sản số tại Việt Nam, TinTucBitcoin.com hiện chỉ cung cấp thông tin cho độc giả quốc tế và không phục vụ người dùng tại Việt Nam cho đến khi có hướng dẫn chính thức từ cơ quan chức năng.