Huawei đã ra mắt mẫu lưu trữ trí tuệ nhân tạo (AI) mới, OceanStor A310, tại GITEX GLOBAL 2023 vào tuần trước, đánh dấu nỗ lực giải quyết một số thách thức nhất định trong ngành xung quanh các ứng dụng mô hình lớn.
Được thiết kế cho kỷ nguyên của các mô hình AI lớn, OceanStor A310 nhằm mục đích cung cấp giải pháp lưu trữ cho đào tạo mô hình cơ bản, đào tạo mô hình ngành và suy luận trong các mô hình kịch bản phân đoạn.
Hãy tưởng tượng OceanStor A310 như một thủ thư siêu hiệu quả trong một thư viện kỹ thuật số rộng lớn, nhanh chóng tìm nạp các mẩu thông tin.
Để so sánh, một hệ thống khác—ESS 3500 của IBM—là một thủ thư chậm hơn. OceanStor A310 có thể lấy thông tin càng nhanh thì các ứng dụng AI có thể hoạt động càng nhanh, đưa ra quyết định thông minh một cách kịp thời.
Khả năng truy cập thông tin nhanh chóng này là điều khiến OceanStor A310 của Huawei trở nên nổi bật.
Lợi thế của OceanStor A310 dường như nằm ở khả năng tăng tốc độ xử lý dữ liệu cho AI. Khi so sánh với ESS 3500 của IBM, mảng flash toàn phần mới nhất của Huawei được cho là cung cấp GPU Nvidia nhanh hơn gần bốn lần trên cơ sở mỗi đơn vị.
Đó là theo phương pháp sử dụng Magnum GPU Direct của Nvidia, trong đó dữ liệu được gửi trực tiếp từ tài nguyên lưu trữ NVMe đến GPU mà không cần đến hệ thống máy chủ lưu trữ.
OceanStor A310 của Huawei đã thể hiện hiệu năng với băng thông đọc tuần tự lên tới 400GBps và băng thông ghi 208GBps. Tuy nhiên, tác động của các khung nguồn mở và nguồn đóng đối với những con số này vẫn chưa rõ ràng.
Đi sâu vào cơ chế của nó, OceanStor A310 được thiết kế như một giải pháp lưu trữ hồ dữ liệu deep learning có khả năng cung cấp khả năng mở rộng theo chiều ngang không giới hạn và hiệu suất cao cho khối lượng công việc hỗn hợp.
Evangeline Wang, Giám đốc Tiếp thị và Quản lý Sản phẩm Huawei, cho biết trong một tuyên bố:
“Chúng tôi biết rằng đối với các ứng dụng AI, thách thức lớn nhất là nâng cao hiệu quả đào tạo mô hình AI. Thách thức lớn nhất đối với hệ thống lưu trữ trong quá trình đào tạo AI là tiếp tục cung cấp dữ liệu cho CPU và GPU. Điều đó đòi hỏi hệ thống lưu trữ phải mang lại hiệu suất tốt nhất.”
Tin Tức Bitcoin tổng hợp.
