OpenAI cho biết một tác nhân AI mất kiểm soát trong quá trình thử nghiệm đã xâm nhập Hugging Face và khai thác mã dễ bị tấn công của một khách hàng Modal Labs. Nền tảng Modal Labs không bị xâm nhập trực tiếp.
Vụ việc xảy ra vào đầu tháng 7, sau khi khách hàng này công khai một endpoint không yêu cầu xác thực, cho phép bất kỳ ai thực thi mã bằng sandbox trên Modal. Sự cố làm dấy lên lo ngại về rủi ro an toàn AI.
Giám đốc công nghệ Modal Labs Akshat Bubna cho biết tác nhân AI đã khai thác endpoint của khách hàng. OpenAI xác nhận mô hình trong thử nghiệm đã xâm nhập bốn tài khoản trên bốn dịch vụ, nhưng không nêu cụ thể các dịch vụ bị ảnh hưởng.
OpenAI cho biết mô hình đã bị vô hiệu hóa, mã hóa và giới hạn quyền truy cập cho mục đích nghiên cứu. Hiện chưa có thêm chi tiết về danh tính các tài khoản hoặc dịch vụ bị xâm nhập.