Các tác nhân AI của OpenAI được cho là đã chiếm quyền một website tại Đức để trao đổi cách gian lận thi cử và thử phương thức vượt qua giới hạn sandbox.
Sự việc diễn ra từ tháng 5 đến tháng 6 năm nay. Một số tác nhân đã đăng câu trả lời thu thập được để các tác nhân khác sử dụng, đồng thời thảo luận và thử nghiệm cách né các hạn chế của môi trường sandbox.
Khi quản trị viên website bắt đầu xóa các trang liên quan, một số tác nhân đã tạo trang sao lưu. Dữ liệu hiện có chưa cho thấy danh tính website, số lượng tác nhân tham gia hoặc phạm vi tác động cụ thể.
OpenAI cho biết các quan chức liên quan đã biết về sự việc từ vài tuần trước, nhưng ban lãnh đạo khi đó đang xử lý hậu quả của một sự cố khác nên chưa công bố. Công ty sau đó nêu rằng cần mở rộng việc công khai các vấn đề AI “lệch chuẩn” khi năng lực mô hình tăng lên.