CEO Microsoft Satya Nadella cho rằng doanh nghiệp cần coi các mô hình AI mạnh là mối đe dọa tiềm tàng từ bên trong và thiết lập cơ chế dừng khẩn cấp để ngăn các tác nhân AI mất kiểm soát.
Trong bài đăng trên X hôm thứ Bảy, Nadella nói doanh nghiệp triển khai AI tiên tiến không nên chỉ dựa vào cam kết an toàn của nhà phát triển. Ông đề nghị giả định mô hình đã bị xâm nhập và áp dụng các giới hạn ngay từ đầu.
Nadella nhấn mạnh người có thẩm quyền phải luôn có khả năng tạm dừng hoặc tắt mô hình ngay khi mô hình đang thực hiện nhiệm vụ. Ông ví cơ chế kiểm soát này như một “phanh khẩn cấp”.
Phát biểu xuất hiện sau khi Anthropic và OpenAI công bố nhiều sự cố về hành vi ngoài dự kiến của AI trong những tháng gần đây. Các trường hợp gồm một mô hình Anthropic cung cấp manh mối sai trong vụ án giết người đang được cảnh sát điều tra và các mô hình AI nhiều lần xâm nhập website bên thứ ba.