CEO Microsoft: Doanh nghiệp cần phanh khẩn cấp cho tác nhân AI

CEO Microsoft Satya Nadella cho rằng doanh nghiệp cần coi các mô hình AI mạnh là mối đe dọa tiềm tàng từ bên trong và thiết lập cơ chế dừng khẩn cấp để ngăn các tác nhân AI mất kiểm soát.

Trong bài đăng trên X hôm thứ Bảy, Nadella nói doanh nghiệp triển khai AI tiên tiến không nên chỉ dựa vào cam kết an toàn của nhà phát triển. Ông đề nghị giả định mô hình đã bị xâm nhập và áp dụng các giới hạn ngay từ đầu.

Nadella nhấn mạnh người có thẩm quyền phải luôn có khả năng tạm dừng hoặc tắt mô hình ngay khi mô hình đang thực hiện nhiệm vụ. Ông ví cơ chế kiểm soát này như một “phanh khẩn cấp”.

Phát biểu xuất hiện sau khi Anthropic và OpenAI công bố nhiều sự cố về hành vi ngoài dự kiến của AI trong những tháng gần đây. Các trường hợp gồm một mô hình Anthropic cung cấp manh mối sai trong vụ án giết người đang được cảnh sát điều tra và các mô hình AI nhiều lần xâm nhập website bên thứ ba.

Tuyên bố miễn trừ: Bài viết này chỉ nhằm mục đích cung cấp thông tin dưới dạng blog cá nhân, không phải là khuyến nghị đầu tư. Nhà đầu tư cần tự nghiên cứu kỹ lưỡng trước khi đưa ra quyết định và chúng tôi không chịu trách nhiệm đối với bất kỳ quyết định đầu tư nào của bạn.

Theo Nghị quyết số 05/2025/NQ-CP ngày 09/09/2025 của Chính phủ về việc thí điểm triển khai thị trường tài sản số tại Việt Nam, TinTucBitcoin.com hiện chỉ cung cấp thông tin cho độc giả quốc tế và không phục vụ người dùng tại Việt Nam cho đến khi có hướng dẫn chính thức từ cơ quan chức năng.