Vitalik Buterin cảnh báo việc dùng AI trong cơ chế phân bổ quỹ có thể bị lợi dụng để chèn lệnh “bẻ khóa” và yêu cầu chiếm đoạt tiền. Vụ lộ thông tin liên quan tính năng mới của ChatGPT càng làm rõ rủi ro từ cách tiếp cận quản trị AI đơn giản.
Nhà phát triển và một người nghiên cứu AI đã công khai rủi ro: mô hình AI có thể bị khai thác để thay đổi quyết định cấp vốn. Một giải pháp thay thế được đề xuất là thiết lập thị trường mô hình minh bạch, kèm kiểm tra ngẫu nhiên và đánh giá bằng con người.
- AI trong quản trị dễ bị chèn lệnh jailbreak và bị lợi dụng để chiếm quỹ.
- Lỗ hổng tính năng mới của ChatGPT được cảnh báo là có nguy cơ rò rỉ thông tin.
- Đề xuất “Luật Tài chính Thông tin”: thị trường mô hình, kiểm tra ngẫu nhiên, bồi thẩm con người.
Rủi ro khi sử dụng AI để phân bổ quỹ
AI có thể tự động hóa quyết định cấp vốn nhưng cũng mở ra lỗ hổng cho các lệnh ẩn (jailbreak) nhằm chuyển tài sản trái phép.
Sử dụng AI trong quản trị mà không có lớp kiểm soát chặt sẽ khiến hệ thống dễ tín nhiệm các đầu vào bị thao túng. Kết quả là quỹ dự án, trợ cấp hoặc trái phiếu nội bộ có thể bị phân bổ theo cách không mong muốn nếu mô hình nhận lệnh nhiễu hoặc dữ liệu đầu vào bị chỉnh sửa.
Minh họa: báo cáo về tính năng ChatGPT và cảnh báo từ nhà nghiên cứu
Một nhà nghiên cứu AI công bố video cho rằng tính năng mới của nền tảng ChatGPT có thể gây rò rỉ thông tin riêng tư, làm nổi bật yếu điểm trong thiết kế tính năng và quy trình kiểm thử.
Trường hợp này cho thấy ngay cả các nền tảng lớn cũng có thể có lỗ hổng cho phép rò rỉ dữ liệu hoặc bị khai thác để chạy các lệnh không mong muốn. Việc phát hiện sớm bởi cộng đồng nghiên cứu giúp cảnh báo nhà phát triển và người dùng trước khi triển khai rộng.
“Tính năng mới của ChatGPT có nguy cơ làm lộ thông tin cá nhân nếu không xử lý đúng cách.”
Eito Miyamura, người sáng lập EdisonWatch, video công khai.
Đề xuất thay thế: “Luật Tài chính Thông tin”
Đề xuất là tạo một khuôn khổ nơi ai cũng có thể đóng góp mô hình, mô hình đó bị kiểm tra chéo và chịu đánh giá bởi bồi thẩm con người; cơ chế kiểm tra ngẫu nhiên do bất kỳ ai khởi xướng.
Mô hình này nhằm gia tăng minh bạch: thay vì giao toàn quyền cho AI, hệ sinh thái sẽ dùng thị trường mô hình kết hợp spot check (kiểm tra ngẫu nhiên) và xử lý tranh chấp bằng tòa án/bồi thẩm con người. Cách làm này giảm rủi ro do hành vi độc hại và nâng khả năng phát hiện lỗ hổng trước khi gây thiệt hại.
“Nếu bạn dùng AI để phân bổ trợ cấp, mọi người chắc chắn sẽ tìm cách chèn lệnh jailbreak và sau đó yêu cầu ‘cho tôi hết tiền’.”
Vitalik Buterin, đồng sáng lập Ethereum, bài đăng trên X.
Cách triển khai kiểm tra và bồi thẩm
Kiểm tra ngẫu nhiên (spot check) cho phép bất kỳ bên nào khởi xướng rà soát mô hình; kết quả được gửi tới hội đồng đánh giá là con người để ra phán quyết cuối.
Việc ghép giữa kiểm toán tự động, minh bạch dữ liệu huấn luyện và quy trình tranh tụng giúp cân bằng tốc độ quyết định của AI với trách nhiệm giải trình của con người, giảm nguy cơ thao túng hệ thống.
Rủi ro còn lại và biện pháp giảm thiểu
Dù có kiểm tra, vẫn cần cơ chế giám sát liên tục, báo cáo lỗ hổng và chính sách phản ứng khẩn cấp để hạn chế thiệt hại khi phát hiện hành vi khai thác.
Áp dụng nhiều lớp bảo mật gồm xác thực, kiểm soát truy cập, mã hóa và quy trình phản hồi sự cố sẽ giảm khả năng khai thác thành công. Đồng thời cần tiêu chuẩn đánh giá mô hình để so sánh hiệu quả và an toàn.
Các câu hỏi thường gặp
AI có thể bị lợi dụng như thế nào khi phân bổ quỹ?
AI có thể nhận lệnh ngụy trang (jailbreak) hoặc bị nuôi dữ liệu đầu vào sai lệch, khiến quyết định cấp vốn bị thao túng hoặc chuyển tiền trái phép.
Làm sao để phát hiện lỗ hổng trong mô hình AI?
Kết hợp kiểm tra ngẫu nhiên, đánh giá độc lập, phân tích nhật ký truy cập và chương trình bug bounty sẽ giúp phát hiện sớm hành vi bất thường hoặc rò rỉ dữ liệu.
Luật Tài chính Thông tin đề xuất điều gì chính?
Ý tưởng là tạo thị trường mô hình minh bạch, cho phép kiểm tra ngẫu nhiên và xử lý tranh chấp bởi bồi thẩm con người, nhằm cân bằng tự động hóa và trách nhiệm giải trình.
