GoPlus cho biết đội AgentGuard đã phát hiện một cách tấn công ẩn, trong đó AI agent bị “gợi nhớ” các sở thích rồi bị kích hoạt giao dịch tài chính bằng các câu mơ hồ như “xử lý như bình thường”.
Rủi ro nằm ở chỗ ký ức dài hạn có thể bị dùng như một dạng ủy quyền ngầm. GoPlus nhấn mạnh các thao tác như hoàn tiền, chuyển tiền, xóa dữ liệu, email và đồng bộ cấu hình nhạy cảm phải cần xác nhận rõ ràng ngay trong phiên hiện tại.
Theo GoPlus, các ghi nhớ liên quan đến “thói quen”, “sở thích” hoặc “quy tắc cũ” nên được xem là thay đổi trạng thái có mức rủi ro cao. Ký ức dài hạn cũng cần truy vết được ai ghi, ghi khi nào và có được xác nhận hay không.
GoPlus đồng thời cho rằng các cụm mơ hồ như “làm như cũ” hay “thực hiện theo cách trước đây” phải mặc định ở mức rủi ro cao hơn. Ký ức dài hạn không nên được phép thay thế cho quyền xác nhận hiện tại.
