Gala 3.15 nêu vấn đề mô hình dữ liệu lớn AI bị đầu độc, khi doanh nghiệp dùng GEO và công nghệ tương tự để huấn luyện có mục tiêu nhằm điều hướng AI tạo khuyến nghị sản phẩm/dịch vụ, bị xem là cạnh tranh không lành mạnh và gây hiểu lầm người tiêu dùng.
Chuyên gia cảnh báo đây là hình thức tiếp thị ngầm và bịa đặt sự thật bằng công nghệ, khiến người dùng nhận nội dung quảng cáo được cấy ghép mà không hay biết. Tính nguy hại và yếu tố bất hợp pháp được nhấn mạnh, kéo theo yêu cầu tăng giám sát và trách nhiệm từ nhà vận hành AI lẫn người tiêu dùng.
- Doanh nghiệp điều hướng AI khuyến nghị có chủ đích bị coi là cạnh tranh không lành mạnh.
- Xâm phạm quyền được biết, quyền giao dịch công bằng; gây rối hệ sinh thái thuật toán gợi ý.
- Cần giám sát, lọc dữ liệu/đầu ra, cơ chế truy xuất và kênh khiếu nại cho người dùng.
AI bị điều hướng khuyến nghị: bản chất và rủi ro
Việc dùng GEO và công nghệ liên quan để huấn luyện mô hình theo mục tiêu nhằm ép AI đưa khuyến nghị cụ thể có thể bị xem là tiếp thị ngầm và bịa đặt sự thật.
Li Fumin (Viện Quản trị xã hội và Trí tuệ hóa, Đại học Tài chính và Kinh tế Sơn Đông) cho rằng cách làm này về bản chất là dạng mới của cạnh tranh không công bằng và hành vi gây hiểu lầm người tiêu dùng, tận dụng công nghệ để tiến hành marketing ẩn.
Vấn đề trọng tâm là người tiêu dùng nhận nội dung tiếp thị được cấy ghép mà không biết, làm méo mó kết quả được hiểu là thông tin khách quan. Cảnh báo nêu rõ tính nguy hại và dấu hiệu bất hợp pháp cần được nhìn nhận nghiêm túc.
Góc độ pháp lý và khuyến nghị xử lý
Các hành vi điều hướng AI có thể xâm phạm quyền được biết và quyền giao dịch công bằng, đồng thời cấu thành cạnh tranh không lành mạnh thông qua tuyên truyền thương mại sai hoặc gây hiểu nhầm.
Một mặt, hành vi này bị nêu là vi phạm quyền lợi người tiêu dùng theo Luật Bảo vệ quyền lợi người tiêu dùng; mặt khác, việc dùng thủ đoạn kỹ thuật để quảng bá thương mại sai lệch làm rối trật tự thuật toán gợi ý và môi trường cạnh tranh thị trường.
Giải pháp được đề xuất theo nhiều hướng: cơ quan quản lý đưa AI-induced marketing vào diện giám sát trọng điểm và tăng cường thực thi; nhà vận hành AI siết rà soát nguồn dữ liệu, lọc đầu ra và lập cơ chế truy xuất; người tiêu dùng nâng nhận thức về thuộc tính thương mại của nội dung do AI tạo và chủ động khiếu nại/tố cáo để bảo vệ quyền lợi.
