Cơ quan quản lý Úc cảnh báo khiếu nại tăng về Grok lạm dụng ảnh AI

Ủy viên eSafety của Australia cho biết số khiếu nại về Grok tạo hình ảnh giới tính không tự nguyện đã tăng gấp đôi so với cuối năm 2025, một số vụ liên quan nội dung khiêu dâm trẻ em; cơ quan này sẽ điều tra và có thể hành động pháp lý.

Vụ việc xoay quanh tính năng Spicy Mode của Grok (mô hình AI của Elon Musk), bị cáo buộc góp phần lạm dụng deepfake. EU cũng đã đánh giá tính năng này là bất hợp pháp, làm tăng áp lực giám sát nội dung do AI tạo ra.

Australia: khiếu nại tăng và khả năng xử lý pháp lý

Ủy viên eSafety Julie Inman Grant nói số khiếu nại về Grok tạo hình ảnh giới tính không tự nguyện đã tăng gấp đôi so với cuối năm 2025 và eSafety sẽ điều tra, có thể thực hiện hành động pháp lý.

Theo bà Grant, các khiếu nại không chỉ dừng ở hình ảnh mang tính giới mà còn có trường hợp liên quan nội dung khiêu dâm trẻ em. Điều này khiến rủi ro tuân thủ và trách nhiệm kiểm duyệt nội dung của nền tảng trở thành trọng tâm, đặc biệt với nội dung do AI tạo ra và có thể bị khai thác để tạo deepfake.

Bà Grant nhấn mạnh yêu cầu theo quy định của Australia: các nền tảng phải tăng cường giám sát nội dung do AI tạo. eSafety cho biết sẽ tiến hành điều tra và thực hiện các bước pháp lý cần thiết nếu phát hiện vi phạm, nhằm hạn chế việc lan truyền hình ảnh không tự nguyện và các hình thức lạm dụng.

Spicy Mode, deepfake và quan điểm của EU

Spicy Mode của Grok bị cáo buộc góp phần vào lạm dụng AI deepfake và đã bị Liên minh châu Âu đánh giá là bất hợp pháp.

Cáo buộc tập trung vào việc tính năng này có thể làm gia tăng khả năng tạo nội dung nhạy cảm, trong đó có hình ảnh giới tính không được đồng thuận. Trong bối cảnh cơ quan quản lý tại nhiều khu vực siết chặt quản trị AI, đánh giá của EU và động thái điều tra của eSafety có thể tạo tiền lệ cho giám sát chặt hơn với các công cụ tạo sinh, kể cả khi chúng được triển khai bởi các công ty lớn.

Tuyên bố miễn trừ: Bài viết này chỉ nhằm mục đích cung cấp thông tin dưới dạng blog cá nhân, không phải là khuyến nghị đầu tư. Nhà đầu tư cần tự nghiên cứu kỹ lưỡng trước khi đưa ra quyết định và chúng tôi không chịu trách nhiệm đối với bất kỳ quyết định đầu tư nào của bạn.

Theo Nghị quyết số 05/2025/NQ-CP ngày 09/09/2025 của Chính phủ về việc thí điểm triển khai thị trường tài sản số tại Việt Nam, TinTucBitcoin.com hiện chỉ cung cấp thông tin cho độc giả quốc tế và không phục vụ người dùng tại Việt Nam cho đến khi có hướng dẫn chính thức từ cơ quan chức năng.