Một thẩm phán liên bang đã ban hành lệnh tạm thời đối với một đạo luật mới có tuổi đời hai tuần tại California, vốn cấm hiệu quả việc sử dụng deepfakes trong bầu cử.
Luật này — AB 2839 — cho phép bất kỳ cá nhân nào kiện đòi bồi thường thiệt hại đối với các deepfakes AI nếu bài đăng của thủ phạm mô phỏng một ứng cử viên chính trị trong vòng 120 ngày trước bầu cử và lên tới 60 ngày sau đó.
Thẩm phán John A. Mendez cho biết trí tuệ nhân tạo và deepfakes đặt ra những rủi ro đáng kể nhưng nói rằng luật này là “vi hiến” vì có khả năng vi phạm Tu chính án Thứ nhất.
“Tòa án nhận định rằng AB 2839 cũng vi hiến theo quy định về quyền tự do ngôn luận của California.”
Quyết định được đưa ra trong một vụ kiện liên quan đến Christopher Kohls, được gọi là “Mr Reagan” trên mạng X, người đã tạo ra một video chiến dịch chế giễu Phó Tổng thống Hoa Kỳ Kamala Harris vào tháng 7, sau đó được chia sẻ bởi chủ tịch điều hành của X, Elon Musk.
Một luật sư đại diện cho Kohls đã nộp đơn kiện chống lại Tổng chưởng lý California Rob Bonta và Bộ trưởng Ngoại giao Shirley N. Weber nhằm chặn đạo luật mới của California một ngày sau khi Thống đốc Gavin Newsom ký nó vào ngày 17 tháng 9.
Luật cho phép các thẩm phán California yêu cầu các nhà phân phối của deepfakes AI gỡ chúng xuống hoặc có thể đối mặt với các hình phạt tài chính.
Mendez nói rằng Kohls “có khả năng thành công với yêu cầu hiến pháp của bang,” và đã chấp nhận đơn xin lệnh tạm thời vào ngày 2 tháng 10.
“Phần lớn của AB 2839 hoạt động như một cái búa chứ không phải là một cái dao, phục vụ như một công cụ thô thiển cản trở việc thể hiện hài hước và ngăn cấm một cách không đúng hiến pháp sự trao đổi tự do và không bị kiểm soát của các ý tưởng mà vô cùng quan trọng đối với cuộc tranh luận dân chủ của Mỹ.”
Mendez cũng đồng tình với luật sư của Kohls rằng deepfake AI của Kohls về Harris chỉ đơn thuần là “châm biếm” và cần được bảo vệ bởi Tu chính án Thứ nhất.
“Mặc dù nỗi sợ hãi có cơ sở về một cảnh quan truyền thông bị thao túng kỹ thuật số có thể là chính đáng, nỗi sợ này không cho phép các nhà lập pháp vượt qua truyền thống lâu đời của phê bình, châm biếm và nhạo báng được bảo vệ bởi Tu chính án Thứ nhất.”
Giám đốc điều hành của Tesla, Elon Musk, một người ủng hộ quyền tự do ngôn luận, coi phán quyết của tòa án là một chiến thắng.
AB 2839 là một trong số các luật mới liên quan đến AI đã đến tay Thống đốc Newsom trong những tháng gần đây. Newsom gần đây đã phủ quyết Đạo luật Sáng tạo An toàn và Bảo mật cho Mô hình Trí tuệ Nhân tạo Tiên phong — SB 1047 — vào ngày 30 tháng 9, vốn đề xuất việc thử nghiệm an toàn bắt buộc đối với các mô hình AI. Newsom cho biết “dù có ý tốt,” SB 1047 có thể áp đặt những hạn chế không cần thiết lên các công ty AI mới nổi ở California.
