Theo Futurism, ChatGPT của OpenAI đã cung cấp liên kết đến một trang web chứa đầy cửa sổ bật lên và phần mềm độc hại.
Vì AI tạo ra đôi khi có thể gây ảo giác, gợi lên thông tin không chính xác hoặc sai lệch, người dùng được khuyến khích kiểm tra các tham chiếu của nó.
Hóa ra, điều đó cũng có thể dẫn đến rắc rối. ChatGPT có thể cung cấp cho người dùng các liên kết đến các trang web lưu trữ phần mềm độc hại, theo báo cáo hôm thứ Hai của Futurism.
Phát hiện này xuất hiện trong quá trình kiểm tra kiến thức của ChatGPT về các sự kiện hiện tại. Khi được hỏi về William Goines, một người nhận giải thưởng Ngôi sao Đồng và là thành viên da đen đầu tiên của Navy SEALs vừa qua đời, Futurism đưa tin rằng phản hồi của ChatGPT bao gồm một liên kết đến một “trang web lừa đảo”.
Cụ thể, ChatGPT-4o gợi ý truy cập một trang web có tên là “County Local News” để biết thêm thông tin về Goines.
Tuy nhiên, trang web này ngay lập tức tạo ra các cảnh báo pop-up giả mạo, khi nhấp vào, sẽ lây nhiễm phần mềm độc hại vào máy tính của người dùng. Futurism lưu ý rằng cùng một trang web đã được gợi ý cho các chủ đề khác.
Khi Decrypt thử kiểm tra Goines bằng lời nhắc do Futurism cung cấp, phản hồi từ ChatGPT không bao gồm liên kết đến trang web.
Các nhà phát triển AI đã đầu tư rất nhiều vào việc chống lại ảo giác và việc sử dụng chatbot của họ một cách có chủ đích , nhưng việc cung cấp liên kết đến các trang web khác lại mang đến những rủi ro bổ sung.
Một trang web được liên kết có thể là một trang web hợp pháp và an toàn khi các công ty AI thu thập dữ liệu, nhưng sau đó bị nhiễm hoặc bị kẻ lừa đảo chiếm đoạt.
Theo Jacob Kalvo, đồng sáng lập kiêm giám đốc điều hành của công ty cung cấp dữ liệu và quyền riêng tư internet Live Proxies , các liên kết đi cần được kiểm tra thường xuyên.
Kalvo nói với Decrypt rằng: “Các nhà phát triển có thể đảm bảo rằng các cơ chế lọc phù hợp được áp dụng để ngăn chặn các chatbot đưa ra các liên kết đến các trang web độc hại”.
“Điều này có thể được bổ sung bằng các thuật toán xử lý ngôn ngữ tự nhiên (NLP) tiên tiến có thể đào tạo một chatbot để xác định một URL so với các mẫu URL độc hại đã biết.
“Hơn nữa, chúng ta không thể quên việc lập danh sách đen các trang web, liên tục cập nhật và theo dõi các mối đe dọa mới”, Kalvo nói thêm.
Kalvo cũng khuyến nghị nên xác minh các liên kết trang web, uy tín tên miền và theo dõi thời gian thực để xác định và giải quyết nhanh chóng mọi hoạt động đáng ngờ.
Kalvo cho biết: “Điều này cung cấp sự hợp tác liên tục với các chuyên gia về an ninh mạng để đánh bại các mối đe dọa mới khi chúng xuất hiện”.
“Chỉ thông qua AI và khả năng của con người, các nhà phát triển mới có thể tạo ra một môi trường an toàn hơn nhiều cho người dùng”.
Kalvo cũng nhấn mạnh đến nhu cầu quản lý cẩn thận dữ liệu đào tạo mô hình AI để tránh thu thập và cung cấp nội dung có hại, cũng như nhu cầu kiểm tra và cập nhật thường xuyên để duy trì tính toàn vẹn của dữ liệu.
Khi được liên hệ về báo cáo này, OpenAI đã đưa ra phản hồi tương tự như phản hồi của Futurism , nói với Decrypt rằng họ đang làm việc với các đối tác xuất bản tin tức để kết hợp “khả năng đàm thoại với nội dung tin tức mới nhất của họ, đảm bảo ghi rõ nguồn gốc” nhưng tính năng này hiện vẫn chưa khả dụng.
Tin Tức Bitcoin tổng hợp
