CEO Anthropic Dario Amodei cảnh báo Quốc hội Mỹ rằng AI mã nguồn mở đang đi vào “một con đường rất nguy hiểm”. Ông cho rằng khi các mô hình có năng lực mạnh được phát hành công khai, việc giám sát và kiểm soát cách chúng được sử dụng sẽ trở nên rất khó khăn.
Amodei nói các nhà phát triển có thể không còn khả năng theo dõi việc lạm dụng mô hình, thu hồi quyền truy cập hoặc cập nhật linh hoạt các lớp bảo vệ an toàn. Ông so sánh rủi ro của mô hình mở hoàn toàn với hệ thống đóng, nơi việc quản trị an ninh có thể được duy trì chặt hơn.
Theo ông, điểm khác biệt nằm ở khả năng kiểm soát liên tục. Với mô hình mở, một khi đã phát tán rộng rãi, các biện pháp bảo vệ có thể khó thay đổi kịp thời nếu xuất hiện cách dùng sai mục đích.
Amodei không nêu thêm chi tiết về một sự cố cụ thể, nhưng nhấn mạnh rằng nguy cơ từ việc lạm dụng có thể trở nên khó đảo ngược nếu các mô hình mạnh tiếp tục được phổ biến dưới dạng mã nguồn mở.