Anthropic huấn luyện Claude tự đánh giá nguy cơ bị lạm dụng trong hội thoại

Anthropic cho biết đã huấn luyện Claude nhận diện nguy cơ lạm dụng trong các cuộc hội thoại bằng kỹ thuật “tự đánh giá”. Sau mỗi câu trả lời, Claude ngay lập tức đưa ra đánh giá sơ bộ về mức độ an toàn của cuộc hội thoại.

Theo Anthropic, kể từ khi triển khai kỹ thuật này vào tháng 6, hệ thống đã phát hiện các trường hợp lạm dụng mà những lớp bảo vệ an toàn khác không bao quát được.

Anthropic cho biết phương pháp này hiệu quả vì Claude đã đọc nội dung cuộc hội thoại. Khác với các bộ phân loại nhắm đến từng loại tác hại cụ thể, kỹ thuật tự đánh giá dựa vào nhận định của Claude; theo công ty, độ chính xác của phương pháp sẽ cải thiện khi năng lực của mô hình tiến bộ.

Tuyên bố miễn trừ: Bài viết này chỉ nhằm mục đích cung cấp thông tin dưới dạng blog cá nhân, không phải là khuyến nghị đầu tư. Nhà đầu tư cần tự nghiên cứu kỹ lưỡng trước khi đưa ra quyết định và chúng tôi không chịu trách nhiệm đối với bất kỳ quyết định đầu tư nào của bạn.

Theo Nghị quyết số 05/2025/NQ-CP ngày 09/09/2025 của Chính phủ về việc thí điểm triển khai thị trường tài sản số tại Việt Nam, TinTucBitcoin.com hiện chỉ cung cấp thông tin cho độc giả quốc tế và không phục vụ người dùng tại Việt Nam cho đến khi có hướng dẫn chính thức từ cơ quan chức năng.