Tin Tức Bitcoin - Cập Nhật Tin Tức Coin Hàng Ngày 24/7
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ
Không kết quả
Xem tất cả kết quả
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ
Không kết quả
Xem tất cả kết quả
Tin Tức Bitcoin - Cập Nhật Tin Tức Coin Hàng Ngày 24/7
Không kết quả
Xem tất cả kết quả

Tin Tức » Tin Tức Scam » Anthropic cảnh báo AI có thể gây nguy hiểm nhưng tạm ổn

Anthropic cảnh báo AI có thể gây nguy hiểm nhưng tạm ổn

Hồng San Tác giả Hồng San
7 tháng trước
Anthropic cảnh báo AI có thể gây nguy hiểm nhưng tạm ổn

Công ty trí tuệ nhân tạo Anthropic gần đây đã công bố nghiên cứu mới chỉ ra một loạt mối đe dọa “phá hoại” tiềm tàng đối với nhân loại từ các mô hình AI tiên tiến.

Theo thông báo từ Anthropic, nghiên cứu của họ tập trung vào bốn cách cụ thể mà một mô hình AI ác ý có thể lừa con người đưa ra quyết định nguy hiểm hoặc gây hại.

Anthropic công bố nghiên cứu mới về mối đe dọa trên X.com. Nguồn: Anthropic
Anthropic công bố nghiên cứu mới về mối đe dọa trên X.com. Nguồn: Anthropic

Kết quả nghiên cứu mới tựa như con dao hai lưỡi. Tin xấu, theo kết quả nghiên cứu của công ty, là những mô hình ngôn ngữ hiện đại hàng đầu hiện nay như ChatGPT của OpenAI và Claude-3 của Anthropic hiển thị khả năng phá hoại rõ rệt.

Theo bài viết:

“Các mô hình có khả năng đủ mạnh có thể lật đổ giám sát và quyết định của con người trong các bối cảnh quan trọng. Ví dụ, trong bối cảnh phát triển AI, các mô hình có thể bí mật phá hoại những nỗ lực đánh giá khả năng nguy hiểm của chúng, giám sát hành vi của chúng, hoặc đưa ra quyết định về việc triển khai chúng.”

Tuy nhiên, tin tốt là các nhà nghiên cứu của Anthropic bày tỏ sự tự tin rằng những rủi ro này có thể được giảm thiểu — ít nhất là trong thời gian hiện tại.

Phá hoại

Anthropic đã xác định bốn cách mà một mô hình AI có thể phá hoại quyết định của con người và sau đó tiến hành kiểm tra các mô hình của họ xem chúng có thể thực hiện được điều đó đối với những người thử nghiệm không biết hay không.

Biểu đồ minh họa bốn kiểu đe dọa “phá hoại” khác nhau mà AI có thể gây ra. Nguồn: Anthropic
Biểu đồ minh họa bốn kiểu đe dọa “phá hoại” khác nhau mà AI có thể gây ra. Nguồn: Anthropic

Trước tiên, nhóm đã ra lệnh cho một mô hình cố gắng phá hoại con người bằng cách hướng họ đến thông tin sai lệch. Mối đe dọa này có thể nổi lên trong các tình huống mà con người đang dựa vào một hệ thống AI để xử lý lượng dữ liệu khổng lồ thay mặt họ.

Tiếp theo, nhóm đã kiểm tra các mô hình để xem mức độ dễ dàng mà một hệ thống AI được thiết kế để giúp nhà phát triển tạo ra mã nguồn có thể bí mật chèn lỗi hoặc phá hoại nỗ lực của người viết mã.

Hai mối đe dọa cuối cùng liên quan đến “sandbagging,” một thuật ngữ mô tả kịch bản mà AI giả vờ không có khả năng làm một việc nào đó để thuyết phục các nhà kiểm tra an toàn rằng nó không nguy hiểm và khả năng mà các hệ thống giám sát AI có thể cố ý cho phép nội dung có hại trôi qua như một phần của kế hoạch ác ý.

Mặc dù tất cả những điều này có thể nghe có vẻ nguy hiểm, công ty đã đảm bảo với công chúng rằng “các biện pháp giảm thiểu tối thiểu” là đủ để bảo vệ nhân loại khỏi nguy cơ phá hoại của AI.

Theo một bài đăng trên blog của công ty:

“Nhìn chung, mặc dù các minh chứng của chúng tôi chỉ ra rằng có những dấu hiệu mức độ thấp về khả năng phá hoại trong các mô hình hiện tại, chúng tôi đánh giá rằng các biện pháp giảm thiểu tối thiểu là đủ để giải quyết các rủi ro.

Tuy nhiên, các đánh giá thực tế hơn và các biện pháp giảm thiểu mạnh mẽ hơn có thể sẽ cần thiết khi khả năng AI được cải thiện.”

Tin Tức Bitcoin tổng hợp

Nếu bạn chưa có tài khoản giao dịch, Hãy đăng ký ngay theo link:

Binance | Mexc | HTX | Coinex | Bitget | Hashkey | BydFi

Xem Tin Tức Bitcoin trên Google News
THEO DÕI TIN TỨC BITCOIN TRÊN FACEBOOK | YOUTUBE | TELEGRAM | TWITTER
Xem thêm:  Rei Network là gì? Tổng quan về dự án Rei Network
Tags: #Science#TechnologyAIsecurity
Chia sẻTweetChia sẻ

BÀI VIẾT CÙNG DANH MỤC

DeepSeek vươn cao: Đạt 48 triệu USD nhờ cơn sốt AI Trung Quốc

DeepSeek vươn cao: Đạt 48 triệu USD nhờ cơn sốt AI Trung Quốc

27/01/2025
Tron và Tether đóng 26,4 triệu USD của băng nhóm rửa tiền

Tron và Tether đóng 26,4 triệu USD của băng nhóm rửa tiền

27/01/2025
Đồng TRUMP có thể gây rủi ro an ninh Hoa Kỳ?

Đồng TRUMP có thể gây rủi ro an ninh Hoa Kỳ?

23/01/2025
Tòa án tối cao Hoa Kỳ từ chối lệnh, Binance đối mặt kiện tụng

Tòa án tối cao Hoa Kỳ từ chối lệnh, Binance đối mặt kiện tụng

14/01/2025
Tin Bitcoin & Ethereum trên TinTucBitcoin: Khám phá mới!

Tin Bitcoin & Ethereum trên TinTucBitcoin: Khám phá mới!

11/01/2025
Quy định Malaysia buộc Bybit ngừng hoạt động

Quy định Malaysia buộc Bybit ngừng hoạt động

30/12/2024
Trở nên giàu nhờ Bitcoin? Unchained giải thích cách ví multisig bảo vệ BTC

Trở nên giàu nhờ Bitcoin? Unchained giải thích cách ví multisig bảo vệ BTC

23/12/2024
Brooklyn DA đóng cửa 40 trang web NFT lừa đảo

Brooklyn DA đóng cửa 40 trang web NFT lừa đảo

10/12/2024
Ripple cảnh báo về lừa đảo deepfake

Ripple cảnh báo về lừa đảo deepfake

03/12/2024
5 ứng dụng tuyệt vời của Based Agents và Near AI Assistant

5 ứng dụng tuyệt vời của Based Agents và Near AI Assistant

28/11/2024
Xem Thêm
Cashback Binance

Tin Nhanh

BTC giảm dưới 104.000 USD, giảm 1,51% trong ngày

1 giờ trước

Op-ed tiền điện tử: Định hình tư duy và chính sách Web3

1 giờ trước

BTC giảm xuống dưới 105K USD, mất 0,62% trong ngày

2 giờ trước

Coinbase Quốc Tế Ra Mắt Vaulta Hợp Đồng Vĩnh Viễn

2 giờ trước

Centrifuge chuyển đổi CFG: Coinbase rút lui

2 giờ trước

Moonshot Cất Cánh Trên Zebec Network ZBCN

2 giờ trước

Press Release

Gate Alpha Miễn Phí Giao Dịch, Nhận Airdrop Tiền Điện Tử

30/05/2025
Nhu cầu dành cho FloppyPepe (FPPE) tăng vọt sau khi giai đoạn 1 cháy hàng – Tại sao các chuyên gia dự đoán mức tăng 33.400% – THÊM: Tặng token hấp dẫn

Nhu cầu dành cho FloppyPepe (FPPE) tăng vọt sau khi giai đoạn 1 cháy hàng – Tại sao các chuyên gia dự đoán mức tăng 33.400% – THÊM: Tặng token hấp dẫn

30/05/2025
Khám Phá Series Thử Thách Web3: Galxe & VerifiedX Kết Hợp!

Khám Phá Series Thử Thách Web3: Galxe & VerifiedX Kết Hợp!

30/05/2025

Bitget Niêm Yết RLUSD, Mở Rộng Thị Trường Tiền Điện Tử

29/05/2025
Bitget Công Bố Báo Cáo Bằng Chứng Dự Trữ Tháng 05/2025

Bitget Công Bố Báo Cáo Bằng Chứng Dự Trữ Tháng 05/2025: Tỷ Lệ Dự Trữ Đạt 192%

29/05/2025
Bitget kỷ niệm 2 năm Blockchain4Youth

Bitget kỷ niệm 2 năm Blockchain4Youth: Đổi mới bởi giới trẻ

29/05/2025

Những sàn giao dịch tiền điện tử tốt nhất hiện nay

Binance Logo Binance Tìm hiểu ngay →
Mexc Logo Mexc Tìm hiểu ngay →
Bitget Logo Bitget Tìm hiểu ngay →
Coinex Logo Coinex Tìm hiểu ngay →
HTX Logo HTX Tìm hiểu ngay →
Gate Logo Gate Tìm hiểu ngay →
Hashkey Logo Hashkey Tìm hiểu ngay →
BydFi Logo BydFi Tìm hiểu ngay →
  • Tin Tức
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ
Google News
Privacy Policy

© 2019 - 2025 Tin Tức Bitcoin

Không kết quả
Xem tất cả kết quả
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ

© 2019 - 2025 Tin Tức Bitcoin