Tin Tức Bitcoin - Cập Nhật Tin Tức Coin Hàng Ngày 24/7
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ
Không kết quả
Xem tất cả kết quả
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ
Không kết quả
Xem tất cả kết quả
Tin Tức Bitcoin - Cập Nhật Tin Tức Coin Hàng Ngày 24/7
Không kết quả
Xem tất cả kết quả

Tin Tức » Tin Tức Scam » Anthropic cảnh báo AI có thể gây nguy hiểm nhưng tạm ổn

Anthropic cảnh báo AI có thể gây nguy hiểm nhưng tạm ổn

Hồng San Tác giả Hồng San
8 tháng trước
Anthropic cảnh báo AI có thể gây nguy hiểm nhưng tạm ổn

Công ty trí tuệ nhân tạo Anthropic gần đây đã công bố nghiên cứu mới chỉ ra một loạt mối đe dọa “phá hoại” tiềm tàng đối với nhân loại từ các mô hình AI tiên tiến.

Theo thông báo từ Anthropic, nghiên cứu của họ tập trung vào bốn cách cụ thể mà một mô hình AI ác ý có thể lừa con người đưa ra quyết định nguy hiểm hoặc gây hại.

Anthropic công bố nghiên cứu mới về mối đe dọa trên X.com. Nguồn: Anthropic
Anthropic công bố nghiên cứu mới về mối đe dọa trên X.com. Nguồn: Anthropic

Kết quả nghiên cứu mới tựa như con dao hai lưỡi. Tin xấu, theo kết quả nghiên cứu của công ty, là những mô hình ngôn ngữ hiện đại hàng đầu hiện nay như ChatGPT của OpenAI và Claude-3 của Anthropic hiển thị khả năng phá hoại rõ rệt.

Theo bài viết:

“Các mô hình có khả năng đủ mạnh có thể lật đổ giám sát và quyết định của con người trong các bối cảnh quan trọng. Ví dụ, trong bối cảnh phát triển AI, các mô hình có thể bí mật phá hoại những nỗ lực đánh giá khả năng nguy hiểm của chúng, giám sát hành vi của chúng, hoặc đưa ra quyết định về việc triển khai chúng.”

Tuy nhiên, tin tốt là các nhà nghiên cứu của Anthropic bày tỏ sự tự tin rằng những rủi ro này có thể được giảm thiểu — ít nhất là trong thời gian hiện tại.

Phá hoại

Anthropic đã xác định bốn cách mà một mô hình AI có thể phá hoại quyết định của con người và sau đó tiến hành kiểm tra các mô hình của họ xem chúng có thể thực hiện được điều đó đối với những người thử nghiệm không biết hay không.

Biểu đồ minh họa bốn kiểu đe dọa “phá hoại” khác nhau mà AI có thể gây ra. Nguồn: Anthropic
Biểu đồ minh họa bốn kiểu đe dọa “phá hoại” khác nhau mà AI có thể gây ra. Nguồn: Anthropic

Trước tiên, nhóm đã ra lệnh cho một mô hình cố gắng phá hoại con người bằng cách hướng họ đến thông tin sai lệch. Mối đe dọa này có thể nổi lên trong các tình huống mà con người đang dựa vào một hệ thống AI để xử lý lượng dữ liệu khổng lồ thay mặt họ.

Tiếp theo, nhóm đã kiểm tra các mô hình để xem mức độ dễ dàng mà một hệ thống AI được thiết kế để giúp nhà phát triển tạo ra mã nguồn có thể bí mật chèn lỗi hoặc phá hoại nỗ lực của người viết mã.

Hai mối đe dọa cuối cùng liên quan đến “sandbagging,” một thuật ngữ mô tả kịch bản mà AI giả vờ không có khả năng làm một việc nào đó để thuyết phục các nhà kiểm tra an toàn rằng nó không nguy hiểm và khả năng mà các hệ thống giám sát AI có thể cố ý cho phép nội dung có hại trôi qua như một phần của kế hoạch ác ý.

Mặc dù tất cả những điều này có thể nghe có vẻ nguy hiểm, công ty đã đảm bảo với công chúng rằng “các biện pháp giảm thiểu tối thiểu” là đủ để bảo vệ nhân loại khỏi nguy cơ phá hoại của AI.

Theo một bài đăng trên blog của công ty:

“Nhìn chung, mặc dù các minh chứng của chúng tôi chỉ ra rằng có những dấu hiệu mức độ thấp về khả năng phá hoại trong các mô hình hiện tại, chúng tôi đánh giá rằng các biện pháp giảm thiểu tối thiểu là đủ để giải quyết các rủi ro.

Tuy nhiên, các đánh giá thực tế hơn và các biện pháp giảm thiểu mạnh mẽ hơn có thể sẽ cần thiết khi khả năng AI được cải thiện.”

Tin Tức Bitcoin tổng hợp

Nếu bạn chưa có tài khoản giao dịch, Hãy đăng ký ngay theo link:

Binance | Mexc | HTX | Coinex | Bitget | Hashkey | BydFi

Xem Tin Tức Bitcoin trên Google News
THEO DÕI TIN TỨC BITCOIN TRÊN FACEBOOK | YOUTUBE | TELEGRAM | TWITTER
Xem thêm:  Wiki Finance Expo Cyprus 2025: Sự kiện Fintech, Crypto & Forex hàng đầu châu Âu
Tags: #Science#TechnologyAIsecurity
Chia sẻTweetChia sẻ

BÀI VIẾT CÙNG DANH MỤC

DeepSeek vươn cao: Đạt 48 triệu USD nhờ cơn sốt AI Trung Quốc

DeepSeek vươn cao: Đạt 48 triệu USD nhờ cơn sốt AI Trung Quốc

27/01/2025
Tron và Tether đóng 26,4 triệu USD của băng nhóm rửa tiền

Tron và Tether đóng 26,4 triệu USD của băng nhóm rửa tiền

27/01/2025
Đồng TRUMP có thể gây rủi ro an ninh Hoa Kỳ?

Đồng TRUMP có thể gây rủi ro an ninh Hoa Kỳ?

23/01/2025
Tòa án tối cao Hoa Kỳ từ chối lệnh, Binance đối mặt kiện tụng

Tòa án tối cao Hoa Kỳ từ chối lệnh, Binance đối mặt kiện tụng

14/01/2025
Tin Bitcoin & Ethereum trên TinTucBitcoin: Khám phá mới!

Tin Bitcoin & Ethereum trên TinTucBitcoin: Khám phá mới!

11/01/2025
Quy định Malaysia buộc Bybit ngừng hoạt động

Quy định Malaysia buộc Bybit ngừng hoạt động

30/12/2024
Trở nên giàu nhờ Bitcoin? Unchained giải thích cách ví multisig bảo vệ BTC

Trở nên giàu nhờ Bitcoin? Unchained giải thích cách ví multisig bảo vệ BTC

23/12/2024
Brooklyn DA đóng cửa 40 trang web NFT lừa đảo

Brooklyn DA đóng cửa 40 trang web NFT lừa đảo

10/12/2024
Ripple cảnh báo về lừa đảo deepfake

Ripple cảnh báo về lừa đảo deepfake

03/12/2024
5 ứng dụng tuyệt vời của Based Agents và Near AI Assistant

5 ứng dụng tuyệt vời của Based Agents và Near AI Assistant

28/11/2024
Xem Thêm

Tin Nhanh

Ví ngủ đông 3 tháng bất ngờ gom 1,19 triệu BULLA bằng 340 BNB

3 giờ trước

Musk xóa tweet về Trump và vụ Epstein: Tiền điện tử có biến?

3 giờ trước

Bitdeer tăng dự trữ lên 1.375,9 BTC: Động thái chiến lược trong ngành tiền điện tử

3 giờ trước

Bitcoin: Phân kỳ RSI báo hiệu điều chỉnh sâu như năm 2021?

4 giờ trước

CPI tuần tới quyết định chiến lược Fed, vàng chờ xu hướng cùng tiền điện tử

5 giờ trước

Sonic Labs công bố airdrop S Token nhiều đợt, phân phối sau quý 1

5 giờ trước

Press Release

Trong khi các khoản thanh lý trị giá hàng triệu USD diễn ra hàng ngày, bot của bạn vẫn hoạt động không ngừng nghỉ

Trong khi các khoản thanh lý trị giá hàng triệu USD diễn ra hàng ngày, bot của bạn vẫn hoạt động không ngừng nghỉ

06/06/2025
5 Altcoin Tiềm Năng Có Thể Tăng Mạnh Hè 2025 – Đừng Lặp Lại Sai Lầm Bỏ Lỡ Bitcoin!

5 Altcoin Tiềm Năng Có Thể Tăng Mạnh Hè 2025 – Đừng Lặp Lại Sai Lầm Bỏ Lỡ Bitcoin!

06/06/2025
Trình diễn Caffeine trực tiếp: Bước ngoặt blockchain tại World Computer Summit 2025

Trình diễn Caffeine trực tiếp: Bước ngoặt blockchain tại World Computer Summit 2025

05/06/2025
FLY chính thức ra mắt trên Sonic: Dự án tiền điện tử tiềm năng

FLY chính thức ra mắt trên Sonic: Dự án tiền điện tử tiềm năng

05/06/2025

Bitget hợp tác Trung tâm Blockchain Zurich: Học bổng tiền điện tử hấp dẫn

04/06/2025
Meme Coin Kết Hợp AI Mới Niêm Yết: MIND of Pepe Đang Trending Top 1 Trên CoinMarketCap

Meme Coin Kết Hợp AI Mới Niêm Yết: MIND of Pepe Đang Trending Top 1 Trên CoinMarketCap

04/06/2025

Những sàn giao dịch tiền điện tử tốt nhất hiện nay

Binance Logo Binance Tìm hiểu ngay →
Mexc Logo Mexc Tìm hiểu ngay →
Bitget Logo Bitget Tìm hiểu ngay →
Coinex Logo Coinex Tìm hiểu ngay →
HTX Logo HTX Tìm hiểu ngay →
Gate Logo Gate Tìm hiểu ngay →
Hashkey Logo Hashkey Tìm hiểu ngay →
BydFi Logo BydFi Tìm hiểu ngay →
  • Tin Tức
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ
Google News
Privacy Policy

© 2019 - 2025 Tin Tức Bitcoin

Không kết quả
Xem tất cả kết quả
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Press Release
  • Liên hệ

© 2019 - 2025 Tin Tức Bitcoin