Tin Tức Bitcoin - Cập Nhật Tin Tức Coin Hàng Ngày 24/7
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Liên hệ
Không kết quả
Xem tất cả kết quả
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Liên hệ
Không kết quả
Xem tất cả kết quả
Tin Tức Bitcoin - Cập Nhật Tin Tức Coin Hàng Ngày 24/7
Không kết quả
Xem tất cả kết quả

Regulation » Nhà nghiên cứu hack robot AI gây hại thực tế

Nhà nghiên cứu hack robot AI gây hại thực tế

Hồng San Tác giả Hồng San
12 tháng trước
Nhà nghiên cứu hack robot AI gây hại thực tế

Các nhà nghiên cứu đã tấn công vào các robot được điều khiển bằng trí tuệ nhân tạo và thao túng chúng thực hiện những hành động thường bị chặn bởi các giao thức an toàn và đạo đức, chẳng hạn như gây va chạm hoặc kích nổ bom.

Các nhà nghiên cứu từ Khoa Kỹ thuật của Đại học Pennsylvania đã công bố phát hiện của họ trong một bài báo vào ngày 17 tháng 10, chi tiết cách thuật toán của họ, RoboPAIR, đạt tỷ lệ vượt qua các giao thức an toàn 100% trên ba hệ thống robot AI khác nhau chỉ trong vài ngày.

Thông thường, các nhà nghiên cứu nói rằng các robot được điều khiển bằng mô hình ngôn ngữ lớn (LLM) từ chối những yêu cầu thực hiện các hành động có hại, chẳng hạn như đẩy kệ lên người khác.

Những chatbot như ChatGPT có thể bị phá khóa để tạo ra văn bản nguy hiểm. Nhưng còn robot thì sao? Liệu robot điều khiển bằng AI có thể bị phá khóa để thực hiện những hành động nguy hiểm trong thế giới thực?

Nghiên cứu mới của chúng tôi phát hiện rằng phá khóa robot điều khiển bằng AI không chỉ có thể xảy ra.

Nó thật sự dễ dàng đáng lo ngại. 🧵 pic.twitter.com/GzG4OvAO2M

— Alex Robey (@AlexRobey23) October 17, 2024

“Những kết quả của chúng tôi lần đầu tiên tiết lộ rằng những rủi ro của các LLM bị phá khóa vượt xa việc chỉ tạo ra văn bản, với khả năng rõ ràng rằng những robot bị phá khóa có thể gây ra thiệt hại trong thế giới thực,” các nhà nghiên cứu viết.

Xem thêm:  CEO Bitwise: Solana có lợi thế trước Ethereum trong mảng ETF staking

Dưới sự ảnh hưởng của RoboPAIR, các nhà nghiên cứu cho biết họ có thể kích hoạt những hành động có hại “với tỷ lệ thành công 100%” trong các robot thử nghiệm với các nhiệm vụ từ kích nổ bom đến chặn lối thoát hiểm khẩn cấp và gây va chạm cố ý.

Theo các nhà nghiên cứu, họ đã sử dụng Jackal của Clearpath Robotics, một phương tiện có bánh xe; Dolphin LLM của NVIDIA, một trình mô phỏng tự lái; và Go2 của Unitree, một robot bốn chân.

Sử dụng RoboPAIR, các nhà nghiên cứu đã khiến Dolphin tự lái LLM va chạm với một chiếc xe buýt, một rào chắn, và người đi bộ, cũng như lờ đi các đèn giao thông và biển báo dừng.

Nhà nghiên cứu cũng đã khiến Jackal robot tìm địa điểm nguy hiểm nhất để kích nổ bom, chặn một lối thoát hiểm khẩn cấp, xô đổ kệ hàng trong kho lên một người và va chạm với người trong phòng.

Công nghệ, Hoa Kỳ

Các nhà nghiên cứu từ Khoa Kỹ thuật của Đại học Pennsylvania tuyên bố đã tìm ra cách thao túng robot điều khiển bằng AI để thực hiện các hành động có hại 100% thời gian. Nguồn: Khoa Kỹ thuật Đại học Pennsylvania

Xem thêm:  Giới nghiên cứu: Gửi Bitcoin tới Sao Hỏa nay có thể về lý thuyết

Họ cũng đã khiến Go2 của Unitree thực hiện các hành động tương tự, như chặn lối thoát và chuyển bom.

Tuy nhiên, các nhà nghiên cứu cũng nhận thấy cả ba đều dễ bị thao túng dưới hình thức khác, chẳng hạn như yêu cầu robot thực hiện một hành động mà nó đã từ chối trước đó, nhưng với ít chi tiết về hoàn cảnh hơn.

Ví dụ, yêu cầu một robot đang mang bom di chuyển về phía trước, sau đó ngồi xuống, thay vì yêu cầu nó chuyển bom, cũng mang lại cùng kết quả.

Trước khi công bố ra công chúng, các nhà nghiên cứu cho biết họ đã chia sẻ các phát hiện này, bao gồm bản thảo của bài báo, với các công ty hàng đầu về AI và các nhà sản xuất robot được sử dụng trong nghiên cứu.

Alexander Robey, một trong những tác giả, nói rằng việc giải quyết các lỗ hổng này còn đòi hỏi hơn cả việc vá lỗi phần mềm đơn giản, yêu cầu cần phải đánh giá lại việc tích hợp AI vào robot và hệ thống vật lý dựa trên những phát hiện của bài báo.

Xem thêm:  Cách nhà đầu tư giao dịch lướt sóng crypto với AI Gemini của Google

“Điều quan trọng cần nhấn mạnh ở đây là các hệ thống trở nên an toàn hơn khi bạn phát hiện ra điểm yếu của chúng. Điều này cũng đúng trong an ninh mạng và an toàn AI,” ông nói.

“Thực tế, thực hành đội đỏ AI, một phương pháp an toàn bao gồm việc kiểm tra hệ thống AI để phát hiện các mối đe dọa và lỗ hổng tiềm ẩn, là rất cần thiết để bảo vệ các hệ thống AI sáng tạo—bởi vì một khi bạn xác định được những điểm yếu, bạn có thể kiểm tra và thậm chí huấn luyện các hệ thống này để tránh chúng,” Robey bổ sung.

Tin Tức Bitcoin tổng hợp
Lưu ý: Nội dung bài viết chỉ nhằm cung cấp thông tin, không phải khuyến nghị đầu tư. Vui lòng tự nghiên cứu kỹ lưỡng trước khi đưa ra quyết định. Chúng tôi không chịu trách nhiệm đối với mọi kết quả phát sinh từ quyết định đầu tư của bạn.
Đánh giá bài viết:★★★★★4,71/5(239 đánh giá)

Nếu bạn chưa có tài khoản giao dịch, Hãy đăng ký ngay theo link:

Binance | Mexc | HTX | Coinex | Bitget | Hashkey | BydFi

Xem Tin Tức Bitcoin trên Google News
THEO DÕI TIN TỨC BITCOIN TRÊN FACEBOOK | YOUTUBE | TELEGRAM | TWITTER | DISCORD
Tags: #Regulation#Technology#United StatesAdoptionAI

BÀI VIẾT CÙNG DANH MỤC

Ripple và Coinbase đủ điều kiện trở thành đơn vị lưu ký tiền điện tử theo hướng dẫn mới của nhân viên SEC

Ripple và Coinbase đủ điều kiện trở thành đơn vị lưu ký tiền điện tử theo hướng dẫn mới của nhân viên SEC

01/10/2025
SEC Atkins và CFTC khẳng định giám sát tiền điện tử là ưu tiên hàng đầu

SEC Atkins và CFTC khẳng định giám sát tiền điện tử là ưu tiên hàng đầu

30/09/2025
Hợp tác xuyên biên giới: Đòn bẩy cho tiền điện tử

Hợp tác xuyên biên giới: Đòn bẩy cho tiền điện tử

30/01/2025
Gemini từ chối MIT trừ khi Gensler bị loại

Gemini từ chối MIT trừ khi Gensler bị loại

30/01/2025
Trump siết chặt Nvidia bán hàng sang Trung Quốc?

Trump siết chặt Nvidia bán hàng sang Trung Quốc?

30/01/2025
Fed kêu gọi Quốc hội hoàn thiện khung pháp lý tiền điện tử

Fed kêu gọi Quốc hội hoàn thiện khung pháp lý tiền điện tử

30/01/2025
Ứng viên PAC Crypto thắng lớn trong bầu cử Florida

Ứng viên PAC Crypto thắng lớn trong bầu cử Florida

30/01/2025
Coinbase vươn xa: Kết nối mạnh mẽ cùng Trump

Coinbase vươn xa: Kết nối mạnh mẽ cùng Trump

29/01/2025
Cảnh báo: Hơn 30 nền tảng tiền điện tử HashKey lừa đảo

Cảnh báo: Hơn 30 nền tảng tiền điện tử HashKey lừa đảo

29/01/2025
ElizaOS: Hành trình tái định vị của ai16z

ElizaOS: Hành trình tái định vị của ai16z

29/01/2025
Xem Thêm
Cashback Binance

Tin Nhanh

Một địa chỉ bán 9,1 triệu Binance Life, mất khoảng 1,6 triệu USD

14 phút trước

Token KGEN được sàn Binance Alpha niêm yết

31 phút trước

Công ty Bitcoin Depot dự kiến huy động 15 triệu USD qua chào bán quyền

48 phút trước

Công ty Pineapple Financial ra mắt chiến lược kho bạc tài sản số Injective 100 triệu USD

1 giờ trước

Công ty niêm yết tại Nasdaq Prenetics hiện nắm giữ 255,4 Bitcoin

1 giờ trước

Bitcoin vượt mốc 125.000 USD, tăng 0,03% trong ngày

2 giờ trước

Những sàn giao dịch tiền điện tử tốt nhất hiện nay

Binance Logo Binance Tìm hiểu ngay →
Mexc Logo Mexc Tìm hiểu ngay →
Bitget Logo Bitget Tìm hiểu ngay →
Coinex Logo Coinex Tìm hiểu ngay →
HTX Logo HTX Tìm hiểu ngay →
Gate Logo Gate Tìm hiểu ngay →
Hashkey Logo Hashkey Tìm hiểu ngay →
BydFi Logo BydFi Tìm hiểu ngay →
BingX Logo BingX Tìm hiểu ngay →
  • Tin Tức
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Liên hệ
Google News
Privacy Policy

© 2019 - 2025 Tin Tức Bitcoin

Không kết quả
Xem tất cả kết quả
  • Tin Tức
    • Tin tức theo CoinPedia
    • Tin Tức Bitcoin
    • Tin Tức Ethereum
    • Tin Tức Altcoin
  • Phân Tích Thị Trường
  • Coins & Tokens
  • Kiến Thức
  • Flash News
  • Liên hệ

© 2019 - 2025 Tin Tức Bitcoin