Vitalik Buterin kêu gọi các phòng thí nghiệm AI mới lấy mục tiêu tăng cường nhân loại làm sứ mệnh cốt lõi và tránh phát triển hệ thống có thời gian ra quyết định tự chủ vượt quá 1 phút.
Nhà sáng lập Ethereum cảnh báo xu hướng theo đuổi AI siêu tự chủ đang lan rộng, trong khi các dự án AI tăng cường con người lại khan hiếm; ông cũng đề nghị mở mã nguồn tối đa có thể.
- Ưu tiên AI tăng cường nhân loại, không phải ASI tự chủ hoàn toàn.
- Tránh hệ thống có hơn 1 phút tự ra quyết định.
- Khuyến nghị dự án mở mã nguồn càng nhiều càng tốt.
Buterin muốn giới hạn thời gian tự chủ của AI
Vitalik Buterin nói các phòng thí nghiệm AI mới nên tránh xây dựng hệ thống có thời gian ra quyết định tự chủ vượt quá 1 phút.
Ông nhấn mạnh sứ mệnh nền tảng của một AI lab nên là enhancing humanity, tức tập trung vào việc tăng cường năng lực con người thay vì trao quyền tự vận hành dài hạn cho hệ thống.
Ngưỡng 1 phút được nêu như một ràng buộc thiết kế nhằm hạn chế mức độ tự trị, qua đó giảm rủi ro khi AI đưa ra quyết định kéo dài mà không có sự can thiệp hoặc giám sát trực tiếp của con người.
Lo ngại về cuộc đua ASI và lời kêu gọi open-source
Buterin cho rằng các công ty theo đuổi ASI (siêu trí tuệ nhân tạo) tự chủ hoàn toàn đang trở nên phổ biến, trong khi AI tăng cường con người vẫn hiếm.
Ông lập luận rằng ngay cả khi mọi tranh cãi về an toàn AI đều bị chứng minh là không đúng, việc theo đuổi hệ thống tự chủ hoàn toàn vẫn đang diễn ra tràn lan; trái lại, hướng augmented AI như xây dựng một mech cho bộ não con người lại thiếu vắng.
Để định hướng hệ sinh thái theo hướng minh bạch và dễ kiểm chứng, Buterin kêu gọi các dự án dạng này nên open-source nhiều nhất có thể, giúp cộng đồng kiểm tra, tái sử dụng và đánh giá rủi ro theo thời gian.