Vitalik sợ AGI và ASI: Con người nên tập trung vào công cụ tăng cường trí tuệ trước, không phải để AI thay thế con người

Người đồng sáng lập Ethereum, Vitalik Buterin, chia sẻ quan điểm độc đáo về AGI (Trí tuệ nhân tạo tổng quát) và ASI (Trí tuệ siêu việt) trên Twitter, nhấn mạnh rằng nên tập trung vào các công cụ trí tuệ nhân tạo (AI), chứ không phải theo đuổi sự phát triển của các cơ thể siêu trí tuệ và thay thế con người. Anh ấy rất sợ AGI và ASI phát triển quá mức.

AGI là trí tuệ nhân tạo độc lập duy trì văn minh

Vitalik định nghĩa AGI là một AI khá mạnh mẽ. Ông nói rằng nếu tất cả con người đột nhiên biến mất, và AI này được cài đặt vào một robot, nó có thể hoạt động độc lập và duy trì sự phát triển của toàn bộ nền văn minh. Ông nói thêm rằng khái niệm này sẽ được nâng cấp hơn nữa từ "công cụ" của AI truyền thống thành một "dạng sống tự duy trì".

Vitalik chỉ ra rằng, công nghệ hiện tại không thể mô phỏng tình huống như vậy, chúng ta không thể thực sự kiểm tra xem trí tuệ nhân tạo có thể duy trì nền văn minh khi không có con người hay không, việc định nghĩa tiêu chuẩn "phát triển văn minh" càng khó khăn hơn, điều kiện nào đại diện cho việc nền văn minh vẫn hoạt động, và những vấn đề này chính nó đã rất phức tạp, nhưng có thể đó chính là nguồn gốc chính mà mọi người có thể phân biệt giữa AGI và trí tuệ nhân tạo thông thường.

(Chú ý: Định dạng tự duy trì cuộc sống, nghĩa là có thể tự lấy và sử dụng tài nguyên để duy trì hoạt động sống, thích nghi với thay đổi môi trường và tiếp tục tồn tại trong một số điều kiện nhất định của sinh vật hoặc hệ thống sống.)

Nhấn mạnh tầm quan trọng của công cụ hỗ trợ thông minh, không phải để AI thay thế con người

Định nghĩa của Vitalik về Trí tuệ Nhân tạo Siêu thông minh (ASI) là khi sự tiến bộ của Trí tuệ Nhân tạo vượt qua giá trị mà con người có thể đóng góp và đạt đến giai đoạn hoàn toàn tự động và hiệu quả hơn. Anh ta đưa ra ví dụ về cờ vua, trong thập kỷ gần đây, Trí tuệ Nhân tạo đã vượt qua mức độ mà con người và Trí tuệ Nhân tạo hợp tác để đạt được kết quả tốt nhất, và thừa nhận rằng ASI khiến anh ta cảm thấy sợ hãi, vì nó có nghĩa là con người có thể mất kiểm soát Trí tuệ Nhân tạo.

Vitalik cho biết, thay vì phát triển siêu cơ thể thông minh, hãy tập trung vào việc phát triển công cụ có thể tăng cường trí tuệ và khả năng của con người. Anh cho rằng, Trí tuệ Nhân tạo nên hỗ trợ con người, chứ không phải thay thế con người. Anh tin rằng hướng phát triển như vậy có thể giảm thiểu rủi ro Trí tuệ Nhân tạo không thể kiểm soát được, đồng thời nâng cao hiệu suất và ổn định của toàn bộ xã hội.

(Mối đe dọa thất nghiệp do trí tuệ nhân tạo sinh sản: Công nhân Amazon sẽ bị thay thế hoàn toàn bởi đội máy móc?)

Bài viết này, Vitalik lo sợ về AGI và ASI: con người nên tập trung vào công cụ tăng cường trí tuệ trước, chứ không phải để trí tuệ nhân tạo thay thế con người. Bài viết được đăng lần đầu trên ABMedia của ChainNews.