Robot có tên “Pepper” được dùng đón khách hàng tại cửa ra vào của chi nhánh Ngân hàng Mizuho ở Tokyo (Nhật). Những robot ngày càng thông minh, năng động hơn đang góp mặt trong xã hội loài người - Ảnh: Reuters

Theo báo The Diplomat, tỉ phú doanh nhân Elon Musk, nhà vật lý học lừng danh Stephen Hawking, doanh nhân Steve Wozniak (đồng sáng lập Apple) và hơn 1.000 nhà nghiên cứu của làng công nghệ thế giới mới đây đồng ký tên vào một bức thư ngỏ, trong đó họ cảnh báo về sự nguy hiểm của việc chạy đua chế tạo vũ khí dùng công nghệ trí thông minh nhân tạo (AI).

Bức thư cũng đồng thời kêu gọi Liên Hiệp Quốc ủng hộ một lệnh cấm đối với thứ vũ khí tự động vượt ngoài kiểm soát của con người.

Bức thư do Tổ chức Future of Life công bố tại hội nghị quốc tế về trí thông minh nhân tạo tổ chức ở TP Buenos Aires, Argentina ngày 27-7.

AI thân thiện hay đáng sợ?

Cộng đồng nghiên cứu AI vẫn còn nhớ một sự kiện xảy ra vào tháng 6-2014. Đó là một buổi sáng thứ bảy ở London. Các nhà khoa học, người nổi tiếng và phóng viên tập trung tại trụ sở Royal Society - tổ chức khoa học danh giá và lâu đời nhất nước Anh - để chứng kiến một thử thách đã có hàng thập kỷ: 30 giám khảo sẽ trò chuyện với các ứng viên giấu mặt và họ phải xác định xem ứng viên đó là người thật hay một cỗ máy.

Theo báo LiveScience, bài kiểm tra này được Alan Turing, nhà toán học - mật mã học người Anh, nghĩ ra cách đây 65 năm với mục đích xác định liệu một cỗ máy có khả năng cư xử như một con người hay không.

Và trong cuộc thi này, một chương trình máy tính giả lập tính cách một cậu bé người Ukraine tên Eugene Goostman đã vượt xa tất cả ứng viên còn lại. Nó đã “lừa” được 1/3 ban giám khảo nghĩ rằng họ đang nói chuyện với một con người!

Kể từ khi AI được phát minh vào giữa thập niên 1950, người ta liên tục dự đoán ngày ra đời của một cỗ máy biết suy nghĩ, nhưng có lẽ đây là lần đầu tiên giới khoa học thật sự lo lắng về sự kết hợp giữa AI và vũ khí sát thương.

Theo lá thư giáo sư Stephen Hawking đồng ký tên, nguy cơ này thậm chí còn lớn hơn mối nguy hiểm từ vũ khí hạt nhân.

Robot “lính canh” có thể phát hiện kẻ xâm nhập, buộc hắn đầu hàng trong lần thử nghiệm ở Cheonan (Hàn Quốc) - Ảnh: AFP

“Sự trỗi dậy của máy móc”

Theo các tác giả bức thư, công nghệ để chế tạo những loại vũ khí tự động kiểu máy bay không người lái có khả năng tìm và giết mục tiêu bằng cách nhận diện gương mặt có thể sẽ xuất hiện chỉ trong vài năm nữa. 

Mặc cho thực tế đó, một báo cáo của Tổ chức Human Rights Watch nhận định các khung pháp lý trên thế giới hiện chưa được thay đổi để theo kịp phát minh kỹ thuật này:

“Các cơ chế quy định trách nhiệm pháp lý hiện nay không phù hợp để xử lý những thiệt hại bất hợp pháp mà vũ khí tự động gây ra”.

Thêm vào đó, vũ khí tự động cũng dễ dàng rơi vào tay bất cứ lực lượng quân sự nào trên thế giới, vì chế tạo ra chúng không đòi hỏi chi phí cao hay vật liệu hiếm.

Các nhà khoa học cảnh báo sẽ không mất nhiều thời gian để các tay sát thủ, khủng bố... có thể mua chúng trên thị trường chợ đen để dùng vào mục đích xấu.

Theo The Diplomat, hiện nay việc thiết kế và sản xuất vũ khí tự động đang được quân đội Mỹ đẩy mạnh. Trong một ví dụ, hải quân Mỹ đang nghiên cứu cách phóng một loạt máy bay không người lái bé xíu theo kiểu bầy ong để vô hiệu hóa kẻ địch, chúng phải có chi phí rẻ và chỉ cần sử dụng một lần.

Các chuyên gia dự đoán hai yếu tố then chốt của một trận địa chiến vào năm 2050 sẽ là một chủng người “siêu nhân” và vũ khí tự động.

Tuy nhiên, theo các nhà khoa học, dù “chiến binh máy” có thể giúp giới hạn thương vong trên chiến trường nhưng việc vận dụng chúng cũng làm giảm khả năng kiềm chế xung đột ngay từ đầu.

“Vũ khí tự động lý tưởng để dùng vào mục đích ám sát, gây mất ổn định các quốc gia, đàn áp người dân hoặc giết một nhóm người thiểu số nào đó. Vì thế, chúng tôi tin rằng một cuộc chạy đua sản xuất vũ khí quân sự dùng AI sẽ không có lợi cho nhân loại” - các nhà khoa học kết luận trong lá thư.