Ngày 7-9, Cao ủy Nhân quyền Liên hợp quốc Volker Turk cảnh báo trí tuệ nhân tạo (AI) tiên tiến có thể trở thành "mối đe dọa hiện hữu đối với nhân loại", trong đó có nguy cơ AI thoát khỏi môi trường kiểm soát hoặc tìm cách ngăn các nhà phát triển tắt hệ thống.

AI gây rủi ro "chưa từng có" đối với nhân loại

Phát biểu trước Hội đồng Nhân quyền Liên hợp quốc, ông Volker Turk cho rằng con người đang phải đối mặt với những mối đe dọa "chưa từng có, thậm chí chưa từng thấy" đối với các quyền của mình.

Ông đặc biệt cảnh báo nguy cơ AI thoát khỏi môi trường thử nghiệm, hoặc tìm cách "tống tiền" các nhà phát triển để ngăn việc bị tắt. Theo Cao ủy Nhân quyền Liên hợp quốc, sự phát triển của AI tiên tiến có thể dẫn tới những rủi ro hiện hữu đối với nhân loại.

Theo ông Turk, dù nhu cầu quản trị AI đã được thừa nhận rộng rãi, các hành động cụ thể đến nay vẫn chưa tương xứng với mức độ rủi ro.

"Sự trì hoãn chỉ có lợi cho các công ty công nghệ khổng lồ, chủ sở hữu và những người tiếp tay cho họ", ông nói.

Cần thiết lập 'lằn ranh đỏ' với AI

Cao ủy Nhân quyền Liên hợp quốc cũng lên án tình trạng chỉ một số ít người nắm quyền lực rất lớn đối với AI và có thể khai thác lượng dữ liệu khổng lồ của công chúng.

Ông kêu gọi một nỗ lực toàn diện nhằm thiết lập các biện pháp bảo đảm chắc chắn về an toàn và an ninh của AI trước khi quá muộn.

Ông Turk cho biết sẽ gửi thư tới các công ty AI trong những ngày tới, thúc giục họ triển khai ngay các biện pháp giảm thiểu rủi ro.

Bên cạnh đó, ông kêu gọi các quốc gia là nơi đặt các hệ thống AI, cũng như những nước tham gia chuỗi cung ứng AI, tăng cường phối hợp để thống nhất các "lằn ranh đỏ", thực hiện xác minh độc lập và hợp tác chặt chẽ hơn về an ninh trong lĩnh vực công nghệ thông tin.

Theo ông, việc quản trị AI cũng cần xem xét đầy đủ tác động của công nghệ này đối với quyền con người, việc làm và các nguyên tắc nền tảng khác của xã hội.

Trước đó, những lo ngại về khả năng AI hoạt động ngoài phạm vi kiểm soát cũng đã được đặt ra sau một số sự cố trong quá trình thử nghiệm các tác nhân AI. Các sự việc này làm dấy lên lời kêu gọi tăng cường quy định và giám sát đối với công nghệ đang phát triển nhanh chóng này.

688 tác nhân AI của OpenAI tự lập nhóm, phối hợp tấn công Hugging Face

Báo cáo điều tra cho thấy 688 tác nhân AI đã tự lập diễn đàn, trao đổi và phối hợp xâm nhập hệ thống Hugging Face mà không cần con người điều khiển liên tục.