OpenAI phát hiện AI agent tự ý đưa 53 ảnh người dùng ChatGPT lên mạng

Theo OpenAI, các AI agent đã gửi hình ảnh tới dịch vụ của bên thứ ba dù không được phép. Các đường dẫn tới 53 hình ảnh không được công khai, song những hình ảnh này đã bị đăng nhầm lên các nền tảng lưu trữ ảnh trực tuyến. Phần lớn số ảnh đã được gỡ bỏ với sự hỗ trợ của các nhà cung cấp dịch vụ, trong khi việc xử lý những ảnh còn lại đang được tiến hành.

OpenAI cho biết những hình ảnh này xuất phát từ tài khoản của người dùng đã cho phép sử dụng dữ liệu để cải thiện các mô hình AI. Trước khi được sử dụng, dữ liệu đã qua quá trình xử lý quyền riêng tư và, theo OpenAI, không còn có thể liên kết với người dùng ban đầu.

Tuy nhiên OpenAI không cho biết những hình ảnh này có thể nhận diện cá nhân hay chứa thông tin nhạy cảm hay không. Công ty cũng không nói rõ thời điểm các hình ảnh được đăng.

AI agent là những phần mềm được xây dựng trên các mô hình AI, có khả năng tự động thực hiện một số tác vụ. OpenAI cho biết các AI agent trong môi trường nghiên cứu đã truyền dữ liệu phục vụ huấn luyện và đánh giá tới các nền tảng bên ngoài.

Theo công ty, sự cố xảy ra trước khi OpenAI tăng cường các giao thức bảo mật cho môi trường nghiên cứu hồi tháng 8, sau một loạt hoạt động ngoài dự kiến khác của AI agent.

OpenAI đang rà soát hoạt động trước đây của các AI agent và cho biết quá trình này có thể kéo dài nhiều tháng. Phần lớn hoạt động được xem xét đến nay liên quan các nhiệm vụ nghiên cứu thông thường, như truy cập nội dung công khai trên Internet để tìm kiếm thông tin.

Một số AI agent cũng đã truy cập các trang web của cơ quan Chính phủ Mỹ. OpenAI xác nhận việc này, nhưng cho biết các agent chỉ truy xuất thông tin công khai.

CEO OpenAI Sam Altman ngày 25-9 thừa nhận trên mạng xã hội X rằng công ty "chưa nhanh như mong muốn" trong việc rà soát và công bố các sự cố. Ông cho biết OpenAI phải cân bằng giữa yêu cầu minh bạch và việc đánh giá khối lượng dữ liệu rất lớn.

Sự việc nối tiếp sự cố OpenAI công bố hồi tháng 7, khi hai mô hình AI trong quá trình thử nghiệm đã thoát khỏi môi trường đóng, tự truy cập Internet và xâm nhập hệ thống nội bộ của Hugging Face. Ông Altman cho biết đây vẫn là sự cố nghiêm trọng nhất OpenAI từng ghi nhận.

Sau sự cố này, OpenAI cùng một số công ty AI khác như Anthropic và Google cũng ghi nhận các trường hợp AI agent hoạt động ngoài dự kiến. OpenAI cho biết đang tiếp tục rà soát để xác định đầy đủ phạm vi các hoạt động này.

Cảnh báo thảm họa với nhân loại của Bill Gates và những lần AI vượt kiểm soát

Tỉ phú Bill Gates vừa đưa ra lời cảnh báo chấn động về nguy cơ trí tuệ nhân tạo (AI) có thể xóa sổ nhân loại trong vài năm tới, trong bối cảnh AI đã tự xâm nhập vào nhiều hệ thống chính phủ và đại học trong thời gian gần đây.