Đó là khuyến cáo chính thức của các chuyên gia an toàn thông tin từ Bộ Thông tin và Truyền thông.

"Nhiều ứng dụng trên mạng thu thập hình ảnh, giới tính và độ tuổi người dùng, các ứng dụng này đều tồn tại nguy cơ lộ lọt thông tin cá nhân, không riêng các ứng dụng tạo ảnh AI nổi lên gần đây", ông Nguyễn Phú Lương, phó giám đốc Trung tâm Giám sát an toàn không gian mạng quốc gia (NCSC), Cục An toàn thông tin, cho biết tại họp báo thường kỳ của Bộ Thông tin và Truyền thông chiều ngày 6-11.

Đại diện Cục An toàn thông tin cho biết người dùng càng nên đặc biệt cảnh giác với các ứng dụng không rõ nhà phát triển, không rõ nguồn gốc.

"Ngoài ra, khi sử dụng bất kỳ ứng dụng nào cũng cần hiểu rõ các chính sách quyền riêng tư, cần đọc kỹ các điều khoản sử dụng của nhà cung cấp ứng dụng", ông Lương nhấn mạnh.

Rủi ro cao nhất là trẻ em

Đại diện Cục An toàn thông tin cho biết các công cụ AI đặc biệt nhiều rủi ro đối với nhóm người dùng trẻ em, do các ứng dụng không phân biệt độ tuổi người dùng khi đưa ra câu trả lời. Trẻ em có thể bị tiếp cận các nội dung không phù hợp lứa tuổi hoặc nội dung mang tính chất bạo lực.

Nguy cơ thứ hai là lọt, lộ thông tin của trẻ em. Nhóm người dùng này dễ bị thu hút bởi những hình ảnh độc đáo, dễ thương từ các ứng dụng AI tạo sinh hình ảnh và cung cấp hình ảnh của mình trong khi không ý thức về nguồn gốc ứng dụng, điều khoản sử dụng và nguy cơ bị lạm dụng hình ảnh. 

Đã có nhiều sự việc trẻ em sử dụng các ứng dụng tạo ảnh không rõ nguồn gốc, sau đó hình ảnh khuôn mặt bị trích xuất để ghép vào các ảnh đồi trụy, khiêu dâm.

Ngoài ra, trẻ em dễ bị dụ dỗ để thực hiện các hành vi nguy hiểm mà các AI tạo sinh văn bản có thể đưa ra.

"Với những nguy cơ như vậy, chúng tôi khuyến cáo khi phụ huynh muốn cho con em tiếp cận các nội dung và ứng dụng AI cần tuân thủ các nguyên tắc về độ tuổi và bảo mật mà nhà phát triển đặt ra, chỉ sử dụng các ứng dụng rõ nguồn gốc và có thể sử dụng các công cụ chặn lọc nội dung theo độ tuổi", theo đại diện Trung tâm Giám sát an toàn không gian mạng quốc gia.

Cẩn thận trước các ứng dụng chỉnh sửa hình ảnh và học ngoại ngữ

TTO - Theo hãng bảo mật Wandera, mã độc RedDrop hiện đang ẩn trong ít nhất 53 ứng dụng di động thuộc các loại phần mềm chỉnh sửa hình ảnh, máy tính và các ứng dụng tự học ngôn ngữ.