Tối 8-4, Công an TP Hà Nội cho biết Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao vừa xử lý một người đăng tải bài viết sử dụng AI chế ảnh người ngất xỉu tại cây xăng.

Qua công tác nắm tình hình trên không gian mạng, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao phát hiện tài khoản Facebook đăng tải bài viết "Giá xăng dầu "quay xe" - anh em đi đổ xăng ngay".

Bài đăng kèm hình ảnh tạo từ AI về một người đàn ông bị ngất xỉu tại cây xăng.

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đã làm rõ người đăng bài viết là N.T.Đ. (21 tuổi, trú tại phường Hoàng Mai, Hà Nội).

Tại cơ quan công an, anh N.T.Đ. thừa nhận việc sử dụng hình ảnh AI sai sự thật nhằm mục đích câu view, câu like.

Anh N.T.Đ. đã tự giác gỡ bỏ bài viết vi phạm trên mạng xã hội và cam kết không tái phạm.

Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao khuyến cáo người dân cần nâng cao ý thức trách nhiệm khi sử dụng mạng xã hội.

Không đăng tải, chia sẻ các hình ảnh, video do AI tạo dựng hoặc chưa được kiểm chứng, đặc biệt là những nội dung gây hoang mang dư luận, ảnh hưởng đến an ninh trật tự.

Cảnh giác với hình ảnh, thông tin trên mạng xã hội, kẻ xấu có thể lợi dụng công nghệ AI để tạo dựng hình ảnh giả, xuyên tạc sự thật nhằm câu view, câu like hoặc phục vụ mục đích xấu.

Bị chỉ trích vì cho tạo ảnh khỏa thân AI, Grok chặn tính năng tạo ảnh với người dùng miễn phí

Chatbot AI Grok của tỉ phú Elon Musk đã tắt tính năng tạo ảnh đối với người dùng không trả phí, sau khi công cụ này bị chỉ trích vì bị lợi dụng để tạo ra các hình ảnh khỏa thân và mang tính khiêu dâm, trong đó có phụ nữ và trẻ em.