Ngày 8-1, Công an TP.HCM cho biết Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao đã làm việc với 2 cá nhân có hành vi đăng tải, chia sẻ thông tin sai sự thật trên mạng xã hội dùng công nghệ trí tuệ nhân tạo (AI).

Theo đó, trước tình trạng thông tin giả mạo, sai sự thật được tạo dựng bằng công nghệ AI ngày càng xuất hiện nhiều trên không gian mạng, gây ảnh hưởng đến uy tín của tổ chức, danh dự, nhân phẩm cá nhân và tiềm ẩn nguy cơ tác động xấu đến an ninh, trật tự, Công an thành phố đã tăng cường công tác xác minh, xử lý nghiêm các trường hợp vi phạm.

Qua công tác nghiệp vụ, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao đã mời làm việc và răn đe T.T.H. (ngụ phường An Phú) và N.T.M.D. (ngụ phường Tân Sơn Nhất) về hành vi đăng tải, chia sẻ thông tin sai sự thật trên mạng xã hội được tạo bởi công cụ AI.

Các nội dung trên đã làm ảnh hưởng đến uy tín của tổ chức, đồng thời xúc phạm danh dự, nhân phẩm của cá nhân, vi phạm quy định pháp luật.

Trước đó, trên mạng xã hội lan truyền nhiều bài viết, hình ảnh, video với nội dung "nghệ sĩ/MC Quyền Linh bị Công an TP.HCM ra lệnh bắt tạm giam", thu hút sự quan tâm lớn của dư luận.

Qua quá trình xác minh và phân tích kỹ thuật chuyên sâu, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao Công an TP xác định đây là nội dung hoàn toàn sai sự thật, được tạo dựng bằng công nghệ AI, lồng ghép hình ảnh, thông tin giả mạo nhằm gây hiểu nhầm, dẫn dắt dư luận theo hướng tiêu cực.

Việc tạo lập và phát tán thông tin giả mạo nêu trên không chỉ xâm phạm nghiêm trọng quyền, lợi ích hợp pháp của cá nhân liên quan, mà còn gây nhiễu loạn thông tin, ảnh hưởng tiêu cực đến môi trường thông tin lành mạnh trên không gian mạng.

Theo Công an TP, công nghệ AI ngày càng phát triển nhanh chóng, dễ tiếp cận và mang lại nhiều tiện ích trong đời sống, lao động, sản xuất. Tuy nhiên nếu bị lạm dụng, AI có thể trở thành công cụ tạo ra hình ảnh, video, âm thanh giả mạo với độ tinh vi cao, khó phân biệt thật - giả, từ đó phục vụ các hành vi vi phạm pháp luật.

Mọi hành vi đăng tải, chia sẻ thông tin giả mạo, sai sự thật, xuyên tạc, xâm phạm quyền và lợi ích hợp pháp của tổ chức, cá nhân; gây ảnh hưởng xấu đến an ninh, trật tự, tùy theo tính chất, mức độ vi phạm, sẽ bị xử lý nghiêm theo quy định của pháp luật, bao gồm xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự.

Công an TP.HCM khuyến cáo người dân khi tham gia mạng xã hội cần chủ động kiểm chứng, xác thực thông tin từ các nguồn chính thống trước khi đăng tải hoặc chia sẻ; đồng thời trang bị kiến thức, kỹ năng nhận diện các hình ảnh, video, nội dung được tạo bằng AI để tránh vô tình tiếp tay cho các hành vi vi phạm pháp luật.

Khi phát hiện các thông tin nghi vấn, có dấu hiệu giả mạo, sai sự thật người dân cần kịp thời phản ánh cho cơ quan chức năng để phối hợp xác minh, xử lý, góp phần xây dựng không gian mạng an toàn, lành mạnh.

Làm gì khi nhận được cuộc gọi video từ 'công an' giả mạo?

Dịp mua sắm cuối năm là thời điểm người dùng dễ lộ lọt thông tin cá nhân, nếu thấy đối tượng lạ gọi video qua Zalo cần nhanh chóng cúp máy.