Chuyên gia an ninh mạng Hiếu PC: Deepfake ngày càng tinh vi, 'mắt thấy, tai nghe chưa chắc đúng'

Sáng 23-10, Cục Truyền thông Công an nhân dân (Bộ Công an) tổ chức hội thảo "Dữ liệu và công nghệ số: Nền tảng an toàn cho báo chí Công an nhân dân". Hội thảo nằm trong khuôn khổ Liên hoan Truyền hình, phát thanh, điện ảnh Công an nhân dân lần thứ 15.

Tại hội thảo, ông Ngô Minh Hiếu (Hiếu PC) - đồng sáng lập kiêm Giám đốc điều hành Chống Lừa Đảo, chuyên gia an toàn không gian mạng - trình bày tham luận "Báo động tin giả và giải pháp chống deepfake mạo danh".

"Mắt thấy, tai nghe chưa chắc đúng"

Theo ông Ngô Minh Hiếu, trong những năm gần đây, các đối tượng tội phạm sử dụng AI ngày càng nhiều. Ngoài việc phục vụ các hoạt động tấn công mạng, công nghệ này còn bị lợi dụng để tạo hình ảnh giả mạo nhằm câu lượt thích, lượt xem trên không gian mạng, qua đó trục lợi từ tiền quảng cáo.

Ông Hiếu cho biết gần đây, một số nghi phạm ở nước ngoài và Việt Nam đã bị bắt giữ do sử dụng công nghệ AI deepfake để tung thông tin không đúng sự thật trên không gian mạng. Các nghi phạm còn sử dụng AI tạo nội dung giả mạo nhằm bôi nhọ người khác, cắt ghép hình ảnh, tìm cách vượt qua hệ thống xác thực sinh trắc học.

Đáng chú ý, phương thức lừa đảo đang có sự thay đổi rõ rệt. Trước đây, các nghi phạm thường gọi điện thoại đe dọa, gây áp lực tâm lý, sau đó nhắn tin giả mạo cơ quan chức năng hoặc ngân hàng để dẫn dụ nạn nhân truy cập đường link.

Hiện nay các đối tượng có thể thực hiện cả cuộc gọi video giả mạo. "Ngày xưa chúng ta hay nói gọi điện thoại video tôi mới tin hoặc nghe thấy giọng nói mới tin, nhưng bây giờ mắt thấy tai nghe chưa chắc đúng", ông Hiếu cảnh báo.

Theo chuyên gia này, các nghi phạm sử dụng AI tạo cuộc gọi video giả mạo, mặc quân phục, ngồi làm việc nhằm khiến nạn nhân tin rằng mình đang trao đổi với người thật, người có chức vụ hoặc đại diện cơ quan chức năng.

Thời gian gần đây lực lượng chức năng, đặc biệt là lực lượng an ninh mạng, đã tổ chức các buổi hội thảo, sự kiện để người dân trải nghiệm những hình thức giả mạo deepfake, giọng nói trong thời gian thực. Qua đó, người dân có thể nhận thấy mức độ tinh vi của công nghệ này.

Ông Hiếu phân tích, AI giúp tội phạm phát triển phương thức lừa đảo nhanh hơn, tiết kiệm thời gian, phá vỡ rào cản ngôn ngữ.

Trước đây, một đối tượng muốn lừa đảo người nước ngoài phải biết ngôn ngữ của nạn nhân, chẳng hạn tiếng Anh. Hiện nay, AI có thể hỗ trợ vượt qua rào cản này.

Bên cạnh đó, người không có nhiều kiến thức kỹ thuật vẫn có thể sử dụng AI để tạo website lừa đảo, giả mạo hoặc sản xuất video, nội dung văn bản trong thời gian thực với ngôn ngữ tự nhiên, độ chính xác cao.

Dẫn chứng một số khảo sát của Hiệp hội An ninh mạng năm 2025, ông Hiếu cho biết hình thức mạo danh sử dụng công nghệ AI deepfake là một trong những phương thức phổ biến.

Hiếu PC cũng nêu vụ việc xảy ra vào tháng 3-2025, khi các đối tượng sử dụng cuộc gọi giả mạo con gái để lừa người mẹ, chiếm đoạt 1,3 tỉ đồng. Theo ông, còn nhiều vụ việc khác chưa được báo cáo.

3 bước xác minh hình ảnh, video nghi giả mạo

Để hỗ trợ xác minh thông tin, ông Hiếu PC giới thiệu quy trình ba bước xác minh tư liệu, viết tắt là M.A.N, nhằm kiểm tra nguồn gốc và phát hiện những dấu hiệu bất thường của hình ảnh, video.

Bước thứ nhất: Phân tích Metadata

Theo ông Hiếu, có thể sử dụng công cụ như EXIF để trích xuất siêu dữ liệu trong tệp, qua đó kiểm tra các thông tin như tọa độ, thời gian, thiết bị tạo lập. Những dữ liệu này có thể hỗ trợ xác minh nguồn gốc của hình ảnh, video.

Tuy nhiên, nội dung đã qua chỉnh sửa bằng phần mềm hoặc được tạo ra bằng AI có thể bị mất, ẩn hoặc không còn đầy đủ siêu dữ liệu. Khi hình ảnh, video được tải lên các nền tảng như Facebook, Zalo, phần lớn siêu dữ liệu cũng có thể bị loại bỏ.

Ngoài ra, cần kiểm tra những điểm mâu thuẫn giữa nội dung và thông tin đi kèm. Chẳng hạn, một video được giới thiệu là ghi hình cuộc họp vào buổi sáng nhưng dữ liệu liên quan lại cho thấy dấu hiệu được dựng bằng phần mềm từ 2h đêm.

Bước thứ hai: Phân tích phổ AI

Các thuật toán có thể hỗ trợ phát hiện những lỗi nhỏ mà mắt thường khó nhận ra, như sự bất thường về màu sắc, độ sáng, bóng đổ, chuyển động trong hình ảnh, video.

Ông Hiếu PC cho biết công cụ do Chống Lừa Đảo phát triển có thể hỗ trợ phát hiện hình ảnh, video giả mạo, thậm chí cả giọng nói giả mạo. Tuy nhiên, công cụ chỉ đóng vai trò hỗ trợ một phần, người sử dụng không nên phụ thuộc hoàn toàn vào kết quả phân tích, bởi các đối tượng vẫn tìm cách vượt qua hệ thống phát hiện.

Bước thứ ba: Truy vết nguồn gốc

Người xác minh có thể sử dụng công cụ Google Reverse Image Search (tìm kiếm hình ảnh ngược) để tra cứu trên nhiều nền tảng, tìm nguồn xuất hiện ban đầu của hình ảnh, video hoặc nội dung được chia sẻ.

Việc truy tìm bản gốc giúp xác định nội dung được sao chép từ nguồn khác hay do người đăng tự tạo, đồng thời hỗ trợ đối chiếu thông tin, đánh giá tính xác thực của tư liệu.

Hiếu PC: Xem hoài một loại nội dung cũng tạo kẽ hở cho lừa đảo mạng

Độ tuổi trẻ em vào mạng ngày càng sớm trong khi những rủi ro như lừa đảo, dụ dỗ, nội dung độc hại hay lộ thông tin cá nhân ngày càng khó nhận biết hơn. Bảo vệ không đơn giản chỉ là kiểm soát thời gian dùng điện thoại mà cần giúp trẻ cách nhận diện và tự phòng vệ trên mạng.