Hầu hết các nội dung AI đều khai thác những chủ đề thu hút sự chú ý như chó nhảy dù, thiên tai, quái vật biển khơi, thậm chí dàn dựng các tình huống nhằm bôi nhọ hình ảnh của lực lượng chức năng.

Tràn lan video AI phản cảm nhằm câu view, câu like

Thời gian gần đây, lướt các nền tảng như TikTok hay Facebook, không khó để bắt gặp những video có nội dung cực kỳ "giật gân". Trong một video do tài khoản Nông Trại T.H đăng tải với tựa đề "Đàn mèo mochi mini của mình" là hình ảnh người phụ nữ đặt chú mèo tí hon trong lòng bàn tay, cho mèo uống sữa bằng ống nhựa nhỏ kèm theo giọng đọc chú thích: 

"Một bé mèo mini dài khoảng 10cm thôi, mình nuôi bé trong bể thủy sinh. Kích thước nhỏ nhưng nhu cầu chăm sóc khá tỉ mỉ: phần đất phải luôn ấm, có nhiều rêu và nước chảy nhẹ để bé vừa chơi vừa uống. Mỗi ngày mình cho ăn ba lần, chủ yếu là sữa ấm và cháo thịt gà xay".

Dưới phần bình luận, tài khoản này gắn kèm rất nhiều link sản phẩm để mời gọi mua hàng. Đáng nói, mặc dù thông tin trên trang chủ tài khoản có chú thích "kênh sáng tạo nội dung bằng AI, nông trại đồng quê, giải trí" nhưng bên dưới video lại hoàn toàn không có thông tin cho người xem biết đây là nội dung do AI tạo.

Cũng lướt mạng xã hội, chị Thu Thủy (TP.HCM) cho biết: "Tôi vừa xem video quay cảnh một con quái vật khổng lồ trồi lên ở vùng biển miền Trung, hình ảnh sống động đến mức tôi suýt tin là thật nếu không đọc phần bình luận cảnh báo đây là sản phẩm AI". 

Thực tế, không phải ai cũng tỉnh táo như chị Thủy. Đối với người cao tuổi hoặc những người ít cập nhật công nghệ, những video này là một cái bẫy hoàn hảo. Nguy hiểm hơn, nhiều tài khoản còn sử dụng AI để cắt ghép, dàn dựng các tình huống sai sự thật về lực lượng chức năng nhằm kích động, bôi nhọ.

Trong một clip khác do tài khoản T.Đ đăng tải có nội dung bôi nhọ hình ảnh lực lượng chức năng nhưng lại không đính kèm chú thích cho thấy video là do AI tạo. Nhiều người tinh ý nhận ra những điểm khác lạ trong clip, từ những dòng chữ mờ nhòe vô nghĩa trên các bảng hiệu, người tham gia giao thông mặc áo mưa khi trời nắng hay những nhân vật lặp đi lặp lại nhiều lần trong các khung hình và nhanh chóng xác nhận là nội dung từ AI.

Tuy nhiên cũng có không ít người để lại các bình luận bày tỏ sự bức xúc, chửi bới lực lượng chức năng chỉ vì tin vào một nội dung... không có thật. Bà Nguyễn Thị Bích (60 tuổi, TP.HCM) kể lại: "Tôi thấy video một chú công an đứng quát tháo người dân, hình ảnh rất rõ, giọng nói cũng rất thực. Tôi tưởng thật nên bức xúc chia sẻ cho bạn bè, sau đó con trai bảo đó là hình ảnh giả do máy tính làm ra tôi mới ngã ngửa".

Hiểm họa khôn lường

Theo báo cáo của trang Chongluadao.vn đầu năm 2026, thiệt hại do lừa đảo trực tuyến tại Việt Nam trong năm 2025 ước tính đã vượt con số 6.000 tỉ đồng. Trong đó, lừa đảo "AI hóa" sử dụng deepfake để mạo danh người thân hoặc cán bộ cơ quan thuế, công an đang trở thành bề mặt rủi ro lớn nhất trên thiết bị di động. 

Trang này cũng đưa ra dự báo trong năm 2026, công nghệ deepfake và voice cloning (sao chép giọng nói) đã phát triển đến mức có thể tạo ra video và giọng nói giả mạo gần như hoàn hảo với chi phí thấp và thời gian ngắn. 

Theo đó, chỉ cần vài giây đoạn ghi âm hoặc video gốc (dễ dàng lấy từ mạng xã hội), tội phạm có thể tạo video cuộc gọi giả mạo từ người thân, đồng nghiệp hoặc lãnh đạo; sao chép giọng nói CEO yêu cầu kế toán chuyển tiền khẩn cấp; giả danh cán bộ ngân hàng, công an qua video call để tăng độ tin cậy...

Trao đổi với Tuổi Trẻ, nhiều chuyên gia công nghệ nhận định sự bùng nổ của nội dung do AI tạo đang tạo ra một mê hồn trận thông tin trên không gian mạng, nơi ranh giới giữa thực và ảo trở nên mong manh hơn bao giờ hết. Công nghệ Generative AI (AI tạo sinh) hiện nay đã đạt đến trình độ mô phỏng chuyển động và ánh sáng gần như hoàn hảo. 

Khi những nội dung này được lan truyền, chúng không chỉ dừng lại ở mức độ giải trí mà còn có thể bị lợi dụng để dẫn dắt dư luận, trục lợi tài chính hoặc thực hiện các hành vi lừa đảo tinh vi. 

Đáng sợ hơn, các thuật toán mạng xã hội hiện nay ưu tiên nội dung gây sốc (dù là AI tạo ra), vô tình tiếp tay cho việc lan truyền các video kỳ dị (quái vật, thiên tai giả) nhằm mục đích câu view, trục lợi quảng cáo. Người dùng, nhất là những người cao tuổi, ít hiểu biết về công nghệ sẽ rất dễ bị "dắt mũi" bởi các nội dung có sự can thiệp của AI.

Chẳng hạn, các thông tin giả (fake news) được minh họa bằng hình ảnh, video sống động như thật dễ khiến người dân rơi vào trạng thái "hoang mang kỹ thuật số", không còn biết tin vào đâu, ngay cả với những thông tin chính thống. Đặc biệt những đối tượng xấu có thể lợi dụng sự nhẹ dạ và thiếu kiến thức công nghệ của người cao tuổi để tạo ra các kịch bản lừa đảo tài chính hoặc xuyên tạc uy tín của các cơ quan chức năng, gây mất ổn định trật tự.

Về góc độ an ninh mạng, các chuyên gia cảnh báo về một "nền kinh tế tội phạm" mới. AI không còn là công cụ đơn lẻ mà đã chuyển sang giai đoạn "công nghiệp hóa" lừa đảo. Nếu trước đây tội phạm phải tốn hàng giờ để thuyết phục nạn nhân, thì nay các Chatbot AI có thể vận hành 24/7, cùng lúc tương tác hàng ngàn người với kịch bản được cá nhân hóa, đầy sự cảm thông giả tạo để chiếm lòng tin. 

Hệ lụy nghiêm trọng nhất không chỉ là mất tiền bạc mà là sự xói mòn niềm tin xã hội. Khi tin giả được minh họa bằng video "như thật", công chúng sẽ dần rơi vào trạng thái hoài nghi tất cả, kể cả những thông tin chính thống từ báo chí và cơ quan nhà nước.

Từ hình ảnh, video đến ca khúc AI: Cẩn trọng 'cơn lốc' nội dung AI trên mạng xã hội

Trí tuệ nhân tạo (AI) đang bị lợi dụng trong các hoạt động thương mại trực tuyến, từ bán hàng đến lừa đảo từ thiện, khiến cơ quan quản lý và doanh nghiệp phải nhanh chóng tìm giải pháp nhận diện và kiểm soát rủi ro trong kỷ nguyên nội dung nhân tạo.