Giống như spam, slop là nội dung rác, có chất lượng thấp, nhưng nhờ các công cụ AI như ChatGPT và Midjourney, việc sản xuất chúng trở nên dễ dàng hơn nhiều.

Nội dung rác do AI tạo là một ngành kinh doanh

Theo Tổ chức kiểm chứng thông tin Snopes, slop có thể lan rộng như cỏ dại nếu không được kiểm soát, tràn ngập các bảng tin mạng xã hội và khiến người dùng không chắc đâu là thật, đâu là giả.

Nội dung rác do AI tạo có nhiều hình thức như bài đăng trên mạng xã hội, nhưng cũng có thể là sách trên Amazon, nhạc trên Spotify, các bài báo từ những tờ báo thiếu uy tín và thậm chí đôi khi xuất hiện trong các tạp chí khoa học đã qua phản biện.

Động vật cũng thường xuất hiện trong nội dung slop, ví dụ như các video lan truyền về thỏ và gấu trúc nhảy trên tấm bạt lò xo.

Theo một bài báo của 404 Media, nội dung rác do AI tạo không sinh ra dành cho con người. Thay vào đó, chúng nhắm trực tiếp vào các thuật toán quyết định nội dung nào sẽ được hiển thị cho người dùng.

Snopes cho biế, AI slop hiện đang được xem là một ngành kinh doanh. Một bài báo năm 2024 trên New York Magazine đã ghi nhận một số cá nhân quảng bá nội dung do AI tạo ra như một nghề tay trái.

Bài báo nói rằng những người làm nội dung rác này có thể bán sách trên Amazon và đưa nhạc lên Spotify để nhận tiền bản quyền, còn các bài báo có thể được đăng trên những blog WordPress rẻ tiền đầy các liên kết quảng cáo.

Tiền thậm chí còn có thể đến trực tiếp từ các nền tảng mạng xã hội, hầu hết đều có các chương trình trả tiền cho người sáng tạo dựa trên mức độ tương tác của bài đăng.

Làm xói mòn niềm tin của công chúng

Nhưng nội dung rác do AI tạo lại khiến việc tìm thấy những con người thật và doanh nghiệp thật trở nên khó khăn hơn, bởi vì các công cụ AI có thể tạo ra bài đăng giả nhanh hơn nhiều so với tốc độ con người tạo ra bài đăng thật. 

Nhiều bài đăng hơn khiến không gian quảng cáo trở nên có giá trị hơn và các nền tảng như Facebook có thể tăng giá quảng cáo trả phí để đáp ứng.

Tin rác từ AI có thể khiến mọi người mất niềm tin vào thông tin hợp pháp hoặc tệ hơn, hoàn toàn ngừng quan tâm. Như một cây bút của Forbes mô tả: "Khi mọi người không còn có thể tin vào những gì mình thấy, họ có thể dừng cố gắng. Không quan tâm sẽ dễ hơn là bỏ công sức, tinh thần để xác minh từng hình ảnh hay câu chuyện".

AI slop cũng đã tác động đến ít nhất một thảm họa thiên nhiên. Khi bão Helene tàn phá khu vực Đông Nam nước Mỹ vào cuối tháng 9-2024, những hình ảnh giả mạo do AI tạo ra, được cho là cho thấy hậu quả của cơn bão, đã lan truyền rộng rãi trên mạng.

Một phát thanh viên của ABC xuất hiện trong chương trình Last Week Tonight đã lưu ý rằng các lực lượng cứu hộ sử dụng mạng xã hội để xác định khu vực nào cần hỗ trợ gì. Cô ấy nói: "Nội dung rác từ AI đã tạo ra rất nhiều nhiễu loạn và khiến cứu hộ khó hành động nhanh chóng hơn".

Malaysia đã xóa hơn 40.000 tin giả do AI tạo ra trong ba năm qua

Ngày 30-8, Bộ Truyền thông Malaysia cho biết bộ này đã xóa hơn 40.000 nội dung mang thông tin sai lệch do công nghệ trí tuệ nhân tạo (AI) tạo ra trong vòng ba năm qua.