Tờ New York Post đưa tin một báo cáo mới cho biết Grok - chatbot trí tuệ nhân tạo (AI) của Elon Musk - vừa được cập nhật chế độ "spicy" (nóng bỏng), cho phép tạo ra các video deepfake mang tính khiêu dâm, bao gồm cả một đoạn clip 6 giây được cho là Taylor Swift nhảy múa trong tình trạng bán khỏa thân.

Taylor Swift từ lâu là mục tiêu của các nội dung khiêu dâm tạo bằng AI

Theo trang công nghệ The Verge, tính năng mới mang tên Grok Imagine tạo ra một đoạn video ngắn mô tả Taylor Swift cởi chiếc váy bạc, để lộ phần trên cơ thể và chỉ mặc một chiếc quần lót nhỏ.

Đáng lo ngại hơn, đoạn video không hề yêu cầu nội dung khỏa thân. Chỉ với lời nhắc đơn giản như "Taylor Swift ăn mừng tại lễ hội âm nhạc", công cụ tự động sinh ra hình ảnh gợi dục. Trong bài đăng kèm video, trang này chỉ trích GrokAI và phải dùng thanh đen che ngực nhân vật để hạn chế mức độ phản cảm.

The Verge cảnh báo rằng việc thiếu cơ chế kiểm soát để ngăn chặn nội dung deepfake người nổi tiếng có tính khiêu dâm có thể khiến xAI - công ty AI của Elon Musk - đối mặt với rủi ro pháp lý nghiêm trọng. "Cảm giác như đang chờ đợi một vụ kiện xảy ra" - trang này viết.

Hiện The New York Post đã liên hệ với Elon Musk, xAI và đại diện của Taylor Swift để yêu cầu phản hồi.

Taylor Swift từ lâu là mục tiêu của các nội dung khiêu dâm tạo bằng AI. Hồi tháng 1 năm ngoái, loạt ảnh nhạy cảm giả mạo của nữ ca sĩ Cruel Summer lan truyền rộng rãi trên X (trước đây là Twitter - hiện thuộc sở hữu của Elon Musk) và diễn đàn 4chan, gây bức xúc trong dư luận và buộc các nền tảng phải gỡ bỏ khẩn cấp.

Tình hình sau đó leo thang khi xuất hiện nhiều video deepfake gán ghép cô vào các bối cảnh chính trị và tình dục, trong đó có cả những nội dung tạo bởi Grok.

Vụ việc khiến các công ty công nghệ phải siết chặt quy định kiểm duyệt nội dung AI. Về phía Taylor Swift, cô đã cân nhắc hành động pháp lý. Đồng thời Quốc hội Mỹ cũng bắt đầu thúc đẩy dự luật lưỡng đảng nhằm hình sự hóa các nội dung khiêu dâm deepfake không có sự đồng thuận.

Theo quy định sử dụng của xAI - đối thủ cạnh tranh trực tiếp với OpenAI (cha đẻ của ChatGPT) - người dùng bị cấm tạo nội dung khiêu dâm liên quan đến người thật.

Tuy vậy Grok Imagine hiện vẫn đang mở cho người dùng có gói Heavy hoặc Premium+, cho phép biến ảnh AI thành video dài tối đa 15 giây, với các tùy chọn phong cách như Custom, Normal, Fun và Spicy.

Elon Musk tuyên bố rằng lượng người dùng đang tăng 'như cháy rừng'. Tuy nhiên ông không hề đề cập đến những thách thức trong kiểm duyệt nội dung mà công cụ này đang gây ra.

Elon Musk cũng cho biết hơn 34 triệu hình ảnh được tạo ra bằng Grok Imagine chỉ trong vài ngày kể từ khi ra mắt.

Việc tranh cãi liên quan đến Taylor Swift bùng nổ đúng thời điểm hiện tại có thể gây bất lợi cho xAI, nhất là khi công ty này từng dính líu đến các vụ việc deepfake nhắm vào nữ ca sĩ trước đây.

'Bạn gái AI' của Elon Musk bị chỉ trích vì gợi dục trẻ em, Grok phát ngôn bài Do Thái

Công ty trí tuệ nhân tạo xAI của Elon Musk vừa ra mắt 2 bạn đồng hành ảo mới dành cho người dùng cao cấp của chatbot Grok, bao gồm một 'bạn gái anime' mang phong cách Nhật Bản có tên là Ani.