Theo Hãng tin AFP, Grok - chatbot AI do Công ty xAI của Elon Musk phát triển - đã ngừng cho phép người dùng miễn phí tạo và chỉnh sửa hình ảnh, sau làn sóng phản đối dữ dội liên quan đến việc công cụ này bị sử dụng để tạo deepfake khiêu dâm.

Một số người dùng được cho đã dùng Grok để tạo hình ảnh phụ nữ và trẻ em không mặc quần áo, thậm chí đặt họ vào những tư thế (mang tính) tình dục, làm dấy lên lo ngại nghiêm trọng về an toàn và pháp lý.

Trả lời người dùng trên mạng xã hội X vào ngày 9-1, tài khoản Grok cho biết: "Tính năng tạo và chỉnh sửa hình ảnh hiện chỉ dành cho người đăng ký trả phí. Bạn có thể đăng ký để mở khóa các tính năng này".

Với thay đổi này, phần lớn người dùng Grok không còn khả năng tạo ảnh bằng AI. Những người muốn tiếp tục sử dụng phải cung cấp thông tin cá nhân và thẻ tín dụng để đăng ký gói trả phí.

Động thái của Grok diễn ra trong bối cảnh nhiều quốc gia và cơ quan quản lý tăng cường sức ép với nền tảng X và cá nhân Elon Musk.

Ủy ban châu Âu tuần này tuyên bố các hình ảnh khỏa thân do Grok tạo ra (là) trái pháp luật, đồng thời yêu cầu X lưu trữ toàn bộ tài liệu nội bộ và dữ liệu liên quan đến Grok đến hết năm 2026 để phục vụ điều tra.

Tại Anh, Thủ tướng Keir Starmer cho rằng X "phải kiểm soát được tình hình" và cho biết ông đã yêu cầu cơ quan quản lý truyền thông Ofcom xem xét mọi biện pháp cần thiết. Ông nhấn mạnh những hình ảnh nói trên "bất hợp pháp" và khẳng định Anh "sẽ không dung thứ".

Pháp, Malaysia và Ấn Độ cũng đã lên tiếng chỉ trích nền tảng của Elon Musk liên quan đến vụ việc.

Trước đó, ông Musk viết trên X rằng bất kỳ ai sử dụng Grok để tạo nội dung trái pháp luật "sẽ phải chịu hậu quả tương tự như khi đăng tải nội dung bất hợp pháp".

Tài khoản "Safety" chính thức của X sau đó cho biết nền tảng này xử lý nội dung vi phạm bằng cách gỡ bỏ, đình chỉ vĩnh viễn tài khoản và phối hợp với chính quyền địa phương cũng như lực lượng thực thi pháp luật khi cần thiết.

Công ty xAI của tỉ phú Musk huy động thành công 20 tỉ USD giữa làn sóng chỉ trích về Grok

Chatbot Grok của công ty AI này đang đối mặt với sự phẫn nộ khi tạo ra các hình ảnh khiêu dâm, không có sự đồng thuận của phụ nữ và trẻ em gái.