Theo AFP, Grok viết trong một bài đăng trên X: "Có một số trường hợp riêng lẻ khi người dùng đưa ra yêu cầu và nhận được hình ảnh do AI tạo ra mô tả trẻ vị thành niên trong trang phục tối giản. Chúng tôi đã xác định được các lỗ hổng trong cơ chế bảo vệ và đang khẩn trương sửa chữa. CSAM (Tài liệu lạm dụng tình dục trẻ em) là bất hợp pháp và bị cấm".

Gần đây, nhiều người dùng trên X yêu cầu Grok tạo ra các phiên bản hình ảnh do AI chỉnh sửa mang tính tình dục và không có sự đồng thuận, trong một số trường hợp là loại bỏ quần áo của những người trong ảnh mà không có sự cho phép của họ.

Elon Musk cũng chia sẻ lại một bức ảnh AI của chính mình trong trang phục bikini, kèm theo các biểu tượng cảm xúc cười lớn, như một sự hưởng ứng xu hướng này.

Các khiếu nại về việc lạm dụng bắt đầu xuất hiện trên X, sau khi nút "chỉnh sửa hình ảnh" được triển khai trên Grok vào cuối tháng 12-2025.

Theo các khiếu nại, nút này cho phép người dùng chỉnh sửa bất kỳ hình ảnh nào trên nền tảng, và một số người đã sử dụng nó để loại bỏ một phần hoặc toàn bộ quần áo của phụ nữ hoặc trẻ em trong ảnh.

xAI, công ty phát triển Grok do Elon Musk điều hành, trả lời một câu hỏi của AFP bằng một phản hồi ngắn gọn, tự động: "Truyền thông chính thống nói dối".

Các hãng truyền thông tại Ấn Độ đưa tin rằng các quan chức chính phủ nước này đang yêu cầu X nhanh chóng cung cấp chi tiết về các biện pháp mà công ty đang thực hiện để gỡ bỏ "nội dung khiêu dâm, khỏa thân, phản cảm và mang tính gợi dục" do Grok tạo ra mà không có sự đồng ý của những người xuất hiện trong ảnh.

Trong khi đó, văn phòng công tố viên tại Paris mở rộng cuộc điều tra đối với X, để bao gồm các cáo buộc mới rằng Grok đang bị sử dụng để tạo ra và phát tán nội dung khiêu dâm trẻ em.

Vấn đề AI bị sử dụng để tạo ra tài liệu lạm dụng tình dục trẻ em là một vấn đề tồn tại lâu nay trong ngành trí tuệ nhân tạo.

Một nghiên cứu của Đại học Stanford năm 2023 phát hiện rằng một bộ dữ liệu được dùng để huấn luyện nhiều công cụ tạo hình ảnh AI phổ biến có chứa hơn 1.000 hình ảnh khiêu dâm của trẻ em. Theo các chuyên gia, việc huấn luyện AI trên những hình ảnh lạm dụng trẻ em có thể khiến các mô hình tạo ra những hình ảnh mới về việc trẻ em bị bóc lột.

Trong những tháng gần đây, Grok bị chỉ trích vì tạo ra nhiều tuyên bố gây tranh cãi, từ cuộc chiến ở Gaza và xung đột Ấn Độ - Pakistan, đến các phát ngôn bài Do Thái và việc lan truyền thông tin sai lệch về một vụ xả súng chết người tại Úc.

Trí tuệ nhân tạo Grok của Elon Musk bị chỉ trích vì tạo video deepfake khiêu dâm về Taylor Swift

Công ty trí tuệ nhân tạo GrokAI của Elon Musk tiếp tục gây tranh cãi khi tạo video deepfake Taylor Swift cởi chiếc váy bạc, để lộ phần trên cơ thể và chỉ mặc một chiếc quần lót nhỏ.