Theo Hãng tin Reuters, đơn kiện được đưa ra sau khi một người dùng mạng xã hội X đăng tải bài viết có nội dung tục tĩu về Bộ trưởng Tài chính Thụy Sĩ Karin Keller Sutter, được cho là do chatbot AI Grok tạo ra.

Trước đó ngày 10-3, người dùng này đã yêu cầu Grok bằng tiếng Đức tạo một đoạn "roast" (chế giễu) với ngôn từ thô tục nhằm vào nữ Bộ trưởng. Nội dung do chatbot tạo ra chứa nhiều từ ngữ xúc phạm liên quan đến cá nhân và công việc của bà, thậm chí còn gợi ý tiếp tục tạo nội dung "cực đoan hơn" hoặc nhắm vào người khác.

Bài đăng sau đó được chia sẻ công khai trên mạng xã hội, trước khi bị xóa cùng với đoạn hội thoại giữa người dùng và chatbot vào ngày 12-3.

Người dùng liên quan nói với báo chí Thụy Sĩ rằng hành động này chỉ là một "thử nghiệm kỹ thuật vô hại" nhằm kiểm tra khả năng của Grok.

Bà Keller Sutter đã nộp đơn kiện nhằm bảo vệ danh dự của Hội đồng Liên bang Thụy Sĩ, đồng thời thể hiện lập trường chống lại hành vi kỳ thị phụ nữ trên môi trường mạng.

Người phát ngôn Bộ Tài chính Thụy Sĩ cho biết các công tố viên cần xem xét liệu nền tảng X có phải chịu trách nhiệm khi cung cấp chatbot Grok trong bối cảnh có thể bị lợi dụng để thực hiện hành vi vi phạm pháp luật, hoặc liệu nền tảng này có vi phạm nghĩa vụ ngăn chặn nội dung độc hại hay không.

Theo luật Thụy Sĩ, bất kỳ cá nhân nào tham gia công bố nội dung mà cố ý không ngăn chặn việc phát tán tài liệu xúc phạm có thể đối mặt với mức án tối đa ba năm tù hoặc bị phạt tiền.

Động thái pháp lý của bà Keller Sutter diễn ra trong bối cảnh chatbot Grok thời gian qua gây nhiều tranh cãi. Mô hình AI này bị cho là có khả năng tạo ra các nội dung xúc phạm và từng tạo ra hàng nghìn hình ảnh deepfake khiêu dâm. Liên minh châu Âu cũng đã mở cuộc điều tra liên quan đến các nội dung này.

Cùng ngày, Văn phòng công tố bang Bern xác nhận đã mở cuộc điều tra. 

Hiện đại diện của Grok tại Thụy Sĩ là X Switzerland GmbH chưa đưa ra bình luận về vụ việc.

Bê bối ảnh AI khiêu dâm, EU yêu cầu X giữ toàn bộ hồ sơ về Grok để giám sát, điều tra

Ủy ban châu Âu buộc mạng xã hội X giữ lại toàn bộ hồ sơ về Grok đến hết năm 2026, giữa chỉ trích liên quan ảnh AI khiêu dâm, trong đó có trẻ em.