Zane Shamblin (giữa), 23 tuổi, đến từ Texas, đã tự tử vào tháng 7 sau khi trò chuyện với ChatGPT - Ảnh gia đình cung cấp
Theo báo New York Times, có bốn đơn kiện cáo buộc ChatGPT xúi người thân họ tự tử, ba đơn kiện cho rằng chatbot này khiến họ suy sụp sức khỏe tâm thần.
Các đơn kiện, được nộp lên tòa án bang California trong ngày 6-11, tuyên bố rằng ChatGPT, được 800 triệu người sử dụng, là một sản phẩm có lỗi.
Một đơn kiện gọi ChatGPT là "lỗi và vốn dĩ nguy hiểm". Một đơn kiện khác cho biết cậu bé 17 tuổi Amaurie Lacey đến từ Georgia đã trò chuyện với chatbot này về việc tự tử, và một tháng sau, tháng 8-2025, cậu tự tử.
Một đơn kiện đến từ gia đình thanh niên Zane Shamblin, 23 tuổi, ngụ Texas, tố cáo chính ChatGPT đã khuyến khích anh tự tử vào tháng 7-2025.
Một trường hợp khác, Joe Ceccanti, 48 tuổi, đến từ Oregon, đã dùng ChatGPT mà không gặp vấn đề gì trong nhiều năm, cho đến tháng 4, anh tin rằng nó có tri giác. Vợ anh, Kate Fox, kể lại anh bắt đầu sử dụng ChatGPT một cách cưỡng chế và hành động thất thường. Đến tháng 6, anh bị rối loạn tâm thần và phải nhập viện hai lần trước khi tự tử vào tháng 8.
"Các bác sĩ không biết phải xử lý thế nào", cô Fox nói.
Hai nguyên đơn khác - Hannah Madden, 32 tuổi, đến từ Bắc Carolina, và Jacob Irwin, 30 tuổi, đến từ Wisconsin - cho biết ChatGPT đã khiến họ bị suy nhược thần kinh dẫn đến phải cấp cứu...
Trong một tuyên bố, một phát ngôn viên của OpenAI cho biết công ty đang xem xét các hồ sơ. "Đây là một tình huống vô cùng đau lòng", tuyên bố nêu.
"Chúng tôi đã huấn luyện ChatGPT để nó nhận biết và phản hồi trước những dấu hiệu cho thấy người dùng đang căng thẳng hay đau khổ về tinh thần, giúp xoa dịu và hướng dẫn họ tìm sự hỗ trợ phù hợp. Đồng thời chúng tôi tiếp tục nâng cao khả năng phản hồi của ChatGPT trong các tình huống nhạy cảm, với sự tư vấn và hợp tác chặt chẽ từ các chuyên gia sức khỏe tâm thần".
Trước đó, sau khi gia đình của một thiếu niên ở California đệ đơn kiện OpenAI về cái chết oan uổng của cậu vào tháng 8, công ty đã thừa nhận các rào cản an toàn của họ có thể "bị suy giảm" khi người dùng trò chuyện lâu với chatbot.
Công ty cũng cho biết đã bổ sung các biện pháp bảo vệ cho thanh thiếu niên và người dùng đang gặp khó khăn. Ví dụ, hiện tại ChatGPT có tính năng cho phép phụ huynh nhận được cảnh báo nếu con cái họ thảo luận về việc tự tử hoặc tự làm hại bản thân.
Theo Guardian, các nhà nghiên cứu trí tuệ nhân tạo cảnh báo chatbot có thể "hùa theo" cảm xúc tiêu cực của người dùng (còn được gọi là tính xu nịnh của các mô hình ngôn ngữ lớn), thay vì can thiệp đúng cách.
Giới chuyên gia tâm lý lo ngại việc người dùng tìm đến AI như một công cụ trị liệu có thể gây hại cho những người đang tổn thương tinh thần.
Tối đa: 1500 ký tự
Hiện chưa có bình luận nào, hãy là người đầu tiên bình luận