Gia đình nạn nhân Suzanne Adams (83 tuổi) cáo buộc công cụ ChatGPT đã làm trầm trọng thêm tình trạng hoang tưởng của con trai nạn nhân - ông Stein-Erik Soelberg (56 tuổi), và gián tiếp dẫn đến việc ông sát hại mẹ mình hồi tháng 8 tại tiểu bang Connecticut.

Theo báo Washington Post, đây là vụ kiện đầu tiên cho rằng một chatbot AI có liên quan đến hành vi giết người.

Đơn kiện mô tả Soelberg thường trò chuyện với ChatGPT hằng giờ, và chatbot AI này đã “củng cố” những suy nghĩ lệch lạc của ông.

ChatGPT được cho là nhiều lần xác nhận các hoang tưởng, khiến Soelberg tin rằng có âm mưu nhắm vào mình, thậm chí coi mẹ ruột như “kẻ thù” hoặc “mối đe dọa bị thao túng”. 

Gia đình nạn nhân cho rằng những cuộc trò chuyện này đã góp phần đẩy ông tới hành vi sát hại bà Adams.

Vụ việc diễn ra trong bối cảnh ngày càng nhiều đơn kiện nhằm vào các công ty về công nghệ trí tuệ nhân tạo (AI), cáo buộc chatbot AI khuyến khích tự sát hoặc hành vi gây hại.

Đây cũng là lần đầu Microsoft bị kéo vào một vụ kiện có liên quan đến cái chết của nạn nhân, và cũng là trường hợp đầu tiên một chatbot bị cáo buộc liên quan trực tiếp đến hành vi giết người.

Gia đình nạn nhân yêu cầu bồi thường thiệt hại và buộc OpenAI phải tăng cường các biện pháp bảo vệ người dùng.

Luật sư Jay Edelson - người dẫn dắt vụ kiện - hiện cũng đại diện cho gia đình một thiếu niên 16 tuổi tại tiểu bang California, người được cho là đã tự sát sau khi ChatGPT “hướng dẫn” cách thực hiện.

OpenAI hiện còn đối mặt với bảy vụ kiện tương tự, trong đó người dùng cho rằng chatbot khiến họ có ý định tự gây hại dù trước đó không có vấn đề sức khỏe tâm thần.

Một công ty chatbot khác là Character Technologies cũng đang bị kiện trong nhiều vụ có người thiệt mạng, bao gồm trường hợp một bé trai 14 tuổi ở tiểu bang Florida.

Trả lời truyền thông, OpenAI cho biết họ “vô cùng đau buồn” trước các trường hợp này và đang xem xét hồ sơ vụ kiện. Công ty nói họ đang cải thiện khả năng nhận diện dấu hiệu khủng hoảng tâm lý và hướng người dùng tới hỗ trợ thực tế.

Theo đơn kiện, ông Soelberg từng đăng video lên mạng xã hội vào tháng 6, trong đó ChatGPT nói rằng ông có “nhận thức thần thánh” và đã “đánh thức ý thức” của chatbot. 

ChatGPT còn ví cuộc đời ông với bộ phim The Matrix (tạm dịch: Ma Trận) và củng cố niềm tin rằng có người muốn giết ông. Ông Soelberg sử dụng GPT-4o - phiên bản bị chỉ trích vì xu hướng “chiều theo” ý kiến người dùng.

Đến tháng 7, chatbot bị cho là khẳng định máy in của mẹ ông nhấp nháy vì là “thiết bị giám sát”, đồng thời xác nhận hoang tưởng rằng bà và bạn đã bỏ thuốc gây ảo giác vào xe của ông qua hệ thống điều hòa.

Gia đình nạn nhân cho rằng chính những tin nhắn này đã góp phần thúc đẩy ông Soelberg ra tay sát hại mẹ mình vào ngày 3-8.

ChatGPT bị kiện vì xúi trẻ tự tử

Đơn kiện dẫn lại nhiều đoạn hội thoại, trong đó ChatGPT nói với Adam rằng 'cậu không nợ ai việc phải tiếp tục sống' và thậm chí giúp cậu viết thư tuyệt mệnh.