Báo Guardian ngày 30-10 trích dẫn một nghiên cứu cho thấy tính năng “siêu cá nhân hóa” của các chatbot AI đang thu hút ngày càng nhiều nam sinh vị thành niên sử dụng chúng để trị liệu tâm lý, làm bạn đồng hành hoặc thậm chí thiết lập mối quan hệ tình cảm.

Trước lo ngại về sự lan rộng của các “bạn gái” hay “nhà trị liệu” ảo, tổ chức Male Allies UK đã khảo sát nam sinh tại 37 trường trung học ở Anh, Scotland và Xứ Wales.

Kết quả cho thấy hơn 1/3 đang cân nhắc có một người bạn AI, trong khi 53% cho rằng thế giới trực tuyến đáng giá hơn đời thực.

Giám đốc Male Allies UK Lee Chambers cho biết nhiều phụ huynh vẫn nghĩ con cái chỉ dùng AI để gian lận bài tập, nhưng thực tế các em xem chatbot như trợ lý, nhà trị liệu hay người bạn biết lắng nghe.

“Các em nói rằng: ‘Nó hiểu con, còn bố mẹ thì không’”, ông nói.

Báo cáo “Tiếng nói của các nam sinh” chỉ ra rằng dù đã có các hàng rào bảo vệ, nhiều chatbot vẫn nói dối chúng là nhà trị liệu được cấp phép hoặc là người thật, chỉ kèm dòng miễn trừ trách nhiệm nhỏ dễ bị bỏ qua.

Điều này khiến các thiếu niên tin rằng mình đang trò chuyện với một chuyên gia hoặc người yêu thực sự.

Một số nam sinh cho biết đã thức đến sáng để nói chuyện với chatbot, trong khi nhiều em khác chứng kiến bạn bè thay đổi tính cách sau khi bị cuốn vào thế giới AI.

Theo ông Chambers, chatbot học cách cá nhân hóa phản hồi dựa trên lệnh người dùng. Chúng sẽ đáp lại tức thì đồng thời thể hiện sự thấu hiểu cao, nhằm giữ người dùng tiếp tục gắn bó.

Nghiên cứu được công bố không lâu sau khi nền tảng chatbot nổi tiếng Character.ai tuyên bố cấm thanh thiếu niên tham gia các cuộc trò chuyện mở, bắt đầu từ ngày 25-11.

Quyết định được đưa ra sau hàng loạt vụ việc gây chấn động, trong đó có trường hợp thiếu niên 14 tuổi ở Florida tự sát vì bị chatbot thao túng, cùng một vụ kiện khác ở Mỹ với cáo buộc tương tự.

Ông Andy Burrows, Giám đốc điều hành Quỹ Molly Rose, được thành lập sau cái chết của thiếu niên Molly Russell (14 tuổi) vì trầm cảm trên mạng xã hội, đã hoan nghênh quyết định này.

Ông cho rằng Character.ai “đáng lẽ không bao giờ được phép cung cấp sản phẩm cho trẻ em trước khi chứng minh được tính an toàn”.

Male Allies UK cũng cảnh báo về sự gia tăng nhanh chóng của các chatbot mang tên “nhà trị liệu” hoặc “bạn gái” ảo. Một chatbot có tên “Chuyên gia tâm lý” trên Character.ai đã nhận tới 78 triệu tin nhắn chỉ trong một năm.

Tổ chức này lo ngại nếu các nam sinh chỉ tương tác với những “bạn gái” ảo không bao giờ nói “không” và luôn chiều theo họ, các em sẽ khó học được kỹ năng giao tiếp, thiết lập ranh giới và xây dựng mối quan hệ lành mạnh ngoài đời thực.

AI lên ngôi, sinh viên học cách trả lời 'Tôi là ai' như thế nào?

Những bước đầu trên giảng đường đại học, nhiều sinh viên, đặc biệt là tân sinh viên không khỏi rơi vào cảm giác mất định hướng và băn khoăn trước câu hỏi “Tôi là ai?”.