Theo báo Guardian, tính năng AI Overviews của Google đang làm dấy lên lo ngại nghiêm trọng khi có thể cung cấp thông tin y tế sai lệch hoặc gây hiểu nhầm, qua đó đặt người dùng trước nguy cơ ảnh hưởng đến sức khỏe.

Các chuyên gia cảnh báo một số lời khuyên do AI Overviews tạo ra không chỉ đi ngược lại khuyến cáo y khoa mà còn có thể làm gia tăng nguy cơ tử vong đối với bệnh nhân.

Bà Sophie Randall, giám đốc Diễn đàn thông tin bệnh nhân (PIF), nhấn mạnh: "AI Overviews của Google có thể đẩy những thông tin y tế không chính xác lên vị trí đầu tiên trong kết quả tìm kiếm, từ đó gây rủi ro nghiêm trọng cho sức khỏe cộng đồng".

Cùng quan điểm, bà Anna Jewell, giám đốc hỗ trợ và nghiên cứu của tổ chức Pancreatic Cancer UK, cho rằng một số lời khuyên dinh dưỡng từ AI Overviews "đặc biệt nguy hiểm", làm suy giảm thể trạng và ảnh hưởng trực tiếp đến hiệu quả điều trị.

"Nếu bệnh nhân làm theo kết quả tìm kiếm, họ có thể không nạp đủ calo, sụt cân nhanh chóng và không còn đủ sức để chịu đựng hóa trị, thậm chí là phẫu thuật cứu sống", bà Jewell cảnh báo.

Theo bà Pamela Healy, giám đốc điều hành của Tổ chức British Liver Trust, nhiều bệnh lý không biểu hiện triệu chứng rõ ràng cho đến giai đoạn muộn, vì vậy việc xét nghiệm và theo dõi y tế định kỳ là vô cùng quan trọng.

"Tuy nhiên, AI Overviews đôi khi coi những triệu chứng này là ‘bình thường’. Điều đó đặc biệt nguy hiểm, bởi nó có thể khiến người mắc bệnh nghiêm trọng lầm tưởng rằng tình trạng của mình không đáng lo ngại và bỏ qua việc tái khám", bà cảnh báo. 

Ngoài ra, bà cũng lo ngại việc cùng một truy vấn tìm kiếm nhưng AI lại đưa ra các câu trả lời khác nhau ở những thời điểm khác nhau do sử dụng các nguồn thông tin thiếu nhất quán.

Trước những chỉ trích, Google khẳng định phần lớn nội dung do AI Overviews cung cấp là "chính xác và hữu ích", đồng thời cho biết công ty đang liên tục cải thiện chất lượng của tính năng này. Theo Google, mức độ chính xác của AI Overviews tương đương với các tính năng tìm kiếm khác như "featured snippets" (đoạn trích nổi bật) - vốn đã được triển khai hơn một thập kỷ.

Google khẳng định các bản tóm tắt từ AI Overviews luôn đi kèm liên kết đến những nguồn thông tin uy tín, quen thuộc và khuyến nghị người dùng tìm kiếm tư vấn từ chuyên gia y tế. 

Người phát ngôn của Google nhấn mạnh: "Chúng tôi đầu tư rất lớn vào chất lượng của AI Overviews, đặc biệt với các chủ đề nhạy cảm như sức khỏe, do đó, phần lớn các bản tóm tắt đều cung cấp thông tin chính xác".

AI tư vấn y tế: Thuyết phục nhưng đầy rủi ro

Trí tuệ nhân tạo ngày càng được tin dùng trong tư vấn sức khỏe nhưng các chuyên gia Canada cảnh báo người bệnh có thể bỏ lỡ cơ hội điều trị kịp thời vì quá tin vào lời khuyên của AI.