Công cụ giám sát trẻ trên ChatGPT, dự kiến triển khai trong thời gian tới, được xem là bước thay đổi mang tính an toàn từ OpenAI sau một vụ kiện gây chú ý. Tính năng nhằm giảm rủi ro khi trẻ trò chuyện với chatbot, đồng thời đặt câu hỏi về trách nhiệm xã hội của công ty phát triển trí tuệ nhân tạo.

Từ vụ kiện gây rúng động dư luận

Tháng 8 vừa qua, gia đình của Adam Raine, một thiếu niên 16 tuổi tại California, đã đệ đơn kiện OpenAI. Họ cho rằng ChatGPT đã đưa ra những hướng dẫn tự hại và lời lẽ khiến con trai họ cảm thấy bế tắc trước khi tìm đến cái chết.

Vụ kiện nhanh chóng gây chấn động dư luận và mở ra cuộc tranh luận về mức độ an toàn của trí tuệ nhân tạo đối với người dùng trẻ.

Sự việc này đặt ra nhiều câu hỏi quan trọng: liệu trẻ vị thành niên có nên sử dụng ChatGPT khi chưa có sự giám sát, và trách nhiệm của nhà phát triển trí tuệ nhân tạo sẽ được xác định ra sao khi sản phẩm ảnh hưởng trực tiếp đến tâm lý của người dùng trẻ tuổi?

Trước sức ép đó, OpenAI đã thông báo bổ sung công cụ kiểm soát cho phụ huynh. Đây được coi là bước đi đầu tiên nhằm thể hiện cam kết bảo vệ trẻ em, đồng thời gửi tín hiệu rằng công ty sẵn sàng đặt yếu tố an toàn lên hàng đầu trong giai đoạn phát triển tiếp theo của ChatGPT.

Các tính năng giám sát trên ChatGPT

Theo thông tin chính thức, OpenAI sẽ triển khai công cụ cho phép phụ huynh liên kết tài khoản của mình với tài khoản ChatGPT của con. Khi kích hoạt, phụ huynh có thể quản lý các cài đặt quan trọng như tắt bộ nhớ trò chuyện, kiểm soát lịch sử sử dụng và điều chỉnh mức độ tương tác phù hợp với lứa tuổi.

Điểm nhấn của cải tiến này nằm ở hệ thống cảnh báo. ChatGPT sẽ được huấn luyện để nhận diện khi người dùng trẻ thể hiện dấu hiệu khủng hoảng tâm lý, ví dụ như căng thẳng, trầm cảm hoặc tự hại. Trong những trường hợp đó, phụ huynh sẽ nhận được thông báo để kịp thời can thiệp. OpenAI khẳng định mục tiêu không phải là giám sát toàn bộ cuộc trò chuyện, mà là tập trung vào các tình huống khẩn cấp nhằm bảo vệ an toàn cho trẻ.

Ngoài ra khi phát hiện nội dung nhạy cảm, ChatGPT sẽ chuyển sang vận hành bằng các mô hình lập luận chuyên sâu, vốn được thiết kế để đưa ra phản hồi thận trọng và mang tính hỗ trợ nhiều hơn. Song song, công ty cũng phối hợp cùng các chuyên gia y tế và hội đồng cố vấn quốc tế để tiếp tục tinh chỉnh các biện pháp bảo vệ trong thời gian tới.

Những thách thức đặt ra

Dù OpenAI nhấn mạnh tính năng mới được thiết kế để mang lại lợi ích cho gia đình, phản ứng từ công chúng quốc tế vẫn còn nhiều chiều. Công cụ này được kỳ vọng sẽ tạo thêm lớp bảo vệ giúp phụ huynh yên tâm hơn khi con em tiếp xúc với trí tuệ nhân tạo, nhưng cũng làm dấy lên những lo ngại vốn tồn tại từ lâu, từ giới hạn sử dụng cho đến quyền riêng tư dữ liệu trẻ em.

Trên thực tế, những lo ngại về quyền riêng tư dữ liệu trẻ em vốn đã được giới chuyên gia nêu ra từ nhiều năm nay. Các cảnh báo này nhấn mạnh rằng việc lưu trữ và phân tích lịch sử trò chuyện của trẻ, nếu không có biện pháp bảo vệ chặt chẽ, có thể làm gia tăng nguy cơ lộ lọt thông tin nhạy cảm. Sự xuất hiện của công cụ giám sát trên ChatGPT đã khiến vấn đề này được chú ý trở lại.

Một điểm khác cũng được thảo luận là ngưỡng cảnh báo của hệ thống. OpenAI cho biết ChatGPT sẽ phát hiện dấu hiệu căng thẳng nghiêm trọng và gửi cảnh báo cho phụ huynh. 

Tuy nhiên, việc máy móc xác định tâm lý con người luôn đi kèm nguy cơ sai lệch. Nếu hệ thống cảnh báo sai, phụ huynh có thể bị hoang mang không cần thiết. Ngược lại, nếu bỏ sót, trẻ có thể đối diện rủi ro mà gia đình không kịp can thiệp.

Các tổ chức bảo vệ trẻ em quốc tế cũng theo dõi sát sao động thái của OpenAI. Họ thừa nhận công cụ kiểm soát phụ huynh là một tín hiệu tích cực, nhưng đồng thời cảnh báo rằng việc chưa có xác minh độ tuổi chặt chẽ và thiếu biện pháp bảo vệ mặc định khiến trẻ vẫn có thể đối mặt với rủi ro, ngay cả khi có sự giám sát của phụ huynh. 

Những tranh luận này cho thấy việc phát triển trí tuệ nhân tạo không chỉ là câu chuyện công nghệ, mà còn gắn chặt với trách nhiệm xã hội và sự an toàn của thế hệ trẻ.

Thực hư việc YouTube tự động chỉnh sửa video khiến cộng đồng tranh cãi

Một số video trên YouTube bỗng hiển thị khác với bản gốc, từ màu sắc đến độ nét đều được tự động thay đổi. Vì sao có chuyện này, và liệu người sáng tạo có thể kiểm soát?