Giới nghiên cứu liên tục đưa ra những cảnh báo liên quan đến an toàn cho trẻ em trên YouTube - Ảnh: STRAITS TIMES

Báo The Hollywood Reporter ngày 4-6 đưa tin YouTube đang thay đổi cách thức quản lý video do trẻ em đăng lên nền tảng này để đảm bảo tôn chỉ bảo vệ trẻ em của họ.

Trong thông báo phát đi trước đó một ngày, YouTube cho biết đã cập nhật một số chính sách trong vài tháng qua, bao gồm việc cấm trẻ em livestream mà không có người lớn bên cạnh; thu hồi quyền phát trực tiếp của các kênh vi phạm quy định này, cải tiến công cụ phân loại nội dung video, vô hiệu hóa bình luận của video có trẻ em.

Ngoài ra, YouTube cam kết giảm bớt đề xuất video liên quan trẻ em dù cho những video đó không vi phạm quy định nhưng vẫn có khả năng đặt trẻ em vào tình huống nguy hiểm.

Trụ sở YouTube ở San Bruno, California - Ảnh: AFP

Những lượt xem nguy hiểm

Các nhà nghiên cứu cho rằng YouTube nên tắt hẳn tính năng đề xuất tự động ở các video liên quan đến trẻ em chứ không chỉ giảm bớt.

Tuyên bố của YouTube được đưa ra sau khi báo The New York Times đăng bài viết có tựa đề "Trên sân chơi kỹ thuật số YouTube, một cánh cổng mở ra cho những kẻ ấu dâm".

Bài viết phân tích cách thức những kẻ ấu dâm có thể lợi dụng thuật toán của YouTube để phục vụ ý đồ của mình.

Trong bài viết, chị Christiane C. kể lại câu chuyện của mình. Người mẹ Brazil này chẳng hề lăn tăn khi con gái 10 tuổi của mình và bạn em đăng một video ghi lại cảnh hai đứa trẻ chơi trong bể nhà lên YouTube.

Christiane C. kể chị vẫn nghĩ video đó là trong sáng và "chẳng có vấn đề gì cả" cho đến vài ngày sau khi nghe con gái khoe video đã đạt hàng ngàn lượt xem.

Không lâu sau đó, đoạn video quay cảnh con gái chị mặc áo tắm hai mảnh cán mức 400.000 lượt xem. "Tôi xem lại đoạn video và thấy rùng mình với con số lượt xem đó", Christiane C. nói.

"Cánh cổng cho những kẻ ấu dâm"

Các nhà nghiên cứu phát hiện hệ thống đề xuất video tự động của YouTube đã giới thiệu video của con gái Christiane C. cho những người xem các nội dung có trẻ em dưới tuổi vị thành niên ăn mặc không kín đáo trước đó.

Nhìn rộng ra là YouTube đã tuyển chọn video từ các kho lưu trữ của mình, đôi khi lại lẩy ra những video có trẻ con ăn mặc không kín đáo do các gia đình vô tình đăng lên. Rồi sau đó, trong nhiều trường hợp, thuật toán của YouTube lại đề xuất các video này đến những người dùng sau khi họ xem nội dung có chủ đề tình dục.

Do vậy, các nhà nghiên cứu cho rằng hệ thống đề xuất video liên quan trên YouTube đã "dẫn lối" cho người xem đến những nội dung cực đoan và không thích hợp, trong đó có cả những video về trẻ em.

Kết quả là người xem có cả một danh mục các video mà các chuyên gia gọi là "tình dục hóa trẻ em".

"Chính thuật toán của YouTube đã kết nối các kênh này lại. Đó quả là điều đáng sợ", Jonas Kaiser - một trong ba nhà nghiên cứu tại Trung tâm Internet và xã hội Berkman Klein của Đại học Harvard - nhận định.

Ông cùng các cộng sự đã tình cờ phát hiện các video trong khi đang nghiên cứu tác động của YouTube ở Brazil.

Ông Jonas Kaiser nói dù YouTube không bao giờ đặt mục tiêu phục vụ người dùng có sở thích tình dục đối với trẻ em, thế nhưng nền tảng này lại "tự động đề xuất" người dùng xem những nội dung như vậy.

Về bản chất, các video có trẻ em đó có thể hoàn toàn trong sáng và những cảnh thiếu vải chỉ là khoảnh khắc vô tình của con trẻ, như video của con gái chị Christiane. Tuy nhiên, khi được kết nối với nhau, chúng lại có cùng những đặc điểm khó ngờ tới.

Đây không phải lần đầu YouTube được cảnh báo về nạn ấu dâm. Tháng 2 năm nay, nguyệt san Wired của Mỹ và các trang tin khác đã gióng lên hồi chuông báo động rằng những kẻ đang sử dụng phần bình luận của các video trên YouTube với trẻ em để hướng dẫn những kẻ ấu dâm khác.

Cũng trong tháng đó, YouTube tiến hành vô hiệu hóa tính năng bình luận của nhiều video có trẻ em.

Những đứa trẻ mang mặt nạ sau cơn ác mộng ấu dâm

TTO - Tas và Phed là hai trong số những đứa trẻ người Thái xuất hiện trong bộ ảnh đặc biệt về nạn nhân ấu dâm của nhiếp ảnh gia Marieke van der Velden. Các em che mặt mình bằng những chiếc mặt nạ tự vẽ.