Bà Susan Wojcicki, Giám đốc điều hành (CEO) YouTube - Ảnh: FORTUNE

Theo bà Susan Wojcicki, Giám đốc điều hành YouTube, mạng chia sẻ video YouTube mang đặc tính cởi mở, chào đón các nhà sáng tạo nội dung, song hành cùng người dùng và các nhà quảng cáo. Tuy vậy, tính cởi mở của YouTube đã bị lợi dụng bởi một số kẻ xấu để gây hiểu nhầm, thao túng, sách nhiễu hay thậm chí gây tổn hại.

Trong xu hướng tìm giải pháp cho những trường hợp các nhà quảng cáo phản ánh quảng cáo của khách hàng xuất hiện ở một số video mang nội dung không phù hợp, YouTube đã kết hợp cả giải pháp con người lẫn trí tuệ nhân tạo để gia tăng hiệu quả.

Về phía con người, theo bà Susan Wojcicki, YouTube sẽ tăng cường đội ngũ kiểm duyệt viên lên hơn 10.000 người trong năm 2018. Đội ngũ này sẽ phối hợp cùng trí tuệ nhân tạo để lọc các clip có nội dung xấu.

Cụ thể, trong rất nhiều ngữ cảnh, trí tuệ nhân tạo chỉ nhận dạng và đánh dấu bằng cách gắn cờ vào các clip mà nó tình nghi là mang nội dung xấu, khi đó, con người sẽ phán xét và qua đó, trí tuệ nhân tạo sẽ được học cách xử lý để thực hiện cho lần sau. Máy học (machine learning) được áp dụng triệt để nhằm cho phép trí tuệ nhân tạo nhận diện được nội dung xấu trong clip ở nhiều tình huống như kích động, bạo lực hay gây tổn hại liên quan trẻ em.

Từ tháng 6-2017, YouTube bắt đầu thử nghiệm áp dụng 'Máy học' (machine learning) trợ giúp đội ngũ kiểm duyệt, và thu về kết quả khả quan. Theo bà Susan, YouTube đã xóa hơn 150.000 video có liên quan tới chủ nghĩa cực đoan bạo lực. Trí tuệ nhân tạo giúp các nhân viên đánh giá của chúng tôi xóa gần gấp năm lần số lượng video so với trước đây. Ngày nay, chúng tôi đã loại bỏ khoảng 98% video có liên quan tới chủ nghĩa cực đoan bạo lực bị gắn cờ đánh dấu bởi thuật toán trí tuệ nhân tạo của chúng tôi.

Không chỉ nội dung video, đội ngũ kiểm duyệt cùng trí tuệ nhân tạo cũng sẽ 'lùng và diệt' những bình luận (comment) xấu.

Đội ngũ kiểm duyệt được trợ lực bởi trí tuệ nhân tạo gia tăng hiệu quả kiểm soát clip nội dung xấu trên YouTube - Ảnh minh hoạ: THE REGISTER

Chính sách tải clip lên YouTube cũng bắt đầu được thắt chặt với những quy định cụ thể về nội dung. Những người dùng kiếm tiền từ các clip cắt ghép hay nội dung dung tục, kích động, vi phạm bản quyền... sẽ không còn có thể tạo ra doanh thu.

Theo bà Susan, năm 2018 YouTube sẽ có một báo cáo định kỳ, cung cấp dữ liệu tổng hợp về những video gắn cờ vi phạm mà YouTube nhận được, và những hành động kiểm duyệt được thực hiện để xóa các video và bình luận vi phạm chính sách nội dung của YouTube.