Sinh viên phát triển mô hình AI phát hiện ngôn từ thù ghét trên mạng xã hội

Nghiên cứu về mô hình trí tuệ nhân tạo (AI) phát hiện ngôn từ thù ghét tiếng Việt trên mạng xã hội của nhóm sinh viên Trường đại học Công nghệ thông tin (UIT - Đại học Quốc gia TP.HCM), đã được chấp nhận đăng trên tạp chí khoa học tại Hội nghị quốc tế PACLIC 40, dự kiến diễn ra vào tháng 12-2026 tại Đài Loan.

Nhận diện ngôn từ thù ghét tiếng Việt trên mạng xã hội

Bài báo khoa học mang tên "ViAmpleHate: Target- and Attack-Aware Modeling for Vietnamese Hate Speech Detection" do 5 sinh viên UIT thực hiện, gồm Nguyễn Hà Minh Tuấn (tác giả chính), Trần Nguyễn Đức Trung, Trần Phan Thanh Tùng, Mô Văn Tùng và Nguyễn Gia Cát Long, dưới sự hướng dẫn của ThS Huỳnh Văn Tín.

Nguyễn Hà Minh Tuấn cho biết ý tưởng thực hiện dự án này được nhen nhóm từ khi làm đồ án môn học khai thác dữ liệu truyền thông xã hội. Trong quá trình sử dụng TikTok, Facebook, các thành viên thường xuyên bắt gặp bình luận xúc phạm, phân biệt vùng miền hoặc công kích người khác bằng cách diễn đạt ẩn ý.

"Tôi thấy những nội dung như vậy xuất hiện khá nhiều trên mạng xã hội. Có những câu không trực tiếp chửi bới mang hàm ý xúc phạm, gây khó chịu cho người đọc. Từ đó, nhóm nảy ra ý tưởng làm một mô hình AI có khả năng tích hợp vào các ứng dụng, công cụ để phát hiện những nội dung này", Tuấn chia sẻ.

Trong quá trình tìm hiểu các nghiên cứu trước, nhóm tham khảo AmpleHate, phương pháp phát hiện ngôn từ thù ghét thông qua việc xác định đối tượng bị nhắm đến. 

Tuy nhiên, khi áp dụng vào tiếng Việt, phương pháp này gặp hạn chế do đặc thù ngôn ngữ mạng như viết tắt, tiếng lóng, từ ngữ mỉa mai và cách xưng hô đa dạng trên mạng xã hội.

Theo nhóm sinh viên, một trong những thách thức là phân biệt lời xúc phạm thông thường với ngôn từ thù ghét nhắm vào một nhóm người cụ thể. Chẳng hạn, bình luận "Trọng tài này ngu thật, bắt trận đấu kiểu gì vậy?" tuy chứa từ ngữ xúc phạm nhưng chỉ thể hiện sự bất mãn với cách điều hành trận đấu, không công kích trọng tài vì họ thuộc một nhóm xã hội nào đó. Do vậy, bình luận này được xếp vào nhóm không chứa ngôn từ thù ghét (NON-HATE).

Để giải quyết bài toán, nhóm phát triển ViAmpleHate trên nền tảng mô hình ngôn ngữ PhoBERT, kết hợp phân tích đối tượng bị nhắm đến như vùng miền, tỉnh thành, tổ chức, quốc gia, nhóm người và các dấu hiệu công kích thể hiện qua từ ngữ tiêu cực. Cách tiếp cận này giúp mô hình xem xét đồng thời đối tượng bị nhắm đến và nội dung công kích để nhận diện ngôn từ thù ghét trong bình luận tiếng Việt.

Đạt độ chính xác 94,2% và điểm Macro F1 đạt 78,19% trên dữ liệu thử nghiệm

Nghiên cứu cũng chỉ ra hạn chế của phương pháp nhận diện thực thể vốn được phát triển cho tiếng Anh khi áp dụng vào dữ liệu tiếng Việt. Cụ thể, trong 24.048 bình luận thuộc tập huấn luyện ViHSD, phương pháp này chỉ xác định được đối tượng bị nhắm đến trong 21 bình luận.

Kết quả thực nghiệm trên bộ dữ liệu ViHSD, ViAmpleHate đạt độ chính xác (Accuracy): 92,05%, Macro-F1: 78,19%, HATE-F1: 60,81%.

Với bộ dữ liệu VOZ-HSD, mô hình ViAmpleHate đạt độ chính xác 94,20%, Macro-F1 đạt 83,71% và HATE-F1 đạt 70,65%. So với mô hình cơ sở, kết quả trên VOZ-HSD cải thiện 1,86 điểm phần trăm ở Macro-F1 và 5,08 điểm phần trăm ở HATE-F1.

Các phân tích bổ sung ghi nhận quy trình trích xuất thông tin dành riêng cho tiếng Việt hoạt động hiệu quả hơn phương pháp nhận diện thực thể tiếng Anh. 

Kết quả góp phần khẳng định vai trò của việc điều chỉnh mô hình theo đặc trưng ngôn ngữ tiếng Việt, đồng thời bổ sung cơ sở thực nghiệm cho phát triển AI nhận diện ngôn từ thù ghét trên mạng xã hội.

Tuấn cho biết nhóm đã trải qua các bước tìm hiểu nghiên cứu liên quan, xây dựng ngân hàng từ ngữ tiêu cực và nhóm đối tượng có khả năng bị nhắm đến, thử nghiệm những phương pháp hiện có rồi từng bước hoàn thiện mô hình dưới sự hướng dẫn của giảng viên.

Cô gái Syria đến Việt Nam học đại học, chuẩn bị làm tiến sĩ AI ở Pháp: 'Tôi sẽ luôn nhớ về Việt Nam'

Sau 4 năm học ngành kỹ thuật phần mềm tại Việt Nam, cô gái Syria Shirin Shujaa bén duyên với nghiên cứu trí tuệ nhân tạo, có 7 công bố khoa học và chuẩn bị sang Pháp theo đuổi chương trình tiến sĩ về AI.