Việc sử dụng hình ảnh trái phép để tạo video deepfake làm tăng nguy cơ lan truyền thông tin sai lệch, gây tổn hại danh tiếng cho các học giả, và có thể khiến nhiều người đưa ra quyết định sai lầm về sức khỏe dựa trên các tin giả này.

Mạo danh học giả phát biểu sai sự thật

Chẳng hạn, tháng 8, giáo sư David Taylor Robinson, chuyên về nhi khoa và làm việc tại Đại học Liverpool (Anh), bất ngờ nhận được email từ đồng nghiệp, thông báo ông đang xuất hiện trên TikTok.

Ông Robinson không dùng TikTok, nhưng sau khi kiểm tra, ông phát hiện video sử dụng hình ảnh thật của ông tại một hội nghị của Cơ quan Y tế công cộng Anh (PHE) đã bị chỉnh sửa bằng trí tuệ nhân tạo (AI).

Trong video đã chỉnh sửa, ông Robinson nói về "thermometer leg" - triệu chứng mãn kinh không có thật - cùng nhiều nội dung quảng cáo sản phẩm cho phụ nữ trung niên.

Theo Full Fact ngày 5-12, hàng loạt tài khoản đã đăng video deepfake mạo danh nhiều chuyên gia, từ cựu Giám đốc PHE Duncan Selbie đến các học giả quốc tế như nhà kinh tế người Nga Natalia Zubarevich.

Một số tài khoản còn dùng video của các bác sĩ nổi tiếng trong các podcast sức khỏe để chèn giọng đã chỉnh sửa, tạo cảm giác như các chuyên gia này đang tư vấn sử dụng sản phẩm.

Chậm xử lý video vi phạm

Dù giáo sư Robinson và Đại học Liverpool đã báo cáo vụ việc, TikTok ban đầu cho rằng các video không vi phạm chính sách. Chỉ sau khi nhận được nhiều lượt khiếu nại cũng như email từ Full Fact, TikTok mới gỡ video và thông báo đó là nội dung vi phạm quy định, mạo danh và thông tin sai lệch.

Một video deepfake của giáo sư Robinson về "thermometer leg" đã thu hút hơn 365.000 lượt xem trước khi bị xóa.

Nhiều video deepfake giới thiệu với người mua các link mua thực phẩm bổ sung của Công ty Wellness Net, sử dụng hình ảnh các chuyên gia nhằm tăng tính thuyết phục.

Dù vậy Wellness Net phủ nhận liên quan trực tiếp, cho rằng đây có thể là hành vi vượt ngoài tầm kiểm soát và vi phạm chính sách của công ty mà các đại lý thực hiện để tiếp thị sản phẩm.

Video tương tự cũng xuất hiện trên Facebook, Instagram, YouTube và X, sử dụng công nghệ deepfake giả giọng nhiều chuyên gia khác nhau.

Các nhà khoa học cảnh báo deepfake y khoa là mối đe dọa sức khỏe cộng đồng. Tiến sĩ Sean Mackey, làm việc tại Đại học Stanford (Mỹ) và là một trong những nạn nhân, cho rằng lời khuyên từ các “chuyên gia AI” có thể khiến người dùng bỏ qua những liệu pháp y khoa đã được chứng minh.

Trong bối cảnh công nghệ AI ngày càng phổ biến, các chuyên gia nhận định đây mới chỉ là khởi đầu của cuộc chiến xác thực danh tính trên mạng, khi bất kỳ ai cũng có thể tạo ra video khiến các chuyên gia trông như đang nói điều chưa từng phát biểu.

NASA không hề thừa nhận việc đặt chân lên Mặt trăng là trò bịp như tin đồn

Tin đồn lan truyền cho biết NASA vừa "thả bom tấn" khi thừa nhận "chúng tôi chưa hề đặt chân lên Mặt trăng". Sự thật là gì?