Thời gian qua, không ít nghệ sĩ, người nổi tiếng, luật sư, bác sĩ… trở thành nạn nhân của các video giả mạo hình ảnh, giọng nói bằng trí tuệ nhân tạo (AI) nhằm đưa những thông tin sai lệch, quảng cáo trái phép hay thậm chí lừa đảo, buộc họ phải lên tiếng cảnh báo.

Những nội dung này không chỉ xâm hại danh dự cá nhân mà còn khiến công chúng hiểu lầm, suy giảm niềm tin, dẫn dắt tiêu dùng sai lệch hay thậm chí trở thành nạn nhân của những chiêu trò lừa đảo tinh vi.

Đáng lo ngại, vấn đề không dừng ở người nổi tiếng. Sự phát triển của AI đang khiến ranh giới thật - giả ngày càng mong manh, kéo theo nhiều hệ lụy trong môi trường số, đặc biệt với giới trẻ - nhóm người tiếp cận và lan truyền thông tin nhanh nhất.

Không còn là trò đùa vô hại

Ở góc nhìn người dùng mạng xã hội, nhiều bạn trẻ cho rằng việc “chế ảnh” bằng AI đã vượt khỏi giới hạn giải trí thông thường.

Chị Nguyễn Huỳnh Trâm Anh (nhân viên văn phòng), cho biết cảm thấy lo ngại trước các vụ việc hình ảnh bị chỉnh sửa bằng AI lan truyền trên mạng. Theo chị, nhiều sản phẩm giả có độ chân thực cao, dễ gây hiểu lầm và áp lực lớn cho người bị ảnh hưởng, nhất là người bình thường.

Chị Trâm Anh nhận định việc “chế ảnh” bằng AI không còn là trò đùa vô hại, bởi công nghệ hiện nay có thể tạo ra hình ảnh rất giống thật, dễ làm tổn hại danh dự người khác.

“Bất kỳ ai cũng có thể trở thành nạn nhân và cần bình tĩnh xử lý như lưu bằng chứng, báo cáo nền tảng và nhờ đến pháp luật khi cần. Đồng thời, người dùng mạng xã hội cần có trách nhiệm hơn khi chia sẻ nội dung AI. Hãy đặt mình vào vị trí người trong hình trước khi lan truyền” - chị Trâm Anh nói.

Cùng quan điểm, anh Nguyễn Nhựt Khánh (sinh viên cao học Trường ĐH Tôn Đức Thắng) cho rằng việc “chế ảnh” bằng AI hiện nay đã đi quá giới hạn khi có thể làm ảnh hưởng danh dự, gây hiểu lầm và tổn hại uy tín của người khác. Anh cũng bày tỏ lo ngại bản thân có thể trở thành nạn nhân, bởi hình ảnh cá nhân rất dễ bị lợi dụng trên mạng xã hội.

Đề cập đến giải pháp, anh Khánh cho rằng cần có sự phối hợp từ nhiều phía để hạn chế tình trạng lạm dụng AI. Trước hết là ý thức của người dùng, đặc biệt là giới trẻ, trong việc tôn trọng hình ảnh và danh dự của người khác, không chỉnh sửa hay phát tán nội dung khi chưa được đồng ý.

Bên cạnh đó, theo anh, mỗi cá nhân cũng cần rèn luyện thói quen kiểm chứng thông tin, không vội tin hoặc chia sẻ những hình ảnh do AI tạo ra khi chưa rõ nguồn gốc.

“Ngoài yếu tố cá nhân, các nền tảng mạng xã hội cũng có vai trò quan trọng trong việc kiểm soát nội dung, phát hiện và xử lý nhanh các trường hợp vi phạm nhằm hạn chế mức độ lan truyền. Đồng thời, pháp luật cũng cần có những quy định cụ thể và chế tài đủ mạnh để xử lý các hành vi lợi dụng AI nhằm bôi nhọ, làm sai lệch hình ảnh người khác” - anh Khánh nói.

Nguy cơ lừa đảo

Không chỉ dừng ở việc bôi nhọ hay gây hiểu lầm, AI còn bị lợi dụng trong các chiêu trò lừa đảo ngày càng tinh vi.

Anh Nguyễn Hoàng Đăng Du (du học sinh Nhật Bản) cho biết người quen của anh từng bị kẻ xấu lấy hình ảnh trên mạng để tạo video giả mạo bằng AI, rồi gọi điện, nhắn tin về cho gia đình với lý do cần vay tiền gấp. Do hình ảnh và giọng nói rất giống thật, người thân và cả anh không hề biết đó là hình ảnh được tạo từ AI nên đã tin tưởng chuyển tiền.

Trước sự biến tướng của việc sử dụng AI, không chỉ riêng các nghệ sĩ, người nổi tiếng mà bất kỳ ai cũng có thể là nạn nhân. Do vậy, anh Du đề xuất cần đẩy mạnh các công cụ nhận diện nội dung AI, như gắn nhãn hoặc watermark cho hình ảnh, video được tạo bằng trí tuệ nhân tạo, giúp người xem dễ phân biệt thật - giả.

“Các nền tảng cũng nên ưu tiên thuật toán hạn chế lan truyền nội dung bị nghi ngờ là giả mạo. Nếu người dùng nhận diện được ngay từ đầu, họ sẽ không bị dẫn dắt bởi thông tin sai lệch” - anh Du nói.

Chị Ngọc Hân (sinh viên năm cuối Trường ĐH Văn Hiến) lại nhìn vấn đề ở góc độ pháp lý và quyền cá nhân. Theo chị, việc sử dụng hình ảnh người khác để chỉnh sửa, đặc biệt theo hướng tiêu cực, cần được xem là hành vi xâm phạm danh dự và phải bị xử lý nghiêm.

“Nhiều người vẫn nghĩ chỉ là đăng cho vui, nhưng hậu quả đối với người bị hại có thể kéo dài, ảnh hưởng đến công việc và các mối quan hệ. Ngoài ra, cần tạo cơ chế để nạn nhân dễ dàng khiếu nại, yêu cầu gỡ bỏ nội dung và được bảo vệ nhanh chóng. Quan trọng là phải có kênh xử lý hiệu quả, chứ không thể để người bị hại tự xoay xở” - chị Hân nói.