"Chúng tôi đề cao cảnh giác trước các báo cáo về việc lưu hành những hình ảnh, chính xác hơn là những hình ảnh sai lệch. Và điều đó thật đáng báo động", Thư ký Nhà Trắng Karine Jean-Pierre cho biết trong một cuộc họp báo.

Khó phân biệt thật giả

Theo báo Evening Standard, những hình ảnh sử dụng công nghệ deepfake (tức công nghệ chỉnh sửa, cắt ghép hình ảnh, video) giả mạo nữ ca sĩ Taylor Swift đã được xem hơn 47 triệu lần trước khi bị xóa khỏi mạng xã hội X (Twitter).

Đài ABC nhận định vài năm trước người dùng phải có trình độ kỹ thuật nhất định để có thể tạo ra nội dung sử dụng công nghệ AI. Tuy nhiên, với bước tiến công nghệ hiện nay, người dùng chỉ cần một cái nhấp chuột là đã có thể tạo một hình ảnh hoặc nội dung giả mạo.

"Không dễ để xác thực những thông tin sai lệch do AI tạo ra. Họ bắt đầu từ cốt lõi của sự thật, sau đó bọc lót xung quanh bằng các thông tin sai lệch. Vì vậy thật khó để phân biệt đâu là thật, đâu là giả", cựu giám đốc thông tin Nhà Trắng Theresa Payton nói.

Theo bà, các nội dung do AI tạo ra cực kỳ thực tế và thuyết phục. "Giờ đây, với các thuật toán, công nghệ AI có thể điều chỉnh cho phù hợp với những đối tượng cụ thể khiến việc phát hiện sự thật trở nên khó khăn hơn rất nhiều", bà Theresa phân tích.

Một số chuyên gia cho biết hiện có một "ngành thương mại" đang phát triển mạnh mẽ nhờ vào việc tạo và chia sẻ những nội dung lạm dụng tình dục được sản xuất phần lớn bằng kỹ thuật số. Một số trang web có hàng ngàn thành viên thậm chí còn phát sóng những nội dung giả mạo này với một mức phí nhất định.

Năm 2023, một thị trấn ở Tây Ban Nha đã thu hút nhiều sự chú ý từ cộng đồng quốc tế sau khi một số nữ sinh tố cáo họ nhận được những bức ảnh khỏa thân của chính mình. Đáng chú ý, những bức ảnh được "chụp" bằng một ứng dụng "cởi quần áo online" nhờ AI.

Ngay sau đó, ứng dụng này đã gây ra một cuộc tranh cãi lớn về những tác hại mà nó có thể gây ra.

Bà Jean-Pierre cũng cho biết sự lỏng lẻo trong việc quản lý các hình ảnh khiêu dâm trên không gian mạng đã tạo ra sự tác động "không tương xứng" đến nữ giới, từ đó đẩy các cô gái trở thành mục tiêu áp đảo của những kẻ quấy rối và lạm dụng trên mạng.

Khi được hỏi liệu có nên ban hành luật để chống lại những hình ảnh do AI tạo ra như vậy hay không, bà Jean-Pierre ngay lập tức trả lời "có".

"Rõ ràng chúng ta cần phải có luật để giải quyết vấn đề này. Tất nhiên, Quốc hội nên thực hiện hành động lập pháp. Điều đó đáng báo động với chúng tôi và chúng tôi sẽ tiếp tục làm những gì có thể từ chính phủ liên bang", bà Jean-Pierre nói.

Các nước tìm cách quản lý deepfake

Theo Đài ABC News, kể từ tháng 8-2023 Liên minh châu Âu chính thức áp dụng một số điều khoản mới dành riêng để áp chế mặt tối của deepfake - công nghệ sử dụng AI để tạo ra những nội dung giả mạo.

Đạo luật Dịch vụ kỹ thuật số (dsa) yêu cầu các nền tảng trực tuyến thực hiện các biện pháp đặc biệt nhằm hạn chế nguy cơ lan truyền nội dung vi phạm các quyền cơ bản như quyền riêng tư của người dùng, điển hình như hành vi sử dụng trái phép hình ảnh mà không có sự đồng thuận hoặc tạo ra các hình ảnh, nội dung giả mạo với mục đích khiêu dâm.

Đạo luật AI của khối liên minh gồm 27 quốc gia vẫn đang đợi thông qua lần phê duyệt cuối cùng - cũng yêu cầu những công ty nào tạo ra các tác phẩm bằng hệ thống AI phải thông báo cho người dùng khi sử dụng hình ảnh của họ.

DSA chính là kết quả của quá trình siết chặt kiểm duyệt nội dung trực tuyến nhằm đảm bảo an ninh mạng, trong bối cảnh dịch vụ kết nối trực tuyến đang ngày càng gia tăng nhanh chóng.

Vào tháng 1-2023, Cơ quan Quản lý không gian mạng Trung Quốc, trực thuộc Bộ Công nghiệp và Công nghệ thông tin Trung Quốc đã chính thức đưa ra bộ quy định đầu tiên để quản lý việc sử dụng công nghệ deepfake nhằm ngăn chặn việc lạm dụng công nghệ này, đồng thời giúp đưa đất nước thích ứng với sự phát triển nhanh chóng của ngành công nghiệp AI.

Các quy định nhấn mạnh những video, hình ảnh được tạo ra bằng công nghệ deepfake phải được gắn nhãn rõ ràng nhằm tránh gây nhầm lẫn cho dư luận.

Các quy định mới cũng nhấn mạnh trách nhiệm của các nhà cung cấp dịch vụ deepfake cũng như người dùng của họ, bao gồm việc cấm các hành vi bất hợp pháp bằng cách sử dụng công nghệ, thiết lập hệ thống đánh giá và xác lập định thông tin người dùng.

Tuy nhiên, các quy định trên cũng nêu rõ deepfake có thể được sử dụng để thúc đẩy sự phát triển lành mạnh các dịch vụ thông tin trên Internet và duy trì một hệ sinh thái tốt trên không gian mạng, theo Thời báo Hoàn Cầu.

Hình ảnh deepfake nhạy cảm của Taylor Swift lan truyền chóng mặt, Nhà Trắng lo ngại

Một hình ảnh khiêu dâm giả mạo, dùng công nghệ deepfake để ghép gương mặt ngôi sao nhạc pop Taylor Swift khiến nhiều người phẫn nộ.