Theo các quy định của Đạo luật AI (AI Act), doanh nghiệp phát triển hoặc triển khai hệ thống AI phải thông báo cho người dùng khi họ tương tác với chatbot AI hoặc khi hình ảnh, video, âm thanh và văn bản được tạo bằng AI.

Đối với các nội dung giả mạo (deepfake), doanh nghiệp phải gắn nhãn hoặc tích hợp hình mờ (watermark) hay các dấu hiệu kỹ thuật khác để người dùng có thể nhận diện. Những trường hợp vi phạm có thể bị xử phạt theo quy định của EU.

Ngoài ra, quy định cũng yêu cầu thông báo khi AI được sử dụng để nhận diện cảm xúc, phân loại sinh trắc học hoặc tạo nội dung liên quan đến lợi ích công cộng mà không có sự rà soát, biên tập của con người.

Ủy ban châu Âu cho biết AI tạo sinh đang phát triển nhanh, khiến việc phân biệt giữa nội dung thật và nội dung do AI tạo ra ngày càng khó khăn. Điều này làm gia tăng nguy cơ phát tán thông tin sai lệch và các nội dung giả mạo trên quy mô lớn.

Theo cơ quan này, việc bắt buộc gắn nhãn nhằm nâng cao tính minh bạch, giúp người dùng nhận diện nội dung AI và củng cố niềm tin đối với thông tin trên môi trường số.

Quốc hội lần đầu thông qua Luật Trí tuệ nhân tạo, yêu cầu gắn nhãn các sản phẩm AI

Âm thanh, hình ảnh, video được tạo ra hoặc chỉnh sửa bằng hệ thống trí tuệ nhân tạo (AI) nhằm mô phỏng, giả lập ngoại hình, giọng nói của người thật hoặc tái hiện sự kiện thực tế phải được gắn nhãn.