Quốc hội Hàn Quốc đang thúc đẩy sửa đổi luật nhằm siết chặt quy định quản lý nội dung do trí tuệ nhân tạo (AI) tạo ra. Quy định này sẽ yêu cầu bắt buộc gắn dấu hiệu nhận diện kỹ thuật số (watermark) vào sản phẩm AI và xử lý hình sự hành vi xóa hoặc làm giả dấu nhận diện này nhằm ngăn chặn tình trạng phát tán thông tin giả mạo.

Dự luật do nghị sĩ Kim Dai Sik cùng 9 nghị sĩ thuộc Đảng Quyền lực Quốc dân (PPP), đảng đối lập chính đề xuất tuần trước. Động thái này nhằm sửa đổi Đạo luật khung về phát triển AI và xây dựng nền tảng niềm tin đối với AI có hiệu lực từ đầu năm nay.

Theo luật hiện hành, các nhà cung cấp dịch vụ AI phải thông báo cho người dùng khi hình ảnh, video hoặc âm thanh có độ chân thực cao được tạo ra bằng AI. Tuy nhiên luật chưa quy định cụ thể hình thức và vị trí hiển thị thông báo. Trên thực tế, phần lớn nền tảng hiện chỉ gắn biểu tượng hoặc dòng chú thích nhỏ trong giao diện sử dụng.

Các nghị sĩ cho rằng khi nội dung này bị chụp màn hình, cắt ghép hoặc đăng tải lại bởi bên thứ ba, dấu nhận diện ban đầu thường bị loại bỏ và luật hiện hành chưa xác định rõ trách nhiệm pháp lý của các đối tượng này.

Dự luật mới hướng tới khắc phục "khoảng trống pháp lý" bằng cách chuyển trọng tâm từ nhãn hiển thị trên giao diện sang watermark được nhúng trực tiếp vào tệp nội dung. Theo đó, các nhà cung cấp dịch vụ AI sẽ phải tích hợp "mã, ký tự hoặc biểu tượng" vào chính sản phẩm được tạo ra. 

Mục tiêu là bảo đảm thông tin về nguồn gốc AI vẫn được giữ nguyên ngay cả khi nội dung bị chỉnh sửa, tải xuống hoặc đăng lại, đồng thời khiến việc giả mạo nội dung AI thành sản phẩm do con người tạo ra hoặc sự kiện có thật trở nên khó khăn hơn.

Bên cạnh đó, dự luật cũng nghiêm cấm hành vi phá hủy, sửa đổi, làm giả hoặc can thiệp vào các watermark và dấu nhận diện bắt buộc. Người vi phạm có thể đối mặt mức án lên tới 2 năm tù hoặc phạt tiền tối đa 20 triệu won (khoảng 13.300 USD).

Hàn Quốc tuyên chiến tin giả trước bầu cử, cảnh báo AI thao túng lá phiếu

Trước nguy cơ deepfake thao túng bầu cử, Hàn Quốc lập cơ chế giám sát toàn quốc, truy quét tận gốc các nguồn phát tán tin giả.