Trong phiên bỏ phiếu ngày 26-3, các nghị sĩ EP đã thông qua định hướng điều chỉnh một số quy định trong AI Act, đồng thời bổ sung đề xuất cấm các hệ thống AI có khả năng tạo ra hình ảnh khỏa thân giả từ người thật khi chưa được phép.

Động thái này nằm trong khuôn khổ sáng kiến "số hóa toàn diện" do Ủy ban châu Âu đề xuất từ cuối năm ngoái, nhằm điều chỉnh lộ trình áp dụng quy định đối với các hệ thống AI có mức độ rủi ro cao.

Trên cơ sở đó, EP xây dựng kế hoạch triển khai trong hai năm tới, đồng thời đề xuất các biện pháp hỗ trợ nhằm giảm gánh nặng thủ tục cho doanh nghiệp, đặc biệt là doanh nghiệp vừa và nhỏ.

Điểm đáng chú ý là đề xuất cấm các công cụ được gọi là "AI nuder" - phần mềm sử dụng thuật toán để biến đổi hình ảnh người thật thành phiên bản khỏa thân hoặc mang tính riêng tư dù không có sự cho phép. Theo các nghị sĩ, công nghệ này tiềm ẩn nguy cơ xâm phạm nghiêm trọng quyền cá nhân, đặc biệt khi bị lạm dụng trên mạng xã hội.

Tuy nhiên lệnh cấm sẽ không áp dụng với các hệ thống đã tích hợp cơ chế bảo vệ hiệu quả nhằm ngăn chặn việc tạo nội dung vi phạm, nhằm cân bằng giữa bảo vệ người dùng và không cản trở đổi mới công nghệ.

Trước đó, dư luận châu Âu chú ý tới vụ việc liên quan đến Grok - trợ lý AI trên nền tảng X. Công cụ này bị phản ánh có thể tạo hình ảnh khỏa thân giả theo yêu cầu, trong đó có trường hợp liên quan đến người chưa thành niên, làm dấy lên lo ngại về kiểm soát nội dung và trách nhiệm của nhà phát triển.

Ngoài đề xuất cấm AI tạo hình ảnh nhạy cảm trái phép, EP cũng xem xét nới lỏng một số nghĩa vụ đối với các sản phẩm đã chịu điều chỉnh của quy định chuyên ngành như thiết bị y tế hoặc đồ chơi trẻ em, nhằm tránh chồng chéo pháp lý. Tuy nhiên đề xuất này vẫn gây tranh luận khi một số nghị sĩ cho rằng có thể làm suy yếu hiệu quả ban đầu của Đạo luật AI.

Trong thời gian tới, EP và Hội đồng châu Âu sẽ tiến hành các vòng đàm phán để thống nhất văn bản cuối cùng, dự kiến định hình khung pháp lý quan trọng cho quản lý AI tại châu Âu trong những năm tới.

Dùng AI ghép ảnh khiêu dâm bạn học, hai thiếu niên Mỹ bị quản chế

Hai thiếu niên tại bang Pennsylvania (Mỹ) bị quản chế, sau khi sử dụng AI tạo ra hàng trăm hình ảnh khỏa thân của các bạn nữ cùng trường.