Theo Hãng tin AP ngày 26-3, một tòa án tại bang Pennsylvania (Mỹ) đã tuyên án quản chế đối với hai nam sinh 16 tuổi. Cả hai thừa nhận các cáo buộc liên quan việc sản xuất và phát tán tài liệu xâm hại tình dục trẻ em, cùng tội danh âm mưu và tội phát tán nội dung khiêu dâm.

Hai thiếu niên đã dùng công nghệ trí tuệ nhân tạo (AI) tạo ra khoảng 350 hình ảnh khỏa thân giả mạo, trong đó có ít nhất 59 nạn nhân là nữ sinh dưới 18 tuổi.

Theo cơ quan chức năng, khi mới 14 tuổi, cả hai đã thu thập ảnh của các bạn học từ kỷ yếu trường, mạng xã hội và các cuộc gọi FaceTime trong giai đoạn 2023-2024, sau đó dùng AI ghép những hình ảnh này với nội dung khỏa thân hoặc khiêu dâm của người lớn.

Nạn nhân tổn thương tâm lý nặng, bị cáo không xin lỗi

Tại phiên tòa, hơn 100 học sinh và phụ huynh Trường tư thục Lancaster Country Day đã có mặt lắng nghe lời kể của các nạn nhân. Đây là phiên xét xử hiếm hoi được mở công khai trong các vụ án vị thành niên tại bang này.

Nhiều nữ sinh mô tả cú sốc khi phải nhận diện chính khuôn mặt mình trong các hình ảnh khiêu dâm do cảnh sát cung cấp. Các em cho biết phải đối mặt với lo âu, giảm khả năng tập trung và nỗi sợ những hình ảnh đó bị phát tán trong tương lai.

Một nạn nhân chia sẻ trước tòa rằng vụ việc đã "phá nát sự ngây thơ" của mình.

Một số em khác cho biết phải chuyển trường, thậm chí cần trị liệu tâm lý để sinh hoạt bình thường.

Trong suốt phiên tòa, hai bị cáo giữ thái độ im lặng, không xin lỗi hay nhận trách nhiệm.

Thẩm phán Leonard Brown cho biết ông chưa từng nghe hai em thể hiện sự hối lỗi.

Luật sư bào chữa nói thân chủ "rất hối hận", song lập luận rằng các hình ảnh "không mô tả hành vi tình dục cụ thể" và không có ý định phát tán công khai.

Tòa yêu cầu mỗi bị cáo thực hiện 60 giờ lao động công ích, không được tiếp xúc với các nạn nhân và bồi thường 12.000 USD chi phí tư vấn tâm lý.

Nếu không tái phạm, hồ sơ vụ án có thể được xóa sau hai năm. Thẩm phán cảnh báo nếu là người trưởng thành, hai bị cáo có thể đối mặt với án tù.

Deepfake xâm nhập sâu vào học đường

Việc học sinh lạm dụng AI để tạo hình ảnh khiêu dâm không còn là chuyện hiếm. Gần đây, ba thiếu niên tại bang Tennessee đã kiện Công ty xAI của tỉ phú Elon Musk, cáo buộc công cụ AI của hãng này biến ảnh thật của họ thành hình ảnh khiêu dâm.

Vụ việc tại Tennessee cũng làm dấy lên phản ứng mạnh trong cộng đồng, với các cuộc biểu tình của học sinh và ban lãnh đạo nhà trường phải rời vị trí.

Luật sư đại diện cho một số nạn nhân cho biết đang xem xét khởi kiện nhà trường và các bên liên quan để làm rõ trách nhiệm trong việc phát hiện, ngăn chặn và xử lý vụ việc.

Tại Mỹ, các nhà lập pháp đang tăng tốc ban hành quy định kiểm soát deepfake.

Tổng thống Donald Trump đã ký Đạo luật "Take It Down Act" (tạm dịch: Đạo luật gỡ bỏ nội dung), quy định việc phát tán hình ảnh nhạy cảm không có sự đồng thuận - kể cả deepfake - là bất hợp pháp, đồng thời yêu cầu các nền tảng gỡ bỏ nội dung trong vòng 48 giờ kể từ khi có yêu cầu của nạn nhân.

Hiện 46 bang đã ban hành luật về deepfake, các bang còn lại đang hoàn thiện khung pháp lý.

YouTube dùng AI hỗ trợ chính trị gia, nhà báo trước làn sóng deepfake

Một đoạn video phát biểu gây sốc có thể lan truyền rất nhanh trên mạng, nhưng người trong video có khi chưa từng nói câu đó. Trước nguy cơ deepfake ngày càng tinh vi, YouTube đang triển khai các công cụ AI mới để phát hiện và xử lý nội dung giả mạo.