25/05/2024 10:35 GMT+7

Những ứng dụng 'bệnh hoạn' dùng trí tuệ nhân tạo để khỏa thân 'người mình muốn'

Nhiều ứng dụng đang ứng dụng trí tuệ nhân tạo biến người khác thành khỏa thân, đặc biệt chỉ hoạt động với hình ảnh hoặc video của phụ nữ, bất chấp có sự đồng ý hay không.

Các ứng dụng sử dụng trí tuệ nhân tạo để cởi quần áo của người trong ảnh đang ngày càng phổ biến - Ảnh: NDTV

Các ứng dụng sử dụng trí tuệ nhân tạo để cởi quần áo của người trong ảnh đang ngày càng phổ biến - Ảnh: NDTV

Đây là kết quả một nghiên cứu truyền thông xã hội về các ứng dụng sử dụng trí tuệ nhân tạo (AI) để cởi quần áo của người trong ảnh và cảnh báo điều này đang ngày càng phổ biến.

24 triệu lượt truy cập trong tháng vì ảnh khỏa thân

Công ty phân tích truyền thông xã hội Graphika đã thực hiện phân tích 34 công ty cung cấp dịch vụ này.

Graphika gọi tên dịch vụ là "hình ảnh thân mật không có sự đồng thuận" (NCII). Kết quả, những trang web cung cấp NCII có tới 24 triệu lượt truy cập chỉ trong vòng một tháng.

Một trong những quảng cáo của loại hình này có nội dung: "Cởi quần áo của bất kỳ cô gái nào bạn muốn".

Ban đầu, ngành công nghiệp cởi quần áo ảo gần như không tồn tại. Tuy nhiên, các mô hình khuếch tán hình ảnh AI mã nguồn mở đã đơn giản hóa quá trình thay đổi ảnh, cho phép khởi chạy các ứng dụng và trang web NCII. Từ đó, số lượng liên kết giới thiệu dịch vụ này trên Reddit và X đã tăng hơn 2.400%, tính trong năm 2022.

Các nhà nghiên cứu đã chỉ ra rằng với sự hỗ trợ của các dịch vụ AI, những nhà cung cấp NCII tổng hợp hiện hoạt động như một ngành công nghiệp trực tuyến chính thức.

Họ tận dụng nhiều chiến thuật tiếp thị và công cụ kiếm tiền giống như các công ty thương mại điện tử đã thành danh.

Điều này bao gồm quảng cáo trên các nền tảng truyền thông xã hội chính thống, tiếp thị có ảnh hưởng, triển khai các chương trình giới thiệu khách hàng và sử dụng công nghệ thanh toán trực tuyến.

Chỉ cần vài thao tác đơn giản

Thực ra, việc ảnh khỏa thân được chia sẻ trên mạng mà không có sự đồng ý là điều không có gì mới. Năm 2018, một hacker từng bị kết án 8 tháng tù vì chia sẻ công khai những bức ảnh khỏa thân thật của nữ diễn viên Jennifer Lawrence và những người nổi tiếng khác trên Internet. Lawrence gọi vụ hack ảnh này là "tội ác tình dục".

Giờ đây, những bức ảnh như vậy có thể được tạo ra chỉ bằng một vài thao tác ấn phím đơn giản. Và sẽ rất khó để biết những hình ảnh đó là thật hay bịa đặt. FBI cũng từng đưa ra cảnh báo về tình trạng gia tăng việc thao túng hình ảnh để tống tiền hoặc tạo nội dung tục tĩu.

"Những kẻ độc hại sử dụng các công nghệ và dịch vụ để khai thác ảnh và video thường được chụp từ tài khoản mạng xã hội của một cá nhân, mã nguồn mở hoặc được nạn nhân yêu cầu thành những hình ảnh có chủ đề tình dục trông giống như thật với nạn nhân, sau đó lan truyền chúng trên mạng xã hội, diễn đàn công cộng hoặc các trang web khiêu dâm" - trang web FBI cảnh báo.

Những bức ảnh này đôi khi được sử dụng như một hành vi tống tiền, đòi tiền chuộc từ chủ thể của bức ảnh. Thêm vào mối lo ngại, các chương trình này đang được sử dụng để tạo ảnh khỏa thân trẻ vị thành niên.

Tháng 9 năm ngoái, hình ảnh khỏa thân của hơn 20 cô gái trẻ ở Tây Ban Nha đã bị phát hiện. 

Hầu hết các bức ảnh đều được tạo bằng cách sử dụng ảnh có mặc trang phục đầy đủ lấy từ tài khoản Instagram của các cô gái ấy, sau đó được chỉnh sửa bằng một ứng dụng hỗ trợ AI để biến thành khỏa thân và sau đó được chia sẻ trong các nhóm WhatsApp.

Giờ đây, việc cởi quần áo của những người nổi tiếng, bạn cùng lớp, người lạ trên xe buýt, sếp hay đồng nghiệp và cả trẻ em chỉ còn là vài cú nhấp chuột. 

Ở Mỹ, hiện chưa có luật liên bang nào cấm tạo ra những bức ảnh này mặc dù chúng bị cấm sử dụng với trẻ vị thành niên. Đối với ảnh người lớn, những ứng dụng này và hình ảnh do chúng tạo ra vẫn hợp pháp.

Theo tờ Time, TikTok và Meta đã chặn tìm kiếm cụm từ "cởi quần áo" để giảm quyền truy cập vào các chương trình. Google cũng đã xóa một số quảng cáo về các ứng dụng và trang web cởi quần áo.

Drake và Taylor Swift khổ sở vì AI deepfake, liên tục bị lan truyền bài hát giả mạoDrake và Taylor Swift khổ sở vì AI deepfake, liên tục bị lan truyền bài hát giả mạo

Time đưa tin một số ca khúc được cho là của hai ngôi sao nhạc pop Drake và Taylor Swift đang bị lan truyền trên mạng, gây ra nhiều bức xúc.

Trở thành người đầu tiên tặng sao cho bài viết 0 0 0
Bình luận (0)
thông tin tài khoản
Được quan tâm nhất Mới nhất Tặng sao cho thành viên