Deepfake đang gây lo ngại ở showbiz Việt. Nhiều nghệ sĩ thừa nhận không hề hay biết bản thân trở thành nạn nhân của vấn nạn deepfake cho đến khi Zing phản ánh. Theo đó, trong khoảng một tháng trở lại đây, một số tài khoản trên Twitter ghép mặt nghệ sĩ vào các hình ảnh đồi trụy. Họ có thể tự ghép để câu view hoặc ghép theo yêu cầu của người khác để nhận tiền.
Hình thức trục lợi từ hình ảnh ghép mặt người nổi tiếng đã phổ biến từ rất lâu trên thế giới. Biết chắc những tấm hình là sản phẩm của công nghệ nhưng nhiều người sẵn sàng bỏ tiền mua.
Thu lợi bất chính từ sản phẩm đồi trụy
Sau bài phản ánh của Zing, tài khoản chuyên tạo ảnh deepfake trên Twitter đã tạm khóa. Tuy nhiên, trước đó, tài khoản này thường xuyên có bài viết chào mời như: “Nhận fake ảnh nghệ sĩ, TikToker, crush của bạn theo yêu cầu. Đảm bảo tuyệt mật (inbox phí) hoặc giới thiệu chương trình giảm giá".
Khi phóng viên trao đổi qua nhắn tin, tài khoản này trả lời nhận fake ảnh với giá 50.000 đồng/3 ảnh của người nổi tiếng. Tài khoản này yêu cầu chuyển khoản trước 50% và khi hoàn thành ảnh nhận 50% số tiền còn lại.
Tài khoản này có trên 10.000 theo dõi. Biết rõ là hình ghép do công nghệ AI nhưng dưới mỗi bài đăng, rất nhiều bình luận hỏi cách mua hình deepfake. Nhiều người thậm chí bình luận tên hoặc hình ảnh của nghệ sĩ họ mong muốn.
Ở Trung Quốc, Hàn Quốc, hàng trăm, hàng nghìn nghệ sĩ đã bị xuyên tạc hình ảnh bởi những cá nhân muốn trục lợi bất chính. Theo Korea JoongAng Daily, hình ảnh và video quấy rối tình dục, xuyên tạc những người nổi tiếng nữ không phải điều mới lạ ở Hàn Quốc.
Ở vụ án khét tiếng, gây chấn động Hàn Quốc là "Phòng thứ N", thủ phạm ngoài việc quay lén đã sử dụng deepfake để tạo nội dung khiêu dâm và phát tán chúng trong các phòng trò chuyện nhóm trên thiết bị di động.
 |
| Cho Joo Bin phải trả giá cho hành vi thu lợi từ deepfake, quay lén... |
Korea JoongAng Daily trích báo cáo từ Cơ quan cảnh sát Mapo ở phía tây Seoul cho biết băng nhóm tội phạm đã sản xuất nội dung khiêu dâm deepfake với khuôn mặt của những người nổi tiếng và phân phối chúng thông qua một trang web bất hợp pháp kể từ năm 2018. Hơn một trăm người nổi tiếng được cho là đã xuất hiện trên trang web chứa khoảng 3.000 video.
Theo Yonhap News, Cho Joo Bin thu được khoản tiền 108 triệu won (96.500 USD vào thời điểm đó) từ việc bán các hình ảnh bạo lực, đồi trụy ở "phòng chat thứ N".
Giữa năm 2021, sau khi hơn 200.000 người ký đơn gửi lên Nhà Xanh nhằm yêu cầu hành động “quét sạch” hành vi deepfake khiêu dâm, cảnh sát Hàn Quốc đã bắt giữ 94 nghi phạm. Họ bị cáo buộc tạo hoặc phân phối nội dung deepfake bất hợp pháp trong suốt 5 tháng.
Trong số 114 nạn nhân được xác định danh tính, có 109 người là nữ, chủ yếu ở độ tuổi 10 hoặc 20. "Tạo hoặc phân phối nội dung deepfake là tội nghiêm trọng", một quan chức cảnh sát cho biết.
Cùng thời điểm, cảnh sát thành phố Busan thông báo họ bắt giữ 4 trường hợp bán video giả mạo người nổi tiếng. Những người này đã thu thập và sở hữu 3.039 bức ảnh deepfake của 150 ca sĩ Kpop và 11.373 video. Họ bán các video với giá 10.000 won. Trong thời gian này, cảnh sát Hàn Quốc bắt giữ nhiều thanh niên khác chuộc lợi từ việc làm ảnh, video deepfake của thần tượng, diễn viên, JoongAng cho biết.
 |
| Hàng loạt thần tượng Kpop trở thành nạn nhân trên trang web deepfake. |
Tới cuối năm 2022, Cơ quan cảnh sát Jeju truy tố người đàn ông khoảng 30 tuổi với tội danh sản xuất và bán nội dung khiêu dâm deepfake. Tháng 8/2020 đến 10/2022, người này sản xuất hơn 3.000 video cắt ghép khuôn mặt của những người nổi tiếng. Hắn bán video cho các thành viên trong phòng chat Telegram với giá 30 USD/tháng/người.
Theo Ettoday, tháng 10/2021, cảnh sát Đài Loan triệt phá đường dây phạm tội bằng công nghệ deepfake để sản xuất văn hóa phẩm đồi trụy của Chu Ngọc Thần. Danh sách 100 người nổi tiếng là nạn nhân bị phát tán video nóng giả mạo gồm Trần Phương Ngữ, Phùng Đề Mạc, Lý Nguyên Linh, Đặng Tử Kỳ, Thái Y Lâm, Trịnh Gia Thuần, Lâm Minh Trinh...
Bằng thủ đoạn ghép mặt các minh tinh vào sản phẩm khiêu dâm, Chu và đồng bọn kiếm hơn 1,7 triệu USD/năm.
Hình thức lạm dụng tình dục người nổi tiếng
Bất cứ ai cũng có thể là nạn nhân của deepfake khiêu dâm, nhưng dữ liệu từ Korea Herald cho thấy những người nổi tiếng nữ có nhiều khả năng trở thành mục tiêu hơn.
Theo Sensity, deepfakes xuất hiện vào cuối năm 2017 và số lượng đã tăng lên nhanh chóng. Năm 2018, công ty này thống kê có hơn 7.000 video deepfake trực tuyến. Đến tháng 12/2020, báo cáo của họ cho thấy con số này đã tăng vọt lên hơn 85.000 video.
Cuối tháng 3, tờ NBC News đưa tin các video khiêu dâm được ghép khuôn mặt của hàng trăm phụ nữ đang thu hút hàng chục triệu người truy cập trên các trang web. Các trang web đó nhanh chóng xuất hiện ở ngay đầu kết quả tìm kiếm của Google.
NBC News cho biết những người muốn tải xuống video có khuôn mặt của người nổi tiếng phải trả 5 USD và thanh toán qua Visa, Mastercard, tiền điện tử. Nếu muốn có quyền truy cập thư viện có hàng nghìn video thì phí đăng ký thấp nhất là 5 USD một tháng.
Các video deepfake thường được đăng trên trang web riêng. Những trang web này thường chỉ đăng sản phẩm video chỉnh sửa. Và như trang Twitter đăng ảnh vu khống loạt sao Việt, chủ tài khoản cũng chú thích rõ ràng tất cả là sản phẩm của photoshop. Tuy nhiên, bất chấp điều đó, nhiều người vẫn sẵn sàng bỏ tiền mua.
Kat Tenbarge, nhà báo của NBC News giải thích: “Đây là cách mới để quấy rối tình dục. Nó lấy đi quyền tự chủ về cơ thể của các người nổi tiếng và như thể ép buộc họ quan hệ tình dục không đồng thuận. Các sản phẩm deepfake sau đó có thể được sử dụng để làm nhục và phân biệt đối xử”.
Đặc biệt, đôi khi các sản phẩm deepfake thỏa mãn tâm lý “méo mó” của những người hâm mộ “biến thái”. Họ có suy nghĩ tình dục với nghệ sĩ, người nổi tiếng họ yêu thích hoặc hấp dẫn về ngoại hình. Nhưng vì không thể gặp mặt, họ chỉ có thể thỏa mãn qua các sản phẩm deepfake bất chấp đây là hành vi vi phạm đạo đức, pháp luật. Korea Herald nhấn mạnh công nghệ deepfake đang được sử dụng để lạm dụng tình dục.