Vấn nạn deepfake (công nghệ ứng dụng trí tuệ nhân tạo (AI) - PV) khiêu dâm đang trở thành tâm điểm dư luận Hàn Quốc trong thời gian gần đây, khi hơn 200 nữ thần tượng được phát hiện xuất hiện trong các phim khiêu dâm bị chỉnh sửa bởi trí tuệ nhân tạo (AI). Sự phẫn nộ của cư dân mạng và các tổ chức xã hội đã thúc đẩy các cơ quan chức năng hành động nhằm ngăn chặn và trừng phạt nghiêm khắc những hành vi tội phạm này.
Hơn 200 nữ thần tượng Hàn Quốc bị lộ ảnh 18+ deepfake
Theo thông tin từ báo cáo Security Hero do Wall Street Journal chia sẻ, Hàn Quốc hiện đang là một trong những quốc gia đối mặt với tình trạng tội phạm tình dục kỹ thuật số trầm trọng nhất. Hơn 96.000 video khiêu dâm deepfake đã được phát tán trên mạng thông qua 10 trang web khiêu dâm và 85 kênh chia sẻ video chỉ trong vòng hai tháng. Đáng chú ý, có đến 53% cá nhân xuất hiện trong các video này là ca sĩ và diễn viên nổi tiếng của Hàn Quốc.
Các phòng chat trên ứng dụng Telegram, với tổng số hơn 212.000 người tham gia đã bị phát hiện là nơi lan truyền các nội dung khiêu dâm deepfake. Để tham gia vào các phòng chat này, người dùng buộc phải gửi một bộ ảnh của bất kỳ cô gái nào, cùng với thông tin cá nhân của nạn nhân. Đây là hành động vi phạm nghiêm trọng quyền riêng tư và danh dự của các nạn nhân, khiến họ phải chịu đựng sự tổn thương và nhục nhã.
Khi danh sách hơn 200 nữ thần tượng Kpop xuất hiện trên các trang web khiêu dâm khiến sự phẫn nộ từ cộng đồng mạng bùng nổ. Ảnh: IG.
Dư luận phẫn nộ về scandal deepfake
Khi danh sách hơn 200 nữ thần tượng Kpop xuất hiện trên các trang web khiêu dâm khiến cộng đồng mạng đã đưa ra những ý kiến trái chiều. Nhiều người yêu cầu các công ty quản lý phải có biện pháp mạnh mẽ để bảo vệ danh tiếng và quyền lợi của các nghệ sĩ trước sự tấn công của công nghệ deepfake. Đáp lại, Chính phủ Hàn Quốc đã cam kết sẽ tăng cường trấn áp các tội phạm tình dục kỹ thuật số, đặc biệt là những hành vi liên quan đến deepfake.
Tổng thống Yoon Suk Yeol đã kêu gọi các cơ quan chức năng tìm cách trừng phạt nghiêm khắc những kẻ phạm tội. Ông nhấn mạnh, nhiều nạn nhân trong các vụ án deepfake là trẻ vị thành niên và hầu hết thủ phạm cũng là thanh thiếu niên. Chỉ trong 7 tháng đầu năm nay, đã có 297 vụ phạm tội deepfake liên quan đến nội dung tình dục được báo cáo, tăng mạnh so với 180 vụ của cả năm trước.
Ngày 28/8 vừa qua, một kẻ phạm tội deepfake đã bị kết án 5 năm tù vì sản xuất và phát tán hơn 400 video khiêu dâm bịa đặt. Trước đó, vào năm 2020, kẻ cầm đầu đường dây deepfake khét tiếng Cho Ju Bin đã bị kết án 42 năm tù vì tội tống tiền và phát tán các hình ảnh khiêu dâm mang tính hạ nhục, gây bạo lực tinh thần đối với ít nhất 74 phụ nữ, trong đó có 16 nạn nhân là trẻ vị thành niên.
Luật pháp Hàn Quốc quy định rõ ràng về mức án phạt đối với các hành vi tạo và phát tán video deepfake có nội dung khiêu dâm. Theo đó, những ai vi phạm có thể bị phạt tù lên đến 5 năm hoặc phải nộp phạt số tiền lên đến 50 triệu won (khoảng 37.500 USD).
Không chỉ riêng Hàn Quốc, vấn nạn deepfake còn là mối đe dọa trên toàn cầu. Vào tháng 3 năm nay, Channel 4 News đã phát hiện ra 5 trang web deepfake với gần 4.000 người nổi tiếng bị ảnh hưởng, trong đó có 255 người đến từ Anh. Điều này cho thấy rằng, tình trạng lạm dụng công nghệ AI để tạo ra các nội dung khiêu dâm giả mạo đang lan rộng và gây ra những tổn thương không thể đo đếm đối với các nạn nhân.
Các công ty mạng xã hội như Google và Meta đã bắt đầu thực hiện các biện pháp bảo vệ người dùng. Tuy nhiên, vẫn còn nhiều lỗ hổng cần được khắc phục để đảm bảo an toàn cho những người bị ảnh hưởng. Chính phủ các nước và các tổ chức xã hội cần phối hợp chặt chẽ để đối phó với thách thức từ công nghệ deepfake, nhằm bảo vệ quyền lợi và danh dự của các cá nhân trước những hành vi phạm pháp ngày càng tinh vi trên không gian mạng.
