Theo khảo sát mới nhất của Bộ Giáo dục Hàn Quốc, tính từ đầu năm đến ngày 27/9, đã có 830 trường hợp bị lạm dụng bởi công nghệ video giả mạo (video deepfake), trong đó có 799 học sinh từ cấp tiểu học đến trung học phổ thông và 31 giáo viên.
Trong số 504 báo cáo được gửi đến các trường học, 279 trường hợp đến từ các trường trung học phổ thông và 209 trường hợp từ các trường trung học cơ sở. 417 vụ việc đã được chuyển đến cơ quan chức năng để điều tra, trong đó 223 vụ liên quan đến học sinh trung học phổ thông. Ngoài ra, 218 trường hợp đã được yêu cầu xóa nội dung.
Vấn nạn tội phạm tình dục sử dụng công nghệ deepfake để chỉnh sửa hình ảnh khuôn mặt phụ nữ đang gia tăng tại Hàn Quốc.
Bộ Giáo dục Hàn Quốc cho biết sẽ tăng cường các biện pháp bảo vệ học sinh và giáo viên khỏi nguy cơ bị lạm dụng bởi công nghệ deepfake, đồng thời phối hợp chặt chẽ với cơ quan chức năng để xử lý nghiêm các đối tượng vi phạm.
Trước đó, ngày 29/9 vừa qua, cơ quan quản lý viễn thông nhà nước Hàn Quốc thông báo đã đạt được "tiến bộ đáng kể" trong các cuộc đàm phán gần đây với Telegram về việc xử lý nội dung deepfake trên ứng dụng nhắn tin mã hóa này.
Theo các nguồn tin, Telegram đã đồng ý với đề nghị xóa bỏ ngay lập tức tất cả nội dung phi pháp, trong đó có cả những nội dung liên quan đến deepfake, ma túy và cờ bạc. Công ty này cũng đồng ý rằng cần hợp tác với cảnh sát Hàn Quốc và các cơ quan khác./.
Hàn Quốc và Telegram phối hợp ngăn chặn và xử lý các nội dung deepfake
Theo các nguồn tin từ ngành công nghiệp, Telegram đề nghị xóa bỏ ngay lập tức tất cả nội dung phi pháp, trong đó có cả những nội dung liên quan đến deepfake, ma túy và cờ bạc, theo yêu cầu của KCSC.