Báo cáo được phát đi cho thấy đã có 180 vụ án hình sự liên quan đến việc rải hình ảnh deepfake tại Hàn Quốc vào năm ngoái. Đáng lưu ý, 91 trong số 120 người đã bị trừng phạt trong các vụ án đó là thanh thiếu niên.
Số lượng tội phạm liên quan đến deepfake đang có xu hướng gia tăng theo các năm. Năm 2022, con số ghi nhận là 156 người. Năm 2022, 61% các bản án liên quan đến thanh thiếu niên, tăng 75,8% vào năm 2023.
"Những tội phạm tình dục kỹ thuật số gây ra tổn thương không thể phục hồi cho nạn nhân đang lan rộng trong giới thanh thiếu niên, như thể đó là một trò chơi", Dân biểu Cho Eun-hee của Đảng Quyền lực Nhân dân Hàn Quốc cho biết, đồng thời kêu gọi những sửa đổi có hệ thống để ngăn chặn những tội phạm như vậy.
Vào thứ Tư, Sở Giáo dục thành phố Busan (Hàn Quốc) cho biết 4 học sinh trung học đang bị cảnh sát điều tra vì sử dụng công nghệ deepfake để sao chép kỹ thuật số khuôn mặt của 18 học sinh và 2 giáo viên. Họ đã tạo ra khoảng 80 hình ảnh khiêu dâm của các nạn nhân, được họ chia sẻ qua các ứng dụng nhắn tin di động.
Có 12 trường hợp sinh viên phát tán video khiêu dâm giả mạo của các bạn học khác ở Busan vào năm ngoái, nhưng chỉ riêng trong sáu tháng đầu năm nay đã có tới 15 trường hợp.
Trên đảo Jeju, cảnh sát gần đây đã bắt được một học sinh tuổi teen tại một trường quốc tế đang làm phim khiêu dâm deepfake bằng cách sử dụng khuôn mặt của các bạn học. Ít nhất 11 học sinh đã bị phát hiện là nạn nhân của tội ác này.
Tội phạm deepfake có thể có nhiều hình thức khác nhau. Đôi khi hình ảnh được sử dụng như một cách để bắt nạt nạn nhân, nhưng đôi khi chúng được tạo ra để kiếm tiền. Vào năm 2022, một học sinh trung học đã bị kết tội bán nội dung khiêu dâm, bao gồm cả ảnh chỉnh sửa của người thật cho 110 người trực tuyến để đổi lấy phiếu quà tặng.
Các viên chức của Trung tâm Hoa hướng dương do nhà nước Hàn Quốc điều hành, nơi cung cấp dịch vụ tư vấn cho các nạn nhân bị lạm dụng tình dục, cho biết tội phạm tình dục sử dụng deepfake có thể diễn ra dưới nhiều hình thức. Một viên chức tại trung tâm nói với báo chí địa phương rằng trong khi phần lớn các trường hợp liên quan đến nam sinh xâm hại nữ sinh, thì học sinh của cả hai giới cũng được báo cáo là xâm hại những học sinh khác cùng giới.
Thanh thiếu niên Hàn Quốc dễ dàng tiếp cận dịch vụ trí tuệ nhân tạo. Một cuộc khảo sát 2.261 thanh thiếu niên do Cơ quan Xã hội Thông tin Quốc gia công bố vào tháng 5 cho thấy khoảng 77,5% thanh thiếu niên ở đây cho biết họ biết về AI tạo sinh và hơn một nửa, 52,1% cho biết họ đã thực sự sử dụng nó.
Bản thân công nghệ AI tạo sinh có thể được sử dụng để tạo ra mọi loại hình ảnh, nội dung viết và nhạc, là một công cụ được sử dụng trong nhiều ngành công nghiệp. Rất ít thanh thiếu niên Hàn Quốc am hiểu công nghệ này sử dụng nó cho mục đích bất hợp pháp, tuy nhiên, giống như bất kỳ công cụ nào khác, nó có thể gây hại nếu sử dụng sai mục đích và ngày càng có nhiều lo ngại về tác hại có thể xảy ra khi lạm dụng nó.
Mặc dù ngày càng có nhiều thanh thiếu niên bị phạt vì sử dụng công nghệ deepfake, rất ít trong số họ bị phạt nghiêm khắc. Một phần là vì trẻ vị thành niên thường bị phạt nhẹ hơn.
Trong khi người lớn xử lý hoặc chỉnh sửa nội dung video, âm thanh hoặc hình ảnh sai sự thật của người khác dưới hình thức gây ra sự xấu hổ về tình dục trái với ý muốn của người đó với mục đích phổ biến có thể bị phạt tới 5 năm tù hoặc phạt tiền lên tới 50 triệu won (37.000 đô la), theo điều 14-1 của Đạo luật về các trường hợp đặc biệt liên quan đến hình phạt, v.v. của Tội phạm tình dục tại Hàn Quốc. Tuy nhiên, theo tờ báo Hankyoreh của nước này gần đây đưa tin rằng hình phạt thực tế nhẹ hơn nhiều so với luật định. Phân tích của tờ báo về 46 phán quyết của tòa án liên quan đến video giả cho thấy trong số 18 người chỉ bị truy tố vì phát tán video giả, chỉ có 1 người bị phạt tù, 15 hưởng án treo trong khi 2 người bị phạt tiền.
Trong một trường hợp, một thanh niên đã chỉnh sửa ảnh của người anh họ tuổi teen của mình và chia sẻ trên ứng dụng nhắn tin di động, ban đầu người này đã bị kết án hai năm tù, nhưng tòa phúc thẩm đã giảm hình phạt xuống còn án treo. Tòa án cho biết trong phán quyết rằng bị cáo còn trẻ, không có tiền án, và cha mẹ anh ta đã cam kết sẽ dẫn anh ta tránh xa tội ác.
Luật cũng quy định rằng người phạm tội phải có mục đích phát tán, nghĩa là việc trừng phạt những người sở hữu nội dung khiêu dâm deepfake như vậy nằm trong vùng xám pháp lý. Vì vậy, các chuyên gia tội phạm nhấn mạnh rằng chính phủ nên tăng cường giáo dục học sinh để đảm bảo các em nhận thức được mức độ nghiêm trọng của tội phạm.
Lee Soo-jung, Giáo sư tâm lý tội phạm tại Đại học Kyunggi, cho biết trong một cuộc phỏng vấn với báo chí địa phương rằng các bài học về công nghệ máy tính như mã hóa phải bao gồm các khía cạnh pháp lý và đạo đức của công nghệ. Bà nhấn mạnh rằng giáo dục như vậy phải bắt đầu từ khi còn rất nhỏ, vì nguy cơ nhầm lẫn những tội ác như vậy là trò đùa cao hơn ở trẻ nhỏ.
