Tính năng được cung cấp trong phần chỉnh sửa ảnh (edit) của Pura 70, vô tình đã xóa luôn các lớp quần áo của người trong bức ảnh.
Trên nền tảng mạng xã hội Weibo của Trung Quốc, nhiều người dùng đã đăng các video nêu bật vấn đề đáng lo ngại này. Nhiều tranh cãi đã nhanh chóng bùng nổ khi các video được chia sẻ cho thấy việc loại bỏ quần áo của người trong ảnh khá đơn giản, chỉ cần một chạm với tính năng chỉnh sửa ảnh thông minh kể trên của điện thoại.
Điều này khiến nhiều người dùng bất an khi ai cũng có thể dễ dàng thay đổi hình ảnh để lộ các bộ phận trên cơ thể của người khác mà không có sự đồng ý của họ. Lo ngại về quyền riêng tư và nguy cơ việc sử dụng sai và chia sẻ nội dung không phù hợp, thậm chí các nội dung khiêu dâm có liên quan những bức ảnh vốn rất bình thường cũng được đặt ra.
Sau khi nhận được những phản hồi kể trên, bộ phận chăm sóc khách hàng của Huawei đã thừa nhận vấn đề, cho rằng nó bắt nguồn từ lỗ hổng trong thuật toán AI. Họ đảm bảo với người dùng rằng các vấn đề này sẽ được giải quyết trong các bản cập nhật hệ thống sắp tới.
Mặc dù vậy, trước khi bản cập nhật được tung ra, đã có rất nhiều bức ảnh đã được chỉnh sửa và người dùng tại Trung Quốc không biết được, mình có trở thành nạn nhân của nhữn bức ảnh chưa được tiết lộ đó hay không.
Vấn đề với tính năng AI trên điện thoại Huawei Pura 70 cũng đồng thời đặt ra những câu hỏi về đạo đức và sự an toàn cá nhân trong quá trình phát triển công nghệ AI cũng như nguy cơ mà trí tuệ nhân tạo có thể bị lợi dụng, sử dụng vào các mục đích xấu. Các tính năng AI liên quan đến thao tác hình ảnh và cá nhân, cần được cơ quan chức năng kiểm tra cẩn thận và phải có các biện pháp bảo vệ để ngăn chặn hậu quả trước khi được tung ra với công chúng.
Pura 70 là dòng sản phẩm smartphone cao cấp mới được giới thiệu của Huawei dành cho thị trường trong nước, chưa có ý định tiến công ra thị trường thế giới. Trong tiếng Tây Ban Nha, “pura” có ý nghĩa là “đẹp” và “tinh khiết”, tuy nhiên khi vừa ra mắt, sản phẩm đã “có lỗi” với chính phái đẹp.
Thực tế, đây không phải lần đầu tiên có một ứng dụng tích hợp AI có tính năng “lột đồ” được tung ra. Cuối năm ngoái, các chuyên gia công nghệ cũng đã nhiều lần lên tiếng về vấn đề này khi nguy cơ tạo ra những bức ảnh khỏa thân của phụ nữ gia tăng đột biến. Chỉ trong tháng 9/2023, đã có tới 24 triệu người ghé thăm các website chuyên “lột đồ” của phụ nữ. Các dịch vụ, ứng dụng kể trên thậm chí còn được quảng cáo trên các nền tảng mạng xã hội. Hầu hết, các ứng dụng này đều sử dụng AI để tái tạo hình ảnh khỏa thân của một người, nhiều dịch vụ, ứng dụng chỉ hoạt động với các đối tượng là phụ nữ. Tuy nhiên, với sự cố đối với ứng dụng AI của Pura 70, là lần đầu tiên một sản phẩm của một công ty công nghệ hàng đầu thế giới như Huawei mắc phải.
Theo Graphika, sự phổ biến của các ứng dụng, website tương ứng với việc xuất hiện của nhiều mô hình khuếch tán nguồn mở - hay AI có thể tạo ra hình ảnh ưu việt hơn hẳn vài năm trước. Do là nguồn mở, các mô hình mà nhà phát triển sử dụng đều miễn phí.
Tháng 11/2023, một nhà bác sĩ tâm thần nhi ở Bắc Carolina đã bị phạt tù 40 năm vì dùng ứng dụng “lột đồ” với chính bệnh nhân của hắn. Đây là vụ truy tố đầu tiên liên quan đến tạo nội dung khiêu dâm trẻ em bằng deepfake.
Trên các nền tảng mạng xã hội, những nỗ lực ngăn chặn hành vi này cũng đang được siết chặt. TikTok đã cấm từ khóa “cởi đồ” (undress) trên dịch vụ, cảnh báo bất kỳ ai tìm kiếm từ khóa này “có thể liên quan đến hành vi hay nội dung vi phạm hướng dẫn của chúng tôi”. Meta cũng đã chặn những từ khóa liên quan đến nội dung tương tự từ năm ngoái.
