Người Úc mất 43,4 triệu USD vì deepfake người nổi tiếng

Dịch vụ mới đã giúp Meta chặn 8.000 trang, tài khoản lừa đảo, đồng thời ngăn ngừa 9.000 vụ lừa đảo sử dụng deepfake người nổi tiếng chỉ trong 6 tháng đầu hoạt động.

Theo đó, từ tháng 1 đến tháng 8 năm nay, người Úc đã báo cáo với Scamwatch về khoản thiệt hại 43,4 triệu USD do lừa đảo mạng, trong đó gần 30 triệu USD liên quan đến các vụ lừa đảo đầu tư giả mạo.

Meta – công ty mẹ của Facebook, Instagram và Theards đã phải đối mặt với những áp lực từ các chính trị gia và cơ quan quản lý trong nhiều năm qua, bị cáo buộc không triệt để trong việc ngăn chặn lừa đảo sử dụng hình ảnh deepfake của người nổi tiếng trên nền tảng.

Những vụ lừa đảo như vậy sử dụng hình ảnh giả mạo của những người nổi tiếng Úc như tỷ phú Gina Rinehart hoặc nhân vật truyền hình Larry Emdur. Trong một số trường hợp, như với bức ảnh deepfake của nhà hoạt động vì quyền động vật Robert Irwin bị còng tay, các vụ lừa đảo có giọng điệu âm mưu, như thể cơ quan thực thi pháp luật đang cố gắng che giấu thông tin tài chính bí mật khỏi công chúng và những người nổi tiếng muốn đưa thông tin đó ra ánh sáng....

Gần đây, công ty đã bị ông trùm khai khoáng, tỷ phú giàu thứ hai Úc là Andrew Forrest kiện với bị cáo buộc không giải quyết được tình trạng lừa đảo sử dụng hình ảnh của ông trên nền tảng Facebook. Với sức ảnh hưởng của tỷ phú này, cùng với sự tinh vi của công nghệ, người xem thường ít có tâm lý phòng bị và dễ dàng lọt vào bẫy của tội phạm mạng.

Meta đã hợp tác với Sàn giao dịch Tội phạm tài chính Úc (AFCX) để ra mắt Sàn giao dịch trao đổi thông tin gian lận (Fire), cung cấp kênh báo cáo chuyên dụng về các vụ lừa đảo cho Meta và các nhà cung cấp dịch vụ tài chính của các nạn nhân. Nó cho phép các ngân hàng báo cáo trực tiếp các vụ lừa đảo đã được ghi nhận cho Meta và cũng cho phép Meta thông báo cho tất cả các ngân hàng liên quan về những vụ lừa đảo mà công ty đã phát hiện trên nền tảng của mình.

Bảy ngân hàng bao gồm ANZ, Bendigo Bank, CBA, HSBC, Macquarie, NAB, Westpac đã tham gia vào chương trình Fire. Chương trình này tách biệt với dịch vụ chia sẻ thông tin Intel Loop của AFCX liên quan đến các ngân hàng đó, cùng với Optus, Pivotel, Telstra và TPG, và Trung tâm chống lừa đảo quốc gia, nhưng các ngân hàng sử dụng Intel Loop để báo cáo với Fire.

Kể từ khi triển khai chương trình thí điểm vào tháng 4, đã có 102 báo cáo, giúp Meta xóa hơn 9.000 trang lừa đảo và 8.000 vụ lừa đảo đầu tư vào người nổi tiếng do AI tạo ra trên Facebook và Instagram.

Mặc dù kết quả ban đầu rất khả quan, số lượng báo cáo về các vụ lừa đảo vẫn chưa là gì so với số lượng tổn thất được báo cáo cho Scamwatch, khi chỉ riêng trong tháng 8, đã có 1.600 vụ mất mát do lừa đảo trên mạng xã hội được báo cáo.

Meta cho biết trên toàn cầu trong quý gần nhất, họ đã xóa 1,2 tỷ tài khoản giả mạo, 99,7% trong số đó đã bị xóa trước khi bị người dùng báo cáo.

Rhonda Luo, người đứng đầu bộ phận quan hệ với các bên liên quan tại AFCX cho biết mục đích của chương trình là khiến Úc trở thành mục tiêu kém hấp dẫn hơn đối với những kẻ lừa đảo.

David Agranovich, Giám đốc bộ phận ngăn chặn mối đe dọa toàn cầu tại Meta cho biết công cụ mới cho phép Meta theo dõi nhiều hơn các hoạt động lừa đảo diễn ra bên ngoài nền tảng của công ty để có thể liên kết thông tin với những gì đang diễn ra trên Facebook và Instagram.

Ông cho biết: “Kênh này cho phép các tổ chức tài chính cung cấp thông tin chi tiết và thông tin tình báo mà chúng tôi với tư cách là một nền tảng có thể không và thường không thấy được từ hoạt động lừa đảo có thể đang diễn ra trên các dịch vụ của các tổ chức tài chính đó”.

Meta cung cấp danh sách các tên miền đã chặn cho các đối tác khác và sẽ sớm cung cấp cho nền tảng Fire quyền truy cập vào hệ thống trao đổi mối đe dọa, được công ty sử dụng để phát hiện các tín hiệu liên quan đến các hoạt động gây ảnh hưởng xấu, lạm dụng trẻ em và các hoạt động tội phạm khác trên nền tảng của mình.

“Những kẻ lừa đảo sẽ không dừng hoạt động của chúng. Một khi chúng tôi đã chặn chúng, chúng sẽ tìm cách mới để quay lại, cách mới để vượt qua hàng phòng thủ của chúng tôi, đó là lý do tại sao việc tiếp tục chia sẻ thông tin như thế này lại quan trọng đến vậy”, ông nói.