Các ứng dụng hẹn hò trực tuyến đang tăng cường giải pháp chống lừa đảo bằng AI

Cũng như Tinder, Bumble là ứng dụng hẹn hò, kết bạn trực tuyến đang có sức ảnh hưởng lớn tới giới trẻ tại nhiều quốc gia. Ứng dụng này đang thực hiện các biện pháp nhằm giúp thành viên dễ dàng báo cáo những tài khoản, hình ảnh giả mạo được tạo ra có liên quan đến AI.

Bumble đang yêu cầu người dùng giúp ứng dụng hẹn hò này "dọn dẹp" các hồ sơ do AI tạo ra. Vào thứ Ba tuần này, công ty đã giới thiệu tùy chọn mới cho phép thành viên báo cáo hồ sơ nếu họ nghi ngờ ai đó có thể đang sử dụng ảnh và video do AI tạo ra với các mục đích đen tối.

Bây giờ, khi người dùng muốn báo cáo một hồ sơ, họ có thể chọn "Hồ sơ giả" rồi chọn tùy chọn "Sử dụng ảnh hoặc video do AI tạo ra". Các tùy chọn báo cáo khác bao gồm nội dung không phù hợp, người dùng chưa đủ tuổi, lừa đảo và sử dụng ảnh của người khác,...

Tùy chọn báo cáo mới của Bumble ra mắt vào thời điểm mà ảnh do AI tạo ra trên các ứng dụng hẹn hò rất phổ biến và thường được sử dụng để lừa đảo hoặc đánh lừa người khác. Bumble hy vọng tùy chọn báo cáo mới sẽ giúp ngăn chặn mọi người không sử dụng AI để gian dối. 

Phó Chủ tịch sản phẩm của Bumble là Risa Stein cho biết trong một tuyên bố chính thức: “Một phần quan trọng trong việc tạo ra không gian kết nối trực tuyến an toàn là loại bỏ bất kỳ yếu tố nào gây hiểu lầm hoặc nguy hiểm cho các thành viên. Chúng tôi cam kết liên tục cải thiện công nghệ của mình để đảm bảo rằng Bumble là một môi trường hẹn hò an toàn và đáng tin cậy. Bằng cách giới thiệu tùy chọn báo cáo mới này, chúng tôi có thể hiểu rõ hơn về cách những kẻ xấu và hồ sơ giả mạo đang sử dụng AI một cách không chân thực, từ đó giúp cộng đồng của chúng tôi cảm thấy tự tin khi tạo kết nối".

Theo khảo sát người dùng Bumble, 71% người trả lời thuộc thế hệ Z và Millennials của dịch vụ này muốn thấy giới hạn sử dụng nội dung do AI tạo ra trên các ứng dụng hẹn hò. 71% khác xem ảnh do AI tạo ra về con người ở những nơi họ chưa từng đến hoặc những trải nghiệm họ chưa từng thực hiện….như một hình thức giải trí. Việc phân biệt được đâu là ảnh do AI tạo ra, đâu là ảnh thực tế cũng sẽ giúp người dùng có được góc nhìn chính xác về con người, về nơi chốn và các sự việc diễn ra.

Trước khi đưa ra tùy chọn báo cáo mới, Bumble cũng đã ra mắt công cụ AI có tên là “Deception Detector ”, sử dụng AI và kiểm duyệt của con người để phát hiện và xóa hồ sơ giả mạo, kẻ gửi thư rác và kẻ lừa đảo. Kể từ khi ra mắt tính năng này vào tháng 2, Bumble tuyên bố các báo cáo của thành viên về thư rác, lừa đảo và hồ sơ giả mạo đã giảm 45%. Bumble cũng có công cụ “Private Detector ” do AI hỗ trợ, tự động làm mờ ảnh khỏa thân.    

Trong khi Bumble đang đấu tranh với các hồ sơ do AI tạo ra, người sáng lập công ty là Whitney Wolfe Herd cũng có một số ý tưởng thú vị cho công nghệ này. Trong một cuộc phỏng vấn, Herd cho biết tương lai của hẹn hò trực tuyến có thể là nơi "người hướng dẫn hẹn hò" hoặc trợ lý AI sẽ thay mặt bạn đi hẹn hò hàng trăm lần để tìm ra đối tượng phù hợp nhất.

Thực tế, các hồ sơ giả, tài khoản giả mạo có hình ảnh đại diện được tạo ra bởi AI cũng có thể lừa đảo mọi người rất nhiều tiền. Năm 2022, Ủy ban Thương mại Liên bang Mỹ nhận được báo cáo về lừa đảo tình cảm từ gần 70.000 người và tổng thiệt hại của họ do những vụ lừa đảo đó lên tới 1,3 tỷ USD. Nhiều ứng dụng hẹn hò trực tuyến lập tức thực hiện các biện pháp an toàn để bảo vệ người dùng khỏi các vụ lừa đảo. Việc sử dụng AI để tạo hồ sơ giả hiện đang là mối đe dọa mới nhất mà họ phải chống lại. Ứng dụng cạnh tranh của Bumble là Tinder cũng đã ra mắt cách tiếp cận riêng để xác minh hồ sơ người dùng tại Mỹ và Vương quốc Anh trong năm nay.