Meta, TikTok cam kết tham gia chương trình chống nội dung tiêu cực "tự làm hại bản thân"

Được biết, cho tới thời điểm hiện tại, Thrive đã có sự tham gia của Meta, Snap và TikTok cùng một số thành viên khác. Chương trình sẽ cung cấp các phương pháp để các nền tảng chia sẻ các dấu vân tay kỹ thuật số (hàm băm) để phát hiện dấu hiệu của những nội dung liên quan tự tử và tự làm hại bản thân, từ đó giúp các mạng xã hội kiểm duyệt và ngăn chặn các nội dung này được lan truyền. Các hàm băm sẽ chỉ liên kết với nội dung và không bao gồm thông tin nhận dạng về tài khoản hoặc cá nhân.

Meta đã đóng góp cơ sở hạ tầng kỹ thuật cho Thrive, trùng khớp với cơ sở hạ tầng mà công ty đã cung cấp cho chương trình an toàn trẻ em Lantern của Tech Coalition vào tháng 11 năm ngoái.

Các thành viên Thrive sẽ có thể tổng hợp thông tin về nội dung tự gây hại và nhận cảnh báo về các nội dung có khả năng vi phạm chính sách của mình hay không. Từ đó, họ sẽ có thể tự đánh giá xem có nên hành động (cảnh báo hoặc xóa bỏ).

Giám đốc Thrive, Dan Reidenberg, cũng là Giám đốc điều hành tại Hội đồng Quốc gia về Phòng chống Tự tử, sẽ giám sát các khía cạnh hoạt động của Thrive, tạo điều kiện và giám sát các hoạt động của tổ chức. Các công ty tham gia sẽ chịu trách nhiệm tải lên, xem xét và thực hiện hành động đối với bất kỳ nội dung nào được chia sẻ thông qua Thrive và đóng góp vào báo cáo thường niên của chương trình.

Kenneth Cole, người sáng lập MHC, cho biết trong một tuyên bố: "MHC rất vui mừng được làm việc với Thrive, một sự hợp tác độc đáo của các mạng xã hội có ảnh hưởng nhất để cùng nhau giải quyết các nội dung mang xu hướng tự tử và tự làm hại bản thân". "Meta, Snap và TikTok là một số đối tác ban đầu tham gia, đã cam kết tạo ra tác động lớn hơn nữa và giúp cứu sống nhiều người".

Đáng chú ý là Thrive không có X, nền tảng trước đây được gọi là Twitter — nền tảng này không có thành tích tốt nhất khi nói đến vấn đề kiểm duyệt.

Dữ liệu cho thấy X có đội ngũ kiểm duyệt ít hơn đáng kể so với các nền tảng xã hội khác, một phần là do CEO Elon Musk cắt giảm khoảng 80% kỹ sư của công ty chuyên về sự tin cậy và an toàn. Đầu năm nay, X  đã hứa  sẽ thành lập một trung tâm tin cậy và an toàn mới tại Austin, Texas (Mỹ). Nhưng công ty được cho là đã tuyển dụng ít người kiểm duyệt hơn nhiều so với dự kiến ban đầu.

Google, công ty sở hữu YouTube, cũng không phải là thành viên Thrive. YouTube đã bị chỉ trích vì không bảo vệ được người dùng khỏi nội dung tự làm hại bản thân. Một nghiên cứu vào mùa hè năm 2024 của Viện Đối thoại Chiến lược Mỹ phát hiện ra rằng YouTube dễ dàng đề xuất cho thanh thiếu niên các video khuyến khích hoặc bình thường hóa hành vi tự tử.

Điều đó không có nghĩa là Meta, Snap và TikTok đã làm tốt hơn; hàng trăm vụ kiện, bao gồm một vụ kiện gần đây do Thành phố New York đệ trình đã cáo buộc các gã khổng lồ công nghệ góp phần gây ra các cuộc khủng hoảng sức khỏe tâm thần. Trong một phán quyết mang tính bước ngoặt cách đây hai năm, một cơ quan chức năng của Anh đã phát hiện ra rằng Instagram thuộc sở hữu của Meta phải chịu trách nhiệm về vụ tự tử của một bé gái 14 tuổi sau khi em tiếp xúc với nội dung tự làm hại bản thân trên nền tảng này.

Các nghiên cứu đã bắt đầu chỉ ra mối liên hệ nhân quả giữa việc sử dụng mạng xã hội nhiều và tình trạng giảm hạnh phúc hoặc rối loạn tâm trạng, chủ yếu là trầm cảm và lo âu. Hầu hết ngụ ý rằng những người sử dụng mạng xã hội nhiều có nhiều khả năng bị trầm cảm hơn những người sử dụng ít và tự nhìn nhận bản thân theo hướng không mấy tốt đẹp — đặc biệt là ngoại hình của họ.