Reels là tính năng trên nền tảng mạng xã hội cho phép người dùng chia sẻ video ngắn, tương tự như TikTok. Tuy nhiên, trong những ngày vừa qua, tính năng này có vẻ như đang gặp rắc rối khi bị nhiều người dùng phản ánh về việc có quá nhiều nội dung bạo lực, phản cảm xuất hiện trên nguồn cấp thông tin Reels (những nội dung thường được đề xuất dựa trên những sở thích hoặc thói quen cá nhân của người dùng).
Trên diễn đàn Internet Reddit tràn ngập những lời phàn nàn về vấn đề kể trên. Một người dùng trên subreddit đã viết: "Tôi vừa thấy ít nhất 10 xác chết trên video của mình."
Người dùng cũng chia sẻ trải nghiệm về một video về một người đàn ông bị voi đè bẹp. Người khác lại đánh dấu cảnh quay một người đàn ông bị trực thăng cắt thành nhiều mảnh và một video trong đó "một gã nhúng mặt vào dầu sôi". Một số người dùng cũng chia sẻ về một nội dung trên Reels của họ lại có nội dung nhạy cảm. Nhiều nội dung bạo lực khác cũng được người dùng phản ánh nhìn thấy trên Reels bao gồm: một người đàn ông bị thiêu sống; một người đàn ông bắn một nhân viên thu ngân ở cự ly gần, một con lợn bị đánh bằng cờ lê...
Một người dùng Reddit khác viết: "Trong 24 giờ qua, có vẻ như thuật toán của Instagram đã bị phá vỡ. Nguồn cấp dữ liệu Reels của tôi hoàn toàn chứa đầy các nội dung bạo lực".
Một số người dùng khẳng định họ đã nhìn thấy những nội dung như vậy, ngay cả khi chế độ “Kiểm soát nội dung nhạy cảm” của Instagram được bật ở mức kiểm duyệt cao nhất.
Theo chính sách của Meta, công ty nỗ lực bảo vệ người dùng khỏi những hình ảnh gây khó chịu và xóa nội dung có tính bạo lực hoặc đặc biệt phản cảm.
Nội dung bị cấm bao gồm “video mô tả cảnh chặt xác, nội tạng lộ ra ngoài hoặc cơ thể bị cháy đen”, cũng như “những lời nhận xét tàn bạo đối với hình ảnh mô tả sự đau khổ của con người và động vật”.
Tuy nhiên, Meta cho biết họ cho phép một số nội dung "phản cảm" nếu nó giúp người dùng lên án và nâng cao nhận thức về các vấn đề quan trọng như vi phạm nhân quyền, xung đột vũ trang hoặc hành động khủng bố. Những nội dung như vậy có thể đi kèm với các hạn chế, chẳng hạn như nhãn cảnh báo.
Sau hàng loạt phản ánh của người dùng, người phát ngôn của Meta, công ty mẹ của Instagram và Facebook cho biết: "Chúng tôi đã sửa lỗi khiến một số người dùng thấy nội dung trên nguồn cấp dữ liệu Instagram Reels của họ mà không nên được đề xuất. Chúng tôi xin lỗi vì lỗi này."
Tại Vương quốc Anh, Đạo luật An toàn Trực tuyến yêu cầu các nền tảng truyền thông xã hội phải thực hiện các biện pháp để ngăn chặn những người dưới 18 tuổi xem các nội dung có hại cho họ như bạo lực, thù hận hoặc lạm dụng, bao gồm cả việc định cấu hình thuật toán của họ để lọc ra những nội dung như vậy.
Trước sự cố với Reels vừa xảy ra vừa qua, một nhóm chiến dịch về an toàn internet đã yêu cầu Meta "giải thích đầy đủ" về những gì đã xảy ra với thuật toán của Instagram.
Quỹ Molly Rose, được thành lập bởi gia đình của thiếu nữ người Anh Molly Russell (người đã tự tử vào năm 2017 sau khi xem nội dung gây đau thương trên Instagram), cho biết Meta cần phải trả lời câu hỏi tại sao nội dung phản cảm như vậy lại xuất hiện trên nền tảng này ngay từ đầu. Andy Burrows, Giám đốc điều hành của tổ chức cho biết: "Những thay đổi của Meta có nghĩa là loại nội dung này sẽ được cung cấp miễn phí hơn và thường xuyên được đề xuất xuất hiện trong nguồn cấp dữ liệu của người dùng hơn".
