Metamedia sosial, termasuk Facebook, seringkali dipenuhi dengan konten kekerasan. Pada kuartal pertama (Q1) tahun 2022, jumlah konten yang dihapus pasti berlipat ganda.
Menurut laporan yang dibagikan oleh perusahaan, Meta menghapus 21,7 juta konten karena melanggar aturannya terkait kekerasan dan hasutan untuk melakukan kekerasan pada kuartal pertama 2022, naik dari 12,4 juta pada kuartal sebelumnya.
Ada juga 1,8 miliar spam, naik dari 1,2 miliar pada Q4 2021, karena tindakan yang diambil terhadap sejumlah kecil pengguna yang melanggar.
Ada juga penghapusan di Instagram untuk kuartal ini, tetapi hanya sebagian kecil. Meta menghapus 2,7 juta postingan karena melanggar aturan kekerasannya, naik dari 2,6 juta pada Q4 2021.
Dalam laporan tersebut, Meta mengaitkan peningkatan penghapusan konten dengan perluasan teknologi deteksi proaktif. Lebih dari 98 persen postingan dihapus sebelum pengguna melaporkannya.
"Selama bertahun-tahun kami telah berinvestasi dalam membangun teknologi untuk meningkatkan cara kami mengenali konten yang merugikan. Berkat perkembangan ini, kami tahu bahwa kami akan membuat kesalahan, jadi selama ini penting juga untuk berinvestasi dalam meningkatkan kebijakan kami. dan penegakannya, serta alat yang kami sediakan untuk pengguna,” kutip Meta Online dari Kami, Rabu, 18 Mei, di situs resminya.
Laporan itu muncul saat Meta menghadapi tinjauan tentang waktu responsnya setelah penembakan massal baru-baru ini di Buffalo, New York, Amerika Serikat.
Rekaman langsung dari penembakan itu beredar di Facebook dan platform lain, tetapi perusahaan itu lambat untuk menghapus semuanya. Salinan yang diposting ke Facebook dibagikan lebih dari 46.000 kali sebelum dihapus dalam waktu sembilan jam.
"Salah satu tantangan yang kami lihat dengan acara seperti ini adalah orang-orang membuat konten baru, postingan baru, dan tautan eksternal baru untuk mencoba mengelak dari kebijakan kami [dan] aplikasi kami," kata Guy Rosen, Wakil Presiden Integrity Meta.
"Seperti halnya insiden apa pun, kami akan terus mempelajari cara meningkatkan proses dan sistem kami untuk memastikan kami dapat mengidentifikasi lebih cepat di masa mendatang bahwa kami dapat menghapus konten yang menyinggung."
Namun, seperti yang dilaporkan Engadget, Meta juga membagikan statistik terbaru tentang konten yang dihapus karena kesalahan. Untuk konten kekerasan, perusahaan mengatakan akhirnya memulihkan 756.000 posting Facebook yang dilanjutkan setelah awalnya dihapus.
Raksasa media sosial itu juga menyatakan bahwa saat ini sedang mengembangkan langkah-langkah kuat seputar bug, tetapi tidak mengatakan apa yang akan diukur setelah konten yang diusulkan dipulihkan.
