Para insinyur pertama kali memperhatikan masalah ini pada Oktober lalu ketika gelombang misinformasi mulai mengalir melalui News Feed. Alih-alih menekan postingan dari pelanggar kesalahan informasi berulang, Umpan Berita malah memberikan distribusi posting yang meningkatkan tampilan sebanyak 30 persen secara global.

Sebelum menemukan akar masalahnya, mereka melihat lonjakan misinformasi mereda dalam beberapa pekan kemudian. Namun, itu terjadi lagi sampai masalah diperbaiki pada 11 Maret. Selain postingan yang ditandai oleh pemeriksa fakta, penyelidikan internal menemukan selama periode bug, sistem Facebook gagal menurunkan konten pornografi, kekerasan, dan media pemerintah Rusia.

Masalah ini secara internal ditetapkan sebagai SEV tingkat satu atau acara situs label yang disediakan untuk krisis teknis berprioritas tinggi, seperti pemblokiran Facebook dan Instagram yang sedang berlangsung di Rusia.

Juru bicara Meta, Joe Osborne, mengonfirmasi insiden itu. Dia mengatakan perusahaan mendeteksi inkonsistensi dalam penurunan peringkat pada lima kesempatan terpisah yang berkorelasi dengan peningkatan kecil sementara pada metrik internal. Dokumen internal mengatakan masalah teknis pertama kali diperkenalkan pada 2019 tetapi tidak berdampak nyata hingga Oktober 2021.

“Kami melacak akar penyebabnya ke bug perangkat lunak dan menerapkan perbaikan yang diperlukan. Bug tersebut belum memiliki dampak jangka panjang yang berarti pada metrik kami dan tidak berlaku untuk konten yang memenuhi ambang penghapusan sistemnya,” kata Osborne, dilansir The Verge, Jumat (1/4/2022).

Selama bertahun-tahun, Facebook telah menggembar-gemborkan penurunan peringkat sebagai cara untuk meningkatkan kualitas Umpan Berita dan terus memperluas jenis konten yang dijalankan oleh sistem otomatisnya. Penurunan peringkat telah digunakan dalam menanggapi perang dan cerita politik kontroversial yang memicu kekhawatiran larangan dan seruan.

Penurunan peringkat tidak hanya menekan konten garis batas yang hampir melanggar aturannya, tetapi juga konten yang dicurigai sistem Artificial Intelligence (AI) yang perlu ditinjau lebih lanjut oleh manusia. Sementara itu, para pemimpin Facebook secara teratur menyombongkan diri tentang sistem AI mereka menjadi lebih baik setiap tahun dalam mendeteksi konten secara proaktif seperti ujaran kebencian.

Tahun lalu, Facebook mengatakan akan mulai menurunkan peringkat semua konten politik di News Feed sebagai bagian dari dorongan CEO Mark Zuckerberg untuk mengembalikan aplikasi Facebook kembali ke lebih ringan.

Eks anggota tim Civic Integrity Facebook Sahar Massachi mengatakan insiden tersebut menunjukkan alasan transparansi lebih dibutuhkan dalam platform internet dan algoritme yang mereka gunakan. “Dalam sistem besar yang kompleks seperti ini, bug tidak dapat dihindari dan dapat dipahami. Tetapi apa yang terjadi ketika platform sosial yang kuat memiliki salah satu kesalahan yang tidak disengaja ini? Bagaimana kita bisa tahu? Kami membutuhkan transparansi nyata untuk membangun sistem akuntabilitas yang berkelanjutan sehingga kami dapat membantu mereka mengatasi masalah ini dengan cepat,” katanya.