Meta baru-baru ini menerapkan teknologi kecerdasan buatan untuk menegakkan kebijakan akun di Facebook dan Instagram. Langkah ini bertujuan mempercepat proses moderasi konten yang melanggar aturan platform. Namun, penerapan tersebut menimbulkan keluhan dari sejumlah pengguna yang merasa akun mereka dihapus secara tidak tepat.
Pengguna yang terdampak melaporkan kesulitan dalam memulihkan akses. Proses banding yang tersedia juga sepenuhnya mengandalkan sistem AI yang sama, sehingga hasilnya sering kali tidak berubah. Situasi ini menunjukkan keterbatasan teknologi otomatis ketika menghadapi kasus yang membutuhkan penilaian konteks lebih mendalam.
Latar belakang penggunaan AI untuk moderasi berasal dari volume konten yang sangat besar di kedua platform. Tim manusia tidak mungkin menangani setiap laporan secara manual dalam waktu singkat. Meski demikian, ketergantungan berlebih pada algoritma dapat menyebabkan kesalahan klasifikasi yang merugikan pengguna biasa.
Dampak yang muncul mencakup hilangnya akses terhadap jaringan sosial dan data penting yang tersimpan di akun. Beberapa pengguna menyatakan bahwa pemulihan akun menjadi proses yang panjang dan berulang. Hal ini berpotensi menurunkan kepercayaan publik terhadap mekanisme moderasi yang diterapkan Meta.
Selain itu, pendekatan ini juga menimbulkan pertanyaan mengenai keseimbangan antara efisiensi dan akurasi. Ketika sistem AI digunakan baik untuk penghapusan maupun banding, risiko kesalahan yang sama berulang menjadi lebih tinggi. Meta perlu mempertimbangkan integrasi elemen verifikasi manusia pada tahap tertentu untuk meningkatkan keadilan proses.
Secara keseluruhan, kasus ini menggarisbawahi pentingnya penyempurnaan berkelanjutan pada model AI moderasi. Tanpa perbaikan yang memadai, platform berisiko kehilangan pengguna akibat pengalaman yang tidak memuaskan.
