JAKARTA – Platform komunikasi Discord menghadapi sorotan setelah bug pada sistem moderasi berbasis kecerdasan buatan (AI) memicu pemblokiran ribuan akun secara keliru. Kesalahan tersebut tidak hanya merugikan pengguna, tetapi juga memunculkan kembali perdebatan mengenai keandalan AI dalam mengawasi konten digital.
Kasus ini bermula ketika pengguna media sosial X dengan akun tallcowyt mengungkap dugaan kesalahan pada sistem moderasi Discord. Unggahan itu kemudian menarik perhatian komunitas karena banyak pengguna lain mengaku mengalami pemblokiran meski hanya membagikan gambar yang sama sekali tidak melanggar aturan.
Selanjutnya, Discord melakukan investigasi internal. Hasil penyelidikan menunjukkan adanya bug yang mengganggu mekanisme moderasi otomatis. Perusahaan pun segera memperbaiki sistem dan mulai memulihkan akun yang terdampak.
AI Keliru Mengenali Gambar Biasa
Menurut laporan yang beredar, sistem AI Discord menganggap gambar berpola kotak-kotak sebagai konten berbahaya. Akibatnya, sistem menjatuhkan pemblokiran permanen kepada sejumlah pengguna yang hanya mengunggah gambar dari game Minecraft, papan catur, atau ilustrasi dengan pola serupa.
Kesalahan tersebut memicu gelombang kritik dari komunitas. Banyak pengguna mempertanyakan akurasi AI karena sistem gagal membedakan gambar biasa dengan konten yang benar-benar melanggar kebijakan platform.
Discord Paparkan Mekanisme Moderasi
Menanggapi kritik tersebut, Discord menjelaskan bahwa sistem moderasi bekerja dengan mencocokkan setiap unggahan dengan basis data materi berbahaya yang sudah dikenal.
“Sistem kami menandai konten dengan mencocokkannya dengan materi berbahaya yang diketahui, pencocokan kesamaan dapat menghasilkan positif palsu, anggota tim kami selalu meninjau konten yang ditandai sebelum tindakan apa pun diambil,” tulis Discord melalui akun resminya di X.
Discord menegaskan bahwa tim internal selalu memeriksa konten yang terindikasi bermasalah sebelum mengambil tindakan. Namun, bug yang muncul justru mengganggu tahapan pemeriksaan tersebut.
Bug Langsung Memicu Pemblokiran
Discord menjelaskan bahwa sistem seharusnya hanya menghentikan sementara unggahan selama proses peninjauan berlangsung. Namun, bug membuat sistem langsung mengeluarkan sanksi pemblokiran akun.
“Kami memiliki bug yang malah mengeluarkan pemblokiran. Bug yang sama mencegah pemblokiran dicabut secara otomatis,” kata pihak Discord.
Akibatnya, banyak pengguna kehilangan akses ke akun mereka meski tidak pernah melanggar aturan komunitas.
Lebih dari 8.000 Akun Terdampak
Discord mencatat sekitar 8.200 akun terdampak sejak Mei 2026 hingga pekan lalu. Selain itu, sekitar 200 akun lain ikut mengalami masalah yang sama pada akhir pekan lalu.
Setelah memperbaiki bug tersebut, perusahaan menyatakan telah mengembalikan akses seluruh akun yang terdampak.
“Kami telah mencabut pemblokiran semua orang yang terpengaruh oleh bug ini.”
Meski demikian, Discord mengakui bahwa perusahaan terlambat menemukan sumber masalah.
“Seharusnya kami bisa mendeteksi ini lebih cepat. Kami sedang berupaya meningkatkan pengamanan dan memastikan sistem keamanan kami tidak menghukum orang yang tidak melakukan kesalahan apa pun,” lanjut Discord.
Pengguna Masih Menunggu Pemulihan
Di sisi lain, sejumlah pengguna di media sosial X masih mengaku belum dapat mengakses kembali akun mereka. Karena itu, mereka meminta Discord mempercepat proses pemulihan sekaligus memberikan kepastian mengenai status akun masing-masing.
Bahkan, Community Notes pada salah satu unggahan Discord menyebut klaim perusahaan tentang pemulihan seluruh akun belum sepenuhnya sesuai dengan kondisi yang dialami pengguna.
Insiden Jadi Evaluasi Penggunaan AI
Kasus ini kembali mengingatkan perusahaan teknologi agar tidak sepenuhnya mengandalkan AI dalam mengambil keputusan penting. AI memang mampu mempercepat proses moderasi jutaan unggahan setiap hari. Namun, kesalahan algoritma dapat merugikan pengguna yang sama sekali tidak melakukan pelanggaran.
Oleh karena itu, Discord berkomitmen meningkatkan akurasi sistem, memperkuat pengawasan tim peninjau, serta mempercepat proses evaluasi agar bug serupa tidak kembali memicu pemblokiran akun secara keliru di masa mendatang.(Tim)
