Facebook memperluas penggunaan kecerdasan buatan untuk memoderasi konten yang diunggah ke platformnya untuk memastikan bahwa pedoman komunitas tidak dilanggar oleh pengguna. Perusahaan telah mengungkapkan bahwa sekarang mereka menggunakan tool kecerdasan buatan (AI) baru yang mampu secara proaktif mendeteksi dan menandai porno yang dilatari balas dendam.
Porno balas dendam dapat digambarkan sebagai foto dan video intim seseorang yang diposting tanpa persetujuan mereka. Tindakan tersebut bahkan sudah dikriminalisasi di beberapa negara dan jelas tidak diizinkan di platform media sosial. Tool AI Facebook akan memastikan bahwa tidak ada yang lolos di Facebook dan Instagram. Tidak seperti filter saat ini, tool ini akan dapat mendeteksi konten “hampir telanjang”. Semua konten yang ditandai bendera tool dikirim untuk ditinjau oleh moderator manusia.
Ini adalah perubahan signifikan pada cara penanganannya sebelumnya. Pengguna Facebook dan Instagram harus melaporkan balas dendam pornografi sendiri. “Seringkali para korban takut akan pembalasan sehingga mereka enggan melaporkan kontennya sendiri atau tidak mengetahui konten tersebut telah dibagikan,” kata kepala keamanan global Facebook Antigone Davis. Dengan demikian tool baru ini akan menghasilkan perbaikan mengapa secara otomatis menandai konten tersebut dan mengirimkannya ke moderator manusia untuk ditinjau sebelum ada orang yang melaporkannya.
Facebook telah menawarkan sedikit detail tentang bagaimana tool AI ini sebenarnya bekerja, dan sinyal apa yang diambilnya untuk menandai foto atau video sebagai pornografi balas dendam.
