Facebook Lacak Gambar Penyebar Kebencian Pakai AI

122
Facebook Lacak Gambar Penyebar Kebencian Pakai AI

DILIPUTNEWS. COM, JAKARTA – Tim moderator Faccebook tidak bisa meninjau semua gambar yang ke media sosial dengan pengguna lebih dari 2 miliar itu. Facebook membuat kecerdasan# buatan untuk memeriksa apakah sebuah gambar pantas tampil di layanan mereka.

Dalam sebuah blog post, Facebook menyebutkan bahwa AI yang dinamai Rosetta ini menggunakan pembelajaran mesin untuk mengidentifikasi teks pada gambar dan video sebelum mentranskrip tulisan itu ke bahasa yang bisa dimengerti oleh mesin.

Khususnya, Facebook menggunakan AI ini untuk mentranskrip teks pada meme, lapor The Verge. AI untuk mentranskrip teks bukanlah sesuatu yang baru.

Namun, mengingat banyaknya pengguna Facebook, gambar yang diunggah ke platform itu pun sangat beragam. Ini akan menjadi tantangan sendiri bagi perusahaan media sosial tersebut.

Rosetta disebutkan sudah aktif, dan kini memindai teks pada satu miliar gambar dan frame video di Facebook dan Instagram setiap harinya.

Sekarang, masih belum diketahui apa yang akan Facebook lakukan dengan data yang mereka dapatkan dari Rosetta. Informasi itu bisa digunakan untuk memperkuat fitur utama mereka seperti pencarian gambar.

Tapi, Facebook tampaknya memiliki tujuan yang lebih besar untuk Rosetta. Misalnya, menentukan konten apa yang menarik untuk ditampilkan di lini masa pengguna.

Selain itu, Facebook juga bisa menggunakan AI itu untuk membedakan gambar meme untuk melucu dengan gambar meme yang digunakan untuk menyebarkan ujaran kebencian.

Facebook menyebutkan, transkrip teks dan pembelajaran mesin kini digunakan untuk “secara otomatis mengidentifikasi konten yang melanggar peraturan ujaran kebencian kami” dan mereka melakukan ini dalam beberapa bahasa sekaligus.

Mengingat Facebook memang memiliki masalah terkait penyebaran ujaran kebencian, seperti yang terjadi di Myanmar, keberadaan Rosetta bisa membantu mereka mengatasi masalah tersebut