Instagram Gunakan AI untuk Deteksi Intimidasi Online

Instagram mengumumkan pada Selasa (9/10) bahwa mereka telah mulai menerapkan teknologi baru yang dapat mendeteksi intimidasi online di foto, sebuah langkah yang menggarisbawahi upaya perusahaan teknologi untuk menggunakan kecerdasan buatan (AI) untuk memoderasi platformnya.

“Sementara sebagian besar foto yang dibagikan di Instagram positif dan membangkitkan semangat, terkadang foto yang dibagikan tidak baik atau tidak diinginkan,” kata kepala baru Instagram, Adam Mosseri, dalam siaran pers. “Kami sekarang menggunakan teknologi pembelajaran mesin untuk secara proaktif mendeteksi intimidasi di foto dan teks mereka dan mengirimkannya ke tim Operasi Komunitas kami untuk ditinjau.”

Perusahaan induk Instagram, Facebook, juga meluncurkan alat anti-intimidasinya sendiri bulan ini. Fitur ini memungkinkan pengguna untuk menghapus “komentar troll” dari feed mereka, dengan opsi untuk menghapus atau menyembunyikan komentar “secara massal” dan melaporkan komentar atas nama korban. Perusahaan media sosial tersebut mendapat tekanan untuk mengelola pelecehan dan kebencian dengan lebih baik, tantangan yang sulit mengingat banyak dari mereka memiliki jutaan pengguna. Facebook telah mempekerjakan ribuan orang untuk melihat konten yang mungkin melanggar aturannya.

Perusahaan teknologi juga telah berinvestasi dalam teknologi khusus untuk memoderasi komentar dan postingan, yang sangat sulit jika menyangkut foto. Facebook juga menggunakan teknologi khusus untuk mendeteksi ujaran kebencian dalam gambar atau orang yang memposting materi yang tidak pantas. Fiona Brown, yang memimpin komunikasi di Instagram, mengatakan fitur anti-intimidasi baru menggunakan kecerdasan buatan untuk mengontekstualisasikan gambar itu sendiri dan menandainya sebagai pelecehan.

“Beberapa sinyal diperlukan dari foto itu sendiri, dan jika ada keterangan, dari keterangan itu juga.” jelas Brown. “Contoh taktik intimidasi yang diakui oleh teknologi foto adalah membandingkan, menilai dan menilai gambar dan keterangan, mis. B. Gambar layar terpisah membandingkan satu orang dengan orang lain secara negatif.” lanjutnya.

Pembaruan pada teknologi platform bertujuan untuk mendeteksi dan memblokir intimidasi dengan menargetkan posting di aplikasi di mana “banyak orang mengalami atau mengamati intimidasi tetapi tidak melaporkannya.”

Mosseri juga mengumumkan perluasan “Filter Komentar Bully” perusahaan untuk sekarang dapat mencari komentar yang dibuat selama video langsung, dan fitur baru yang disebut Kindness Camera Effect, yang dirancang untuk melawan penyebaran negatif di platform.

“Meskipun menghentikan pengganggu itu penting, kita juga perlu berbuat lebih banyak untuk merayakan dan menginspirasi kebaikan di Instagram,” kata Mosseri.

Bekerja sama dengan Maddie Ziegler, penari terkenal dan advokat anti-intimidasi, Kindness Camera Effect mendorong pengguna untuk mendukung teman mereka melalui komentar ramah dan filter overlay. Sementara pengguna yang mengikuti Ziegler memiliki fitur yang diinstal secara otomatis, pengguna lain memiliki opsi untuk “mencoba” untuk menambahkannya ke fitur kamera dalam aplikasi mereka.

“Dalam mode selfie, hati akan memenuhi layar – dan Anda akan diminta untuk menandai teman yang ingin Anda dukung,” jelas Mosseri. “Teman Anda akan menerima pemberitahuan bahwa Anda menyebutkannya di story Anda. Mereka dapat membagikannya dalam cerita mereka sendiri atau menggunakan efek kamera untuk berbagi kebaikan dengan orang lain.”

Mosseri, yang sebelumnya menjalankan news feed Facebook, diumumkan sebagai kepala Instagram pada awal Oktober. Pendiri Instagram Kevin Systrom dan Mike Krieger mengumumkan bahwa mereka meninggalkan perusahaan pada bulan September.

Leave a Reply

Your email address will not be published.