Pengguna Twitter Menemukan Potensi Penyimpangan Rasial dalam Algoritme Pangkas Otomatis

Twitter mencoba menentukan mengapa fitur pratinjau fotonya menunjukkan tanda-tanda bias rasial. Beberapa pengguna menemukan bahwa wajah hitam lebih cenderung dipotong dari pratinjau foto dibandingkan dengan wajah putih.

Cacat dalam Algoritma Twitter

Saat Anda melihat gambar di Twitter, itu hanya pratinjau, Anda harus mengkliknya untuk melihat seluruh gambar. Twitter menggunakan algoritme untuk memotong foto, mendikte apa yang akan Anda lihat di pratinjau gambar.

Pada tahun 2018, Twitter mengumumkan fitur pemangkasan otomatis cerdasnya dalam sebuah posting di Blog Twitter. Fitur ini menggunakan "arti-penting" untuk mempertajam bagian paling menonjol dari foto, dan kemudian memangkas pratinjau foto yang sesuai.

Pengguna Twitter menemukan bahwa jaringan saraf platform mungkin memiliki bias rasial. Seorang pengguna memposting foto Senator AS Mitch McConnell bersama mantan Presiden Barack Obama.

Pratinjau gambar secara terang-terangan memotong wajah Obama, bahkan ketika wajahnya ditempatkan di bagian atas foto. Ketika pengguna yang sama mencoba membalikkan warna gambar, wajah Obama akhirnya muncul di pratinjau gambar.

Pengguna lain mulai melakukan eksperimen mereka sendiri. Berkali-kali, pengguna menemukan bahwa algoritme tampaknya secara konsisten lebih memilih wajah putih daripada wajah hitam.

Liz Kelley, anggota tim komunikasi Twitter, mengirimkan tweet sebagai balasan atas temuan pengguna Twitter. Dia mencatat bahwa sementara tim Twitter sudah menguji algoritme untuk bias, itu harus menyelidiki lebih lanjut.

Semua penemuan ini berasal dari Tweet pengguna tentang a Masalah panggilan zoom. Zoom terus menerus gagal mendeteksi wajah teman kulit hitamnya saat dia mencoba menggunakan latar belakang virtual. Saat pengguna beralih ke Twitter untuk memposting tangkapan layar dari masalah tersebut, Twitter memotong teman kulit hitamnya dari pratinjau gambar.

Menghapus Bias dari Twitter

Meskipun semua eksperimen ini informal, tampaknya eksperimen ini menyoroti masalah nyata. Twitter pasti harus melihat lebih dekat fitur krop otomatisnya, dan melihat apakah ia memiliki bias rasial yang sudah mendarah daging.

Meskipun demikian, algoritme pangkas otomatis Twitter bukanlah satu-satunya fitur Twitter yang dikritik. Lagi pula, banyak pengguna juga bukan penggemar algoritme platform yang secara otomatis mengatur umpan Anda.

Bagaimana (dan Mengapa) Menonaktifkan Umpan Algoritmik di Twitter, Instagram, dan Facebook

Umpan algoritmik hanya melayani jejaring sosial. Berikut cara mengubah feed kronologis di Twitter, Instagram, dan Facebook.

Tentang Penulis