Twitter Mengungkap Pemotongan AI Karena Bias Ras dan Gender

Pertama kali kami mendengar gagasan bahwa algoritma pemangkasan gambar Twitter mungkin memiliki beberapa bias adalah pada bulan September 2020. Insinyur kriptografi Tony Arcieri mengunggah dua gambar yang menampilkan Pemimpin Mayoritas Senat Mitch McConnell dan mantan Presiden Barack Obama, dan AI dipotong ke wajah McConnell dua kali.

Ketika kontroversi akhirnya sampai ke orang-orang di Twitter, perusahaan tersebut berjanji untuk menganalisis modelnya. Akhirnya, kita bisa membaca semua temuan itu.

Twitter Membagikan Hasil Analisis Algoritmanya

Di awal Mei, Twitter akhirnya meluncurkan pratinjau gambar ukuran penuh pada timeline selulernya. Sebuah postingan di blog Twitter mengungkapkan bahwa aplikasi tersebut memangkas algoritme pemangkasan gambarnya setelah analisis menunjukkan bahwa aplikasi tersebut memiliki bias berdasarkan ras dan gender.

Platform tersebut mulai menggunakan algoritme saliency pada tahun 2018 untuk memotong gambarnya. Twitter mengatakan bahwa model saliency dilatih pada data pelacakan mata manusia, yang kemudian digunakan oleh algoritme untuk memperkirakan subjek / elemen apa dalam gambar yang menurutnya paling penting bagi sebagian besar orang orang-orang.

Algoritme kemudian akan menghasilkan skor saliency untuk semua bagian gambar sebelum memilih titik dengan skor tertinggi untuk menjadi pusat tanaman.

Setelah menjalankan tes kuantitatif untuk memeriksa potensi bias, tim menemukan bahwa algoritma saliency tampaknya lebih menyukai wanita daripada pria, dan individu kulit putih daripada individu kulit hitam.

Twitter juga menguji algoritme untuk "tatapan laki-laki", tetapi tidak ada bukti bias objektivitas yang ditemukan.

Bahkan jika algoritme arti-penting disesuaikan untuk mencerminkan kesetaraan sempurna di seluruh subkelompok ras dan gender, kami [Twitter] tetap prihatin oleh kerugian representasi dari algoritme otomatis ketika orang tidak diizinkan untuk menampilkan diri mereka seperti yang mereka inginkan di peron. Saliency juga memiliki potensi bahaya lain di luar cakupan analisis ini, termasuk ketidakpekaan terhadap nuansa budaya.

Dalam mempertimbangkan pengorbanan antara kecepatan dan konsistensi pemangkasan otomatis serta risikonya, Twitter mengatakan timnya menyadari bahwa cara memangkas gambar adalah keputusan yang paling baik dibuat oleh orang — bukan algoritma.

Terkait: Tren Teknologi Yang Sudah Mengubah Masa Depan

Twitter Menghapus Pemotongan Gambar Otomatis

Twitter tidak lagi menggunakan algoritme saliency, dan sekarang menampilkan foto rasio aspek standar secara penuh di iOS dan Android. Saat membuat tweet, Anda akan menemukan bahwa pembaruan baru juga menyertakan pratinjau sebenarnya dari gambar yang diunggah, sehingga Anda tahu bagaimana semuanya akan terlihat setelah diterbitkan.

Jika Anda tertarik untuk membaca makalah akademis studi ini, Anda dapat menemukannya di arXiv.org. Anda juga dapat menemukan kode Twitter untuk analisis GitHub.

Cara Mengunggah dan Melihat Gambar 4K di Twitter

Aplikasi Twitter sekarang memungkinkan Anda untuk mengunggah dan melihat gambar dalam 4K. Berikut cara mengubah pengaturan Anda.

Baca Selanjutnya

Tentang Penulis