Bisakah Deepfake Fool Pengenalan Wajah? Sebuah Studi Baru Mengatakan Ya!

Deepfake dan video yang dihasilkan AI akan tetap ada. Tetapi selama beberapa tahun terakhir, mereka telah tumbuh dalam kualitas dan kuantitas, membuat banyak orang khawatir tentang keamanan nasional dan privasi pribadi.

Namun, tidak peduli seberapa keras pengguna online anonim mencoba membuat video palsu mereka realistis, mereka tidak akan pernah bisa melewati perangkat lunak pengenalan wajah canggih. Sampai sekarang.

Membodohi API Pengenalan Wajah

Para peneliti di Universitas Sungkyunkwan di Suwon, Korea Selatan, menguji kualitas teknologi deepfake saat ini. Mereka menguji Amazon dan Microsoft API menggunakan open-source dan perangkat lunak penghasil video deepfake yang umum digunakan untuk melihat seberapa baik kinerjanya.

Para peneliti menggunakan wajah selebriti Hollywood. Untuk membuat deepfake yang solid, perangkat lunak membutuhkan banyak gambar berkualitas tinggi dari berbagai sudut dari orang yang sama, yang jauh lebih mudah didapat dari selebritas daripada biasa rakyat.

Para peneliti juga memutuskan untuk menggunakan Microsoft dan API Amazon sebagai tolok ukur untuk studi mereka karena kedua perusahaan menawarkan layanan pengenalan wajah selebriti. Mereka menggunakan kumpulan data yang tersedia untuk umum dan membuat lebih dari 8.000 deepfake. Dari setiap video deepfake, mereka mengekstrak beberapa foto wajah dan mengirimkannya ke API yang dimaksud.

Dengan Layanan Kognitif Azure Microsoft, para peneliti dapat menipu sistem sebanyak 78 persen menggunakan deepfake. Hasil Amazon sedikit lebih baik, dengan 68 persen wajah yang dikirimkan diidentifikasi sebagai wajah asli.

Bagaimana Dengan Detektor Deepfake?

Detektor deepfake bekerja kurang lebih dengan cara yang sama seperti deepfake. Detektor adalah perangkat lunak yang dilatih menggunakan model pembelajaran mesin tentang cara mendeteksi video deepfake.

Tetapi alih-alih berfokus pada pembuatan video hiper-realistis untuk mengelabui detektor, deepfake sekarang dapat menyertakan contoh permusuhan di setiap frame untuk membingungkan sistem AI. Faktanya, serangan deepfake jenis ini memiliki tingkat keberhasilan yang berkisar dari 78 hingga 99 persen.

Ini Semakin Buruk

Deepfake adalah aplikasi pembelajaran mesin. Untuk membuat satu yang bahkan jauh meyakinkan, Anda memerlukan ratusan gambar wajah orang yang sama dari sudut yang berbeda dan menampilkan berbagai emosi.

Karena kebutuhan akan data dalam jumlah besar, orang akan berpikir bahwa hanya orang-orang dengan kehadiran online yang besar yang berisiko, seperti selebriti dan politisi. Tapi itu tidak lagi terjadi.

Menurut Deeptrace, jumlah deepfake online meningkat 330 persen dalam waktu kurang dari setahun—dari Oktober 2019 hingga Juni 2020. Belum lagi, perangkat lunak dan algoritme yang digunakan pembuat deepfake menjadi lebih kuat dan lebih mudah tersedia dan dapat diakses.

Siapa yang Berisiko Deepfake?

Ketika deepfake pertama kali menjadi arus utama, yang utama kekhawatiran adalah untuk privasi dan keamanan nasional. Orang-orang khawatir bahwa rekaman video politisi dan pejabat pemerintah tidak dapat dipercaya lagi.

Tetapi meskipun tidak bertanggung jawab untuk mengabaikan pose deepfake risiko keamanan, beberapa survei menemukan bahwa pembuat deepfake belum begitu tertarik untuk mengganggu politik. Mayoritas video deepfake online dapat dibagi menjadi dua kategori: video lucu wawancara selebriti, dan film serta materi pornografi.

Sementara penelitian baru-baru ini dilakukan menggunakan wajah selebriti untuk memastikan deepfake berkualitas tinggi untuk mengelabui API, itu tidak berarti Anda tidak dapat membuat deepfake dengan lebih sedikit data. Tentu, mereka mungkin tidak memiliki peluang untuk membodohi sistem pengenalan wajah yang canggih, tetapi mereka dapat cukup meyakinkan untuk mengelabui orang lain.

Saat ini, deepfake siapa pun dengan kehadiran sosial dapat dibuat dengan meyakinkan. Yang mereka butuhkan hanyalah beberapa foto Anda dan mungkin video tempat Anda muncul. Deepfake yang dihasilkan mungkin berkualitas rendah, tetapi masih bisa dilakukan dan dapat merusak.

Masa Depan Masih Belum Diketahui

Ada banyak prediksi yang kontradiktif mengenai keadaan deepfake, karena mereka tidak akan hilang dalam waktu dekat.

Beberapa mengharapkan masa depan dunia maya apokaliptik di mana Anda tidak dapat mempercayai rekaman apa pun yang Anda temukan online. Yang lain lebih optimis, membandingkan deepfake dengan animasi dan mengatakan itu mungkin memiliki masa depan dalam produksi konten.

Cara Melindungi Diri Dari Video Deepfake

Deepfake menjadi lebih umum. Inilah cara mereka dapat mengancam privasi online Anda dan cara menghindarinya.

Baca Selanjutnya

Tentang Penulis