Microsoft Mendistribusikan Alat Deteksi Deepfake

Mengingat betapa deepfake berpotensi merusak reputasi seseorang dan sangat sulit dikenali jika dilakukan dengan benar, itu adalah masalah keamanan utama. Sekarang, Microsoft bertujuan untuk membantu menghentikan deepfake dengan merilis alat yang dapat mendeteksinya.

Ancaman yang ditimbulkan oleh deepfakes sangat besar, hal itu disebabkannya Facebook melarang semua konten deepfake. Namun, kendala terbesar adalah bagaimana deepfakes dibuat agar terlihat meyakinkan; dengan demikian, menemukan dan mengonfirmasi deepfake sangatlah sulit.

Facebook Melarang Deepfakes dan Photoshops

Facebook melarang deepfakes dan foto Photoshopped. Idenya adalah untuk menghapus media yang dimanipulasi yang dirancang untuk menipu pengguna.

Seperti diberitakan Microsoft Tentang Masalah, perusahaan ingin mengubahnya dengan alat barunya. Ini disebut Microsoft Video Authenticator, dan ini menganalisis video untuk mencari "jahitan" yang tertinggal dari pembuatan deepfake. Jahitan ini tidak terlihat oleh mata manusia, tetapi komputer dapat menemukannya menggunakan analisis frame-by-frame.

Untuk mencegah agen jahat merekayasa balik teknologi, Microsoft Video Authenticator tidak akan menjadi rilis publik. Sebaliknya, Microsoft mendistribusikan sistemnya ke berita dan organisasi politik. Dengan begitu, organisasi tersebut dapat menggunakan alat untuk memisahkan yang asli dari yang palsu.

Namun, Microsoft telah mengumumkan teknologi kedua untuk mengidentifikasi deepfakes. Perusahaan mengusulkan sistem di mana pembuat konten dapat menandai videonya dengan "tanda tangan" yang unik. Jika video diedit, itu akan menghasilkan tanda tangan yang berbeda dari aslinya, sehingga mengidentifikasi deepfake.

Penulis Deep Fakes and the Infocalypse, Nina Schick, mengatakan hal berikut:

Sejauh ini, satu-satunya penggunaan yang sangat luas yang kami lihat adalah dalam pornografi non-konsensual terhadap wanita. Tetapi media sintetis diharapkan ada di mana-mana dalam waktu sekitar tiga hingga lima tahun, jadi kami perlu mengembangkan alat ini ke depan. Namun, karena kemampuan pendeteksian menjadi lebih baik, begitu pula kemampuan pembuatannya - tidak pernah akan menjadi kasus bahwa Microsoft dapat merilis satu alat yang dapat mendeteksi semua jenis video manipulasi.

Deepfake adalah masalah signifikan bagi kredibilitas media, dan perusahaan membutuhkan cara untuk melakukannya ceritakan apa yang nyata dari apa yang fiksi. Microsoft telah merilis alat untuk membantu menemukan video yang diedit. Namun, apakah alat tersebut akan cukup untuk mengikuti pengembang deepfake masih belum terlihat.

Jika Anda tidak yakin apa itu deepfake dan mengapa itu penting, ada baiknya Anda meluangkan waktu untuk mempelajarinya. Deepfake siap untuk menjadi gambar yang setara dengan gambar "Photoshopping" dalam dekade ini dan dapat menyebabkan kerusakan parah jika digunakan dengan jahat.

Penjelasan Deepfakes: AI yang Membuat Video Palsu Terlalu Meyakinkan

Video palsu yang dibuat oleh AI benar-benar merusak pemahaman kita tentang peristiwa dunia. Inilah cara deepfake dapat mengubah segalanya.

Tentang Penulis