6 Masalah Besar Dengan Musik Deepfake

Lagu-lagu baru dari artis-artis terkenal menjadi viral di media sosial, yang biasanya tidak menjadi masalah, kecuali klon suara yang menyanyikannya. Meskipun itu adalah salah satu media terakhir yang bertahan, musik deepfake sekarang menjadi kenyataan.

Ini bekerja dengan melatih model AI pada suara penyanyi, dan hasilnya tidak selalu buruk. Ada banyak kreativitas nyata untuk membuat lagu deepfake, tetapi masalahnya bukan hanya pada hasilnya. Dalam banyak kasus, izin tidak diberikan, dan pertanyaan tentang siapa yang dibayar dan apakah itu etis, hanyalah sebagian dari masalah musik deepfake.

1. Kumpulan Data Tidak Resmi

Jika Anda ingin membuat trek deepfake dari artis terkenal, Anda perlu mengumpulkan file audio dari suara nyanyian mereka ke dalam kumpulan data. Sama seperti data apa pun milik seseorang, Anda mungkin harus mendapatkan izin mereka untuk menggunakannya, tetapi itu adalah deepfake lagu dapat masuk ke platform musik besar seperti YouTube, Spotify, atau TikTok, menggunakan yang tidak sah Himpunan data.

Ini terjadi pada artis Drake dan The Weeknd ketika seorang pengguna bernama Ghostwriter membuat "Heart on My Sleeve". Lagu hit menampilkan suara para artis yang disintesis AI, lengkap dengan lirik tentang mantan pacar The Weeknd.

Lagu ini benar-benar dinikmati oleh para penggemar, dengan tambahan pujian kepada Ghostwriter untuk penggunaan vokal deepfake secara kreatif, tetapi sebagai The Seattle Times melaporkan, tidak semua orang melihatnya seperti itu. Seorang juru bicara dari Universal Music Group, label besar di balik kedua artis tersebut, bertanya:

“Sisi sejarah mana yang diinginkan pemangku kepentingan dalam ekosistem musik: sisi artis, penggemar, dan ekspresi kreatif manusia, atau di sisi pemalsuan yang dalam, penipuan, dan menolak kompensasi yang seharusnya diberikan kepada seniman?"

2. Hukum Hak Cipta Kedaluwarsa

Jika Anda seorang artis yang tidak ingin suara Anda dikloning, undang-undang hak cipta mungkin belum dapat membantu Anda. Karena undang-undang hak cipta kami ditulis pada saat teknologi AI jenis ini tidak ada, tidak mengherankan jika undang-undang masih berusaha mengejar ketinggalan.

Kasus hukum terdekat dari "pencurian suara" di AS dimulai pada tahun 1990-an. Sebagai dilaporkan oleh Los Angeles Times, penyanyi Tom Waits memenangkan ganti rugi $2,475 juta dari Frito-Lay Inc., raksasa chip perkasa di belakang Doritos, Cheetos, Cracker Jack's, dan banyak lagi.

Iklan tersebut menggunakan suara seseorang yang terdengar cukup dekat dengan Tom Waits sehingga orang mungkin percaya artis sebenarnya berada di balik kampanye iklan tersebut. Hal yang sama berlaku untuk lagu-lagu deepfake yang saat ini beredar, tetapi musik AI belum diuji dalam pertarungan hukum.

Saat kami menunggu pembaruan sistem hukum, perlu dicatat bahwa tidak semua orang memiliki masalah dengan orang yang mengkloning suara mereka. Holly Herndon, Misalnya. Menghadapi gelombang aplikasi musik AI yang akan datang, dia memilih untuk mengotorisasi saudara kembar vokalnya bernama Holly+ di samping sistem yang memberinya gaji yang adil.

Sisi mana pun yang Anda ambil, masalahnya tetap sama. Tidak ada undang-undang hak cipta khusus yang mengatakan bahwa Anda harus mendapatkan izin dari artis sebelum menggunakan suaranya. Sampai saat itu, seniman mungkin menemukan diri mereka berada di alam liar teknologi AI, tanpa hukum yang memandu mereka.

3. Siapa yang Dibayar?

Bolehkah menghasilkan uang dari musik menggunakan suara seseorang? Ini adalah pertanyaan pelik yang mungkin menjadi masalah yang lebih besar karena lebih banyak musik deepfake dipublikasikan ke platform streaming, dan dimonetisasi di platform media sosial.

Seperti yang kita semua tahu, tidak apa-apa menyanyikan cover dari lagu terkenal dan mempostingnya ke YouTube atau Spotify, dan dalam hal ini, hal-hal seperti lirik, struktur lagu, melodi, ritme, dll. disalin. Tapi klon vokal sangat berbeda, dan musik deepfake tidak benar-benar meniru lagu yang sudah ada, tetapi membuat lagu baru menggunakan suara orang lain.

Dengan kata lain, klon suara tidak akan ada jika bukan karena alat AI dan kumpulan data yang tidak sah. Artis menghabiskan seumur hidup mengasah suara mereka sejak lahir dan membuat suara yang unik. Mencuri suara seseorang dan menghasilkan uang darinya mungkin merupakan langkah yang terlalu jauh.

4. Genre Area Abu-abu

Untuk memperumit masalah, beberapa orang mungkin tidak menganggap musik deepfake sepenuhnya buruk. Tidak seperti gambar atau video deepfake yang mungkin Anda tertawakan sebentar sebelum bergulir melewatinya di ponsel Anda, musik deepfake membangun genre sendiri.

Beberapa orang membandingkannya dengan ide penulisan fanfiction, cara yang menyenangkan dan kreatif untuk memberi penghormatan kepada seorang seniman. Ini adalah pandangan yang lebih positif yang membuatnya sulit untuk mengesampingkan musik deepfake sebagai hal yang tabu. Lihat saja pendekatan Holly Herndon terhadap kloning suara AI dalam video di bawah ini.

Padahal tidak semua orang setuju bahwa jenis musik ini harus diperbolehkan. Sebagai The Financial Times menulis, label rekaman besar, Grup Musik Universal, bertujuan untuk menghapus lagu berkualitas rendah dari platform streaming, termasuk yang dibuat oleh AI. Akhirnya, platform streaming seperti Spotify, Apple Music, atau Tidal harus membuat keputusan apakah genre musik ini diizinkan di platformnya.

Musik deepfake memicu perdebatan serupa yang sudah terjadi di dunia seni: haruskah seni yang dihasilkan AI dianggap sebagai seni? Hanya sekarang, kami mempertanyakan musik AI.

5. Kekhawatiran Etis Seputar Ras dan Identitas

Era musik deepfake telah dimulai dengan banyak musik yang meniru musik rap. Dengan akar sejarah genre yang ditelusuri kembali ke pemuda Afrika-Amerika yang tumbuh di Bronx, Kota New York, pada awal 1970-an, beberapa orang mengkhawatirkan ras dan identitas dalam musik AI.

Penulis Lauren Chanel, adalah salah satu orang yang menganggap musik deepfake sebagai masalah serius. Seperti dikutip dalam sebuah artikel oleh New York Times, mereka menjelaskan:

“Ini cara lain bagi orang yang bukan kulit hitam untuk mengenakan kostum orang kulit hitam — mengangkat tangan Kanye atau Drake dan menjadikannya boneka — dan itu adalah mengkhawatirkan saya.” “Ini hanyalah contoh lain dari antrean panjang orang yang meremehkan apa yang diperlukan untuk menciptakan jenis seni yang, secara historis, orang kulit hitam membuat."

Ini bukan pertama kalinya musik yang dibuat dengan alat AI gagal memenuhi etika. Sebagai dilaporkan di majalah Rolling Stone, seorang rapper avatar virtual bernama FN Meka ditandatangani ke sebuah label, lalu dengan cepat dibatalkan saat sipil online kelompok hak asasi Pemadaman Industri menulis bahwa proyek tersebut mengabadikan "stereotip kasar" tentang Back budaya.

Jika ada, musik deepfake mengingatkan kita bahwa alat AI tidak dapat dipisahkan dari sejarah pembuatan musik, dan mengabaikannya menambah bahaya AI deepfake.

6. Menimbulkan Kerugian bagi Artis

Satu hal yang tidak boleh diabaikan adalah dampak emosional dari lagu deepfake terhadap artisnya, terutama ketika suaranya dikloning. dapat bernyanyi tentang situasi yang tidak pernah terjadi, mengungkapkan emosi yang bukan milik mereka sendiri, dan berpura-pura peduli tentang hal-hal yang mungkin tidak mereka pedulikan.

Dalam kasus lagu palsu Drake ft. The Weeknd, liriknya menyertakan kalimat tentang Selena Gomez yang pernah berkencan dengan The Weeknd. Menggunakan campuran fakta kehidupan nyata dan lirik yang dibuat-buat, itu adalah distorsi realitas yang aneh yang bisa berbahaya bagi artis yang menjalani pengalaman nyata.

Demikian pula, memproduksi lirik yang dihasilkan AI "dengan gaya" seseorang yang terkenal menggunakan generator teks AI telah membuat beberapa artis putus asa atas penggunaan teknologi AI. Seperti yang dikatakan Nick Cave, "Apa itu ChatGPT, dalam hal ini, adalah replikasi sebagai parodi."

Musik deepfake mampu memasukkan kata-kata ke mulut artis yang tidak pernah mereka ucapkan, atau dalam hal ini, dinyanyikan. Pada tingkat pribadi, hal ini dapat merugikan artis yang hanya memiliki sedikit kendali atas penghapusan konten, tanpa mengajukan gugatan ke pengadilan.

Bersiap untuk Perubahan pada Industri Musik

Berkat meningkatnya akses ke alat AI, musik telah memasuki dunia deepfake, khususnya melalui klon suara. Membedakan antara suara AI dan suara manusia hanya dengan mendengarkan sangatlah sulit, sehingga memudahkan lagu deepfake untuk mencapai platform streaming sebelum dihapus.

Di satu sisi, penggemar mungkin menikmati musik deepfake dan genre yang valid dapat muncul yang menggunakan suara terkenal untuk membuat musik baru dan menarik. Tetapi tidak semua artis setuju jika suara mereka dikloning, dan tidak ada undang-undang yang melarang orang membuat kumpulan data yang tidak sah.

Mendapatkan persetujuan, memberi kompensasi kepada artis, dan memperhatikan masalah etika hanyalah beberapa masalah yang dihadapi artis dan industri musik. Dengan pesatnya perkembangan teknologi AI, ada baiknya berhenti sejenak untuk merenungkan masalah yang telah mereka buat.