Kecerdasan buatan (AI) berpotensi mengubah sifat dasar masyarakat kita. Dan jika alat AI yang kami miliki saat ini merupakan indikasi dari apa yang akan datang, kami memiliki banyak hal untuk dinantikan.
Kami juga memiliki banyak hal yang harus diwaspadai. Yaitu, persenjataan AI oleh penjahat dunia maya dan aktor ancaman lainnya. Ini bukan masalah teoretis, dan bahkan generator gambar AI pun tidak kebal terhadap penyalahgunaan.
Apa itu Generator Gambar AI? Bagaimana mereka bekerja?
Jika Anda pernah menggunakan generator gambar AI, Anda memiliki ide yang cukup bagus tentang semua itu. Bahkan jika Anda belum pernah menggunakannya, kemungkinan besar Anda akan menemukan gambar yang dihasilkan AI di media sosial dan di tempat lain. Perangkat lunak yang populer saat ini bekerja dengan prinsip yang sangat sederhana: pengguna mengetik teks, dan AI menghasilkan gambar berdasarkan teks tersebut.
Apa yang terjadi di bawah tenda jauh lebih kompleks. AI telah menjadi jauh lebih baik dalam beberapa tahun terakhir, dan sebagian besar generator teks-ke-gambar saat ini disebut model difusi. Ini berarti bahwa mereka "dilatih" dalam jangka waktu yang lama pada sejumlah besar teks dan gambar, yang membuat kreasi mereka begitu mengesankan dan sangat realistis.
Apa yang membuat alat AI ini semakin mengesankan adalah kenyataan bahwa mereka tidak hanya mengubah gambar yang ada atau menggabungkan ribuan gambar menjadi satu, tetapi juga membuat gambar asli baru dari awal. Semakin banyak orang menggunakan generator teks-ke-gambar ini, semakin banyak informasi yang mereka berikan, dan semakin baik kreasi mereka.
Beberapa yang paling terkenal Generator gambar AI adalah Dream oleh WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor, dan Craiyon. Yang baru bermunculan di kiri dan kanan, dan raksasa teknologi — termasuk Google — merilisnya sendiri, jadi kami hanya bisa berspekulasi tentang apa yang akan terjadi di masa depan.
4 Cara Pelaku Ancaman Mempersenjatai Generator Gambar AI
Seperti hampir semua teknologi, generator gambar AI dapat disalahgunakan oleh aktor jahat. Sebenarnya, mereka sudah digunakan untuk segala macam tujuan jahat. Namun jenis penipuan dan serangan dunia maya seperti apa yang dapat dilakukan oleh penjahat dengan bantuan generator gambar AI?
1. Rekayasa Sosial
Satu hal yang jelas dapat dilakukan pelaku ancaman dengan generator gambar AI adalah terlibat dalam rekayasa sosial; misalnya, membuat profil media sosial palsu. Beberapa dari program ini dapat membuat gambar yang sangat realistis yang terlihat seperti foto asli orang sungguhan, dan penipu dapat menggunakan profil media sosial palsu ini untuk memancing ikan.
Tidak seperti foto orang sungguhan, foto buatan AI tidak dapat ditemukan melalui pencarian gambar terbalik, dan penjahat dunia maya tidak harus bekerja dengan jumlah foto yang terbatas untuk menipu target mereka—dengan menggunakan AI, mereka dapat menghasilkan foto sebanyak yang mereka suka, membangun identitas online yang meyakinkan menggores.
Tapi ada contoh nyata dari aktor ancaman yang menggunakan generator gambar AI untuk menipu orang. Pada April 2022, TechTalks blogger Ben Dickinson menerima email dari sebuah firma hukum yang mengklaim bahwa dia telah menggunakan gambar tanpa izin. Pengacara mengirim email Pemberitahuan Pelanggaran Hak Cipta DMCA, memberi tahu Dickinson bahwa dia perlu menautkan kembali ke klien mereka, atau menghapus gambar tersebut.
Dickinson mencari di Google firma hukum tersebut, dan menemukan situs web resminya. Semuanya tampak benar-benar sah; situs tersebut bahkan memiliki foto 18 pengacara, lengkap dengan biografi dan kredensial mereka. Tapi tidak ada yang nyata. Foto-foto itu semua dihasilkan oleh AI, dan pemberitahuan pelanggaran hak cipta dikirim oleh seseorang yang ingin memeras backlink dari blogger yang tidak menaruh curiga, sebagai bagian dari perilaku hitam yang tidak etis topi SEO (Pengoptimalan Mesin Pencari) strategi.
2. Penipuan Amal
Saat gempa dahsyat melanda Turki dan Suriah pada Februari 2023, jutaan orang di seluruh dunia mengungkapkan solidaritas mereka kepada para korban dengan menyumbangkan pakaian, makanan, dan uang.
Menurut laporan dari BBC, penipu memanfaatkan ini, menggunakan AI untuk membuat gambar realistis dan meminta sumbangan. Seorang scammer menunjukkan gambar reruntuhan yang dihasilkan AI di TikTok Live, meminta sumbangan dari pemirsa mereka. Yang lain memposting gambar yang dihasilkan oleh AI dari seorang petugas pemadam kebakaran Yunani yang menyelamatkan seorang anak yang terluka dari reruntuhan, dan meminta sumbangan kepada para pengikutnya dalam bentuk Bitcoin.
Orang hanya dapat membayangkan jenis penipuan amal seperti apa yang akan dijalankan oleh penjahat dengan bantuan AI di masa depan, tetapi aman untuk berasumsi bahwa mereka hanya akan menjadi lebih baik dalam menyalahgunakan perangkat lunak ini.
3. Deepfake dan Disinformasi
Pemerintah, kelompok aktivis, dan wadah pemikir telah lama memperingatkan tentang hal tersebut bahaya deepfake. Generator gambar AI menambahkan komponen lain ke masalah ini, mengingat betapa realistisnya kreasi mereka. Faktanya, di Inggris, bahkan ada acara komedi berjudul Deep Fake Neighbor Wars yang menemukan humor pada pasangan selebritas yang tidak terduga. Apa yang akan menghentikan agen disinformasi membuat gambar palsu dan mempromosikannya di media sosial dengan bantuan bot?
Ini dapat memiliki konsekuensi kehidupan nyata, seperti yang hampir terjadi pada Maret 2022, ketika video palsu yang menggambarkan Presiden Ukraina Volodymyr Zelensky menyuruh warga Ukraina untuk menyerah beredar secara online, per NPR. Tapi itu hanya satu contoh, karena kemungkinannya hampir tidak terbatas, dan ada banyak cara a pelaku ancaman dapat merusak reputasi seseorang, mempromosikan narasi palsu, atau menyebarkan berita palsu dengan bantuan dari AI.
4. Penipuan Iklan
TrendMicro peneliti menemukan pada tahun 2022 bahwa penipu menggunakan konten buatan AI untuk membuat iklan yang menyesatkan, dan mempromosikan produk curang. Mereka membuat gambar yang menyarankan selebriti populer menggunakan produk tertentu, dan menjalankan kampanye iklan berdasarkan gambar tersebut.
Misalnya, satu iklan untuk "peluang penasihat keuangan" menampilkan miliarder Elon Musk, pendiri dan CEO Tesla. Tentu saja, Musk tidak pernah mendukung produk tersebut, tetapi fitur rekaman yang dihasilkan AI membuatnya tampak seperti itu, mungkin memikat pemirsa yang tidak menaruh curiga untuk mengklik iklan tersebut.
AI dan Keamanan Siber: Masalah Kompleks yang Perlu Kita Tangani
Ke depan, regulator pemerintah dan pakar keamanan dunia maya mungkin harus bekerja sama untuk mengatasi ancaman yang muncul dari kejahatan dunia maya yang didukung AI. Tapi bagaimana kita bisa mengatur AI dan melindungi orang biasa, tanpa menghambat inovasi dan membatasi kebebasan digital? Pertanyaan itu akan tampak besar untuk tahun-tahun mendatang.
Sampai ada jawaban, lakukan apa yang Anda bisa untuk melindungi diri Anda sendiri: hati-hati memeriksa informasi apa pun yang Anda lihat online, hindari situs web yang teduh, gunakan perangkat lunak yang aman, selalu perbarui perangkat Anda, dan pelajari cara menggunakan kecerdasan buatan untuk Anda keuntungan.
