Bagaimana Peretas Menggunakan AI Generatif dalam Serangannya dan Yang Dapat Kita Lakukan Tentang Itu

Kecerdasan buatan (AI) generatif tengah menjadi sorotan akhir-akhir ini. Chatbot ChatGPT yang didukung AI dan sistem pendukung pemrosesan bahasa alami lainnya seperti VALL-E telah membawa AI generatif ke masyarakat umum dan melepaskan manfaat dan efek buruknya.

Salah satu kekhawatiran utama tentang AI generatif adalah fakta bahwa AI dapat digunakan untuk meningkatkan eksploitasi jahat dan menghasilkan serangan siber yang lebih canggih. Jadi, bagaimana peretas menggunakan AI generatif dalam serangan mereka, dan apa artinya bagi masa depan keamanan siber?

Apa itu AI Generatif dan Bagaimana Cara Kerjanya?

Sesuai dengan namanya, AI generatif adalah jenis AI yang mampu menghasilkan konten baru—citra, teks, audio, dan data sintetik.

Salah satu contoh terkenal adalah ChatGPT, chatbot bertenaga AI yang dapat digunakan untuk melakukan percakapan seperti manusia dan dapatkan beberapa rekomendasi film yang luar biasa—yaitu jika Anda tidak dapat memikirkan misi yang lebih bermakna untuk mengirim ChatGPT pada.

Biarkan kami memberi Anda satu atau dua ide — Anda bisa minta ChatGPT untuk menulis semua email sulit itu untuk Anda, memanfaatkan ChatGPT sebagai alat terjemahan, dan bahkan ubah ChatGPT menjadi asisten perencanaan makan sehat Anda. Secara keseluruhan, dalam hitungan detik, chatbot ini dapat menampilkan konten yang tampaknya baru dan meyakinkan, serta menyajikannya dengan cara yang benar secara politis.

Namun, AI generatif belum bisa menjadi kreatif seperti manusia. Ini karena menggunakan algoritme pembelajaran mesin tanpa pengawasan dan semi-pengawasan untuk memproses banyak sekali data dan menghasilkan keluaran khusus.

Misalnya, jika Anda ingin menugaskan lukisan mirip Picasso dari AI generatif seperti DALL-E 2, Anda harus mengetik deskripsi Anda di bidang yang ditentukan—misalkan "Guernica Picasso tetapi dengan anak kucing"—dan bertahanlah selama beberapa detik. Selama waktu itu, AI akan menerapkan semua ciri khusus dari gaya artis yang dipelajari sebelumnya, tambah anak kucing untuk ukuran yang baik, dan menghasilkan sesuatu yang asli — kami mendapatkan gambar yang dapat Anda lihat sedikit di atas.

Bagaimana Peretas Memanfaatkan AI Generatif dalam Serangannya?

Orang jahat selalu tertarik pada algoritme yang baik. Jadi tidak mengherankan jika mereka mengeksploitasi AI generatif untuk memperkuat serangan mereka. Dengan memanfaatkan metode ML seperti pembelajaran penguatan dan jaringan permusuhan generatif, penjahat dunia maya dapat memunculkan serangan dunia maya baru yang lebih canggih yang dapat menembus standar pertahanan dunia maya.

Salah satu contoh penyimpangan ini adalah chatbot "canggih" OpenAI, seperti ChatGPT dimanfaatkan oleh penjahat dunia maya untuk menulis malware. Pada awalnya, ChatGPT tampak menyenangkan dan permainan tetapi sekarang terungkap sebagai salah satu ancaman keamanan dan privasi utama. Jika Anda suka mengobrol dengan ChatGPT, berhati-hatilah hal-hal yang dapat dilakukan penjahat dunia maya dengan ChatGPT.

Singkatnya, ChatGPT dan alat AI generatif lainnya telah membuat hidup lebih mudah bagi penjahat dunia maya dan lebih sulit bagi tim keamanan. Beberapa cara pelaku ancaman siber memanfaatkan AI dalam serangannya antara lain:

• Membuat malware yang lebih baik dan lebih canggih: Di tangan para peretas, AI generatif dapat digunakan untuk menghasilkan jenis malware yang sulit dideteksi dan melakukan serangan. Dikombinasikan dengan model AI, malware dapat menutupi niatnya hingga memenuhi tujuannya yang buruk.
• Menulis email phishing yang dipersonalisasi dan didukung AI: Dengan bantuan AI generatif, email phishing tidak lagi memiliki tanda-tanda penipuan—seperti ejaan yang buruk, tata bahasa yang buruk, dan kurangnya konteks. Selain itu, dengan AI seperti ChatGPT, pelaku ancaman dapat melancarkan serangan phishing dengan kecepatan dan skala yang belum pernah terjadi sebelumnya.
• Menghasilkan data palsu yang dalam: Karena dapat membuat tiruan aktivitas manusia yang meyakinkan — seperti menulis, berbicara, dan gambar—AI generatif dapat digunakan dalam aktivitas penipuan seperti pencurian identitas, penipuan keuangan, dan disinformasi.
• Meretas CAPTCHA dan menebak kata sandi: Digunakan oleh situs dan jaringan untuk menyisir bot yang mencari akses tidak sah, CAPTCHA sekarang dapat dilewati oleh peretas. Dengan memanfaatkan ML, mereka juga dapat memenuhi tugas berulang lainnya seperti menebak kata sandi dan serangan brute force.
• Menyabotase ML dalam deteksi ancaman dunia maya: Jika sistem keamanan kewalahan dengan terlalu banyak positif palsu, peretas dapat mengejutkannya dengan serangan dunia maya yang nyata.

Bagaimana Kita Bisa Memerangi Ancaman AI Generatif?

Ketika serangan dunia maya menjadi lebih canggih dan konsekuensinya menjadi lebih serius, sistem keamanan tradisional akan berubah menjadi hal-hal di masa lampau. Dengan kemampuan untuk belajar dari serangan sebelumnya dan beradaptasi, AI merupakan aset yang tak ternilai baik bagi penjahat dunia maya maupun musuh mereka.

Penggunaan AI dalam keamanan siber memiliki beberapa keunggulan serius seperti deteksi ancaman yang lebih cepat, identifikasi ancaman, dan respons ancaman—jadi, memadamkan api dengan api sepertinya jawaban yang tepat. Sebelum penjahat dunia maya mempelajari cara menangani pukulan yang menghancurkan bagi individu dan perusahaan di seluruh dunia dunia, profesional keamanan siber harus mengajarkan sistem bertenaga AI mereka untuk melindungi diri dari ini serangan.

Namun, tidak semuanya terserah AI. Lagi pula, kita juga dapat memperkuat keamanan dan privasi kita sendiri dengan metode yang telah dicoba dan diuji seperti multi-factor authentication (MFA), teknologi biometrik, memanfaatkan pengelola kata sandi, menggunakan alat kolaborasi terenkripsi terbaik, dan akal sehat lama yang baik.

Melawan AI Dengan AI

Jadi, apakah kita akan menyaksikan perang keamanan siber AI dalam waktu dekat? Yah, kami harap tidak. Namun, karena AI terus berkembang dan dapat diakses oleh semua—penjahat dunia maya dan profesional keamanan dunia maya—peran AI dan ML akan menjadi lebih besar di tahun-tahun mendatang.