Ingin memeriksa apakah sesuatu telah dibuat oleh kecerdasan buatan? Detektor sering kali tidak berfungsi dan itu adalah kabar buruk bagi keamanan Anda.
Kecerdasan Buatan (AI) akan mengubah seluruh segmen masyarakat kita suka atau tidak suka, dan itu termasuk World Wide Web.
Dengan perangkat lunak seperti ChatGPT yang tersedia bagi siapa saja yang memiliki koneksi internet, semakin sulit untuk memisahkan konten yang dihasilkan oleh AI, dari yang dibuat oleh manusia. Untung kami memiliki pendeteksi konten AI, bukan?
Apakah Detektor Konten AI Berfungsi?
Detektor konten AI adalah alat khusus yang menentukan apakah sesuatu ditulis oleh program komputer atau manusia. Jika Anda hanya Google kata-kata "detektor konten AI," Anda akan melihat ada puluhan detektor di luar sana, semua mengklaim bahwa mereka dapat dengan andal membedakan antara teks manusia dan non-manusia.
Cara kerjanya cukup sederhana: Anda menempelkan tulisan, dan alat tersebut memberi tahu Anda apakah itu dibuat oleh AI atau tidak. Dalam istilah yang lebih teknis, menggunakan kombinasi teknik pemrosesan bahasa alami dan mesin algoritme pembelajaran, pendeteksi konten AI mencari pola dan prediktabilitas, dan melakukan panggilan berdasarkan itu.
Kedengarannya bagus di atas kertas, tetapi jika Anda pernah menggunakan alat pendeteksi AI, Anda tahu betul bahwa alat itu untung-untungan, secara halus. Lebih sering daripada tidak, mereka mendeteksi konten yang ditulis manusia sebagai AI, atau teks yang dibuat oleh manusia sebagai buatan AI. Bahkan, ada yang memalukan buruk pada apa yang seharusnya mereka lakukan.
Seberapa Akurat Detektor Konten AI?
Jika Anda berada di Amerika Serikat, hasil pencarian Google pertama untuk "detektor konten AI" adalah writer.com (sebelumnya dikenal sebagai Qordoba; ini adalah platform konten AI yang juga memiliki pendeteksinya sendiri). Tetapi ketika Anda menempelkan bagian acak ini Associated Press artikel ke dalam alat, ia mengklaim ada kemungkinan besar itu dihasilkan oleh kecerdasan buatan.
Jadi, writer.com salah.
Agar adil, pendeteksi konten AI lainnya hampir tidak lebih baik. Mereka tidak hanya menghasilkan positif palsu, tetapi juga menandai konten AI sebagai manusia. Dan bahkan jika tidak, membuat perubahan kecil pada teks yang dihasilkan AI sudah cukup untuk lulus dengan warna-warna cerah.
Pada Februari 2023, Dosen University of Wollongong Armin Alimardani dan Associate Professor di UNSW Sydney Emma A. Jane menguji sejumlah pendeteksi konten AI populer, menetapkan bahwa tidak ada satupun yang dapat diandalkan. Dalam analisis mereka, yang diterbitkan di Percakapan, Alimardani dan Jane menyimpulkan bahwa "perlombaan senjata" AI antara pembuat teks dan pendeteksi ini akan menimbulkan tantangan yang signifikan di masa depan, terutama bagi para pendidik.
Tapi bukan hanya pendidik dan guru yang punya alasan untuk khawatir: semua orang punya. Saat teks yang dihasilkan AI tersebar di mana-mana, mampu membedakan mana yang "nyata" dan mana yang tidak, yaitu benar-benar melihat ketika ada sesuatu yang ditulis oleh AI, akan menjadi lebih sulit. Ini akan berdampak besar pada hampir semua industri dan bidang masyarakat, bahkan hubungan pribadi.
Implikasi AI untuk Keamanan Siber dan Privasi
Fakta bahwa tidak ada mekanisme yang dapat diandalkan untuk menentukan apakah sesuatu dibuat oleh perangkat lunak atau manusia memiliki implikasi serius terhadap keamanan dunia maya dan privasi.
Aktor ancaman sudah menggunakan ChatGPT untuk menulis malware, menghasilkan email phishing, menulis spam, membuat situs scam, dan banyak lagi. Dan meskipun ada cara untuk mempertahankannya, tentu mengkhawatirkan bahwa tidak ada perangkat lunak yang mampu membedakan antara konten organik dan bot secara andal.
Berita palsu juga sudah menjadi masalah besar. Dengan AI generatif dalam gambar, agen disinformasi dapat meningkatkan operasi mereka dengan cara yang belum pernah terjadi sebelumnya. Orang biasa, sementara itu, tidak memiliki cara untuk mengetahui apakah sesuatu yang mereka baca online dibuat oleh perangkat lunak atau manusia.
Privasi adalah masalah yang sama sekali berbeda. Ambil ChatGPT, misalnya. Dulu memberi makan lebih dari 300 miliar kata sebelum peluncurannya. Konten ini diangkat dari buku, posting blog dan forum, artikel, dan media sosial. Itu dikumpulkan tanpa persetujuan siapa pun, dan tampaknya sepenuhnya mengabaikan perlindungan privasi dan hak cipta.
Lalu ada juga masalah positif palsu. Jika konten secara keliru ditandai sebagai buatan AI, tidak bisakah itu mengarah pada penyensoran, yang merupakan masalah besar? Belum lagi kerusakan yang dituduh menggunakan teks buatan AI dapat merusak reputasi seseorang, baik online maupun dalam kehidupan nyata.
Jika memang ada perlombaan senjata antara AI generatif dan pendeteksi konten, yang pertama menang. Yang lebih buruk, sepertinya tidak ada solusi. Semua kami memiliki produk setengah matang kami yang bahkan tidak berfungsi separuh waktu, atau dapat ditipu dengan sangat mudah.
Cara Mendeteksi Konten AI: Solusi Potensial
Bahwa kami saat ini tampaknya tidak memiliki jawaban nyata untuk masalah ini tidak berarti kami tidak akan memilikinya di masa mendatang. Padahal, sudah ada beberapa proposal serius yang bisa berhasil. Watermarking adalah salah satunya.
Ketika datang ke AI dan model bahasa yang dalam, watermarking mengacu pada penyematan semacam kode rahasia ke dalam teks yang dihasilkan AI (misalnya pola kata, gaya tanda baca). Tanda air seperti itu tidak akan terlihat oleh mata telanjang, dan dengan demikian hampir tidak mungkin untuk dihapus, tetapi perangkat lunak khusus akan dapat mendeteksinya.
Bahkan, pada tahun 2022 lalu, Universitas Maryland peneliti mengembangkan metode watermarking baru untuk jaringan syaraf tiruan. Peneliti utama Tom Goldstein mengatakan pada saat itu bahwa timnya telah berhasil "membuktikan secara matematis" bahwa tanda air mereka tidak dapat dihilangkan seluruhnya.
Untuk saat ini, yang bisa dilakukan orang biasa hanyalah mengandalkan naluri dan akal sehat mereka. Jika ada sesuatu yang aneh tentang konten yang Anda baca—jika terasa tidak natural, repetitif, tidak imajinatif, dangkal—mungkin itu dibuat oleh perangkat lunak. Tentu saja, Anda juga harus memverifikasi informasi apa pun yang Anda lihat online, periksa kembali sumbernya, dan jauhi situs web yang curang.
Revolusi AI Sedang Berlangsung
Beberapa berpendapat bahwa revolusi industri kelima sudah ada di sini, karena kecerdasan buatan menjadi pusat perhatian dalam apa yang digambarkan sebagai konvergensi digital dan fisik. Apakah itu benar atau tidak, yang bisa kita lakukan hanyalah beradaptasi.
Kabar baiknya adalah, industri keamanan siber menyesuaikan diri dengan realitas baru ini, dan menerapkan strategi pertahanan baru dengan AI dan pembelajaran mesin sebagai yang terdepan.