ChatGPT adalah chatbot AI baru yang kuat yang cepat mengesankan, namun banyak orang telah menunjukkan bahwa ia memiliki beberapa jebakan serius. Tanyakan apa pun yang Anda suka, dan Anda akan menerima jawaban yang sepertinya ditulis oleh manusia, setelah mempelajari pengetahuan dan keterampilan menulisnya dari sejumlah besar informasi di internet.
Sama seperti internet, bagaimanapun, kebenaran dan fakta tidak selalu diberikan dan ChatGPT bersalah karena melakukan kesalahan. Dengan ChatGPT diatur untuk mengubah masa depan kita, berikut adalah beberapa kekhawatiran terbesar.
Apa itu ChatGPT?
ChatGPT adalah model pembelajaran bahasa besar yang dirancang untuk meniru percakapan manusia. Itu dapat mengingat hal-hal yang Anda katakan padanya di masa lalu dan mampu mengoreksi dirinya sendiri ketika salah.
Itu menulis dengan cara yang mirip manusia dan memiliki banyak pengetahuan karena dilatih pada semua jenis teks dari internet, seperti Wikipedia, posting blog, buku, dan artikel akademis.
Sangat mudah untuk belajar cara menggunakan ChatGPT, tetapi yang lebih menantang adalah mencari tahu apa masalah terbesarnya. Berikut adalah beberapa yang layak untuk diketahui.
1. ChatGPT Tidak Selalu Benar
Itu gagal dalam matematika dasar, sepertinya tidak bisa menjawab pertanyaan logika sederhana, dan bahkan akan memperdebatkan fakta yang sepenuhnya salah. Seperti yang dapat dibuktikan oleh pengguna media sosial, ChatGPT dapat melakukan kesalahan lebih dari satu kali.
OpenAI mengetahui tentang batasan ini, menulis bahwa: "ChatGPT terkadang menulis jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal." Ini "halusinasi" fakta dan fiksi, sebagaimana beberapa ilmuwan menyebutnya, sangat berbahaya jika menyangkut sesuatu seperti medis nasihat.
Tidak seperti asisten AI lainnya seperti Siri atau Alexa, Chat GPT tidak menggunakan internet untuk mencari jawaban. Alih-alih, ia membuat kalimat kata demi kata, memilih "token" yang paling mungkin muncul berikutnya, berdasarkan pelatihannya.
Dengan kata lain, ChatGPT mendapatkan jawaban dengan membuat serangkaian tebakan, yang merupakan bagian dari alasan mengapa ChatGPT dapat memperdebatkan jawaban yang salah seolah-olah itu sepenuhnya benar.
Meskipun sangat bagus dalam menjelaskan konsep yang rumit, menjadikannya alat yang ampuh untuk belajar, penting untuk tidak memercayai semua yang dikatakannya. ChatGPT tidak selalu benar—setidaknya, belum.
2. Bias Dimasukkan ke dalam Sistem
ChatGPT dilatih tentang penulisan kolektif manusia di seluruh dunia, dulu dan sekarang. Artinya, bias yang sama yang ada pada data, juga dapat muncul pada model.
Faktanya, pengguna telah menunjukkan bagaimana ChatGPT dapat memberikan jawaban yang mengerikan, beberapa, misalnya, mendiskriminasi perempuan. Tapi itu hanya puncak gunung es; itu dapat menghasilkan jawaban yang sangat berbahaya bagi berbagai kelompok minoritas.
Kesalahannya juga tidak hanya terletak pada data. Peneliti dan pengembang OpenAI memilih data yang digunakan untuk melatih ChatGPT. Untuk membantu mengatasi apa yang disebut OpenAI sebagai "perilaku bias", itu meminta pengguna untuk memberikan umpan balik tentang keluaran yang buruk.
Dengan potensi membahayakan orang, Anda dapat berargumen bahwa ChatGPT seharusnya tidak dirilis ke publik sebelum masalah ini dipelajari dan diselesaikan.
Chatbot AI serupa bernama Sparrow (dimiliki oleh perusahaan induk Google, Alphabet) dirilis pada September 2022. Namun, itu disimpan di balik pintu tertutup karena kekhawatiran yang sama dapat menyebabkan kerusakan.
Mungkin Meta seharusnya memimpin peringatan itu juga. Ketika dirilis Galactica, model bahasa AI yang dilatih di makalah akademis, itu dengan cepat ditarik kembali setelah banyak orang mengkritiknya karena mengeluarkan hasil yang salah dan bias.
3. Tantangan untuk Bahasa Inggris SMA
Anda dapat meminta ChatGPT untuk mengoreksi tulisan Anda atau menunjukkan cara memperbaiki paragraf. Alternatifnya, Anda dapat menghapus diri Anda sepenuhnya dari persamaan dan meminta ChatGPT untuk menulis sesuatu untuk Anda.
Guru telah bereksperimen dengan memberikan tugas bahasa Inggris ke ChatGPT dan telah menerima jawaban yang lebih baik daripada yang dapat dilakukan oleh banyak siswa mereka. Dari menulis surat pengantar hingga mendeskripsikan tema utama dalam karya sastra terkenal, ChatGPT dapat melakukannya tanpa ragu.
Itu menimbulkan pertanyaan: jika ChatGPT dapat menulis untuk kami, apakah siswa perlu belajar menulis di masa mendatang? Ini mungkin tampak seperti pertanyaan eksistensial, tetapi saat siswa mulai menggunakan ChatGPT untuk membantu menulis esai mereka, sekolah harus memikirkan jawabannya dengan cepat. Penyebaran AI yang cepat dalam beberapa tahun terakhir akan mengejutkan banyak industri, dan pendidikan hanyalah salah satunya.
4. Itu Dapat Menyebabkan Kerusakan di Dunia Nyata
Sebelumnya, kami telah menyebutkan bagaimana informasi yang salah dari ChatGPT dapat menyebabkan kerusakan di dunia nyata, dengan contoh yang paling jelas adalah saran medis yang salah.
Ada kekhawatiran lain juga. Akun media sosial palsu menimbulkan masalah besar di internet dan dengan diperkenalkannya AI chatbots, penipuan internet akan menjadi lebih mudah dilakukan. Penyebaran informasi palsu menjadi perhatian lain, terutama ketika ChatGPT membuat jawaban yang salah pun terdengar benar secara meyakinkan.
Tingkat di mana ChatGPT dapat menghasilkan jawaban yang tidak selalu benar telah menyebabkan masalah bagi Stack Exchange, situs web tempat pengguna dapat memposting pertanyaan dan mendapatkan jawaban.
Segera setelah dirilis, jawaban oleh ChatGPT dilarang dari situs karena banyak yang salah. Tanpa sukarelawan manusia yang cukup untuk memilah-milah backlog, tidak mungkin untuk mempertahankan kualitas jawaban yang tinggi, menyebabkan kerusakan pada situs web.
5. OpenAI Memiliki Semua Kekuatan
Dengan kekuatan besar datang tanggung jawab besar, dan OpenAI memegang banyak kekuatan. Ini adalah salah satu perusahaan AI pertama yang benar-benar mengguncang dunia dengan tidak hanya satu, tetapi beberapa model AI, termasuk Dall-E 2, GPT-3, dan sekarang, ChatGPT.
OpenAI memilih data apa yang digunakan untuk melatih ChatGPT dan bagaimana menangani konsekuensi negatif. Apakah kita setuju dengan metode atau tidak, itu akan terus mengembangkan teknologi ini sesuai dengan tujuannya sendiri.
Meskipun OpenAI menganggap keamanan sebagai prioritas utama, ada banyak hal yang tidak kami ketahui tentang cara pembuatan model. Apakah Anda berpikir bahwa kode harus dibuat open source, atau setuju bahwa itu harus merahasiakan sebagian, tidak banyak yang bisa kita lakukan tentang itu.
Pada akhirnya, yang dapat kami lakukan hanyalah percaya bahwa OpenAI akan meneliti, mengembangkan, dan menggunakan ChatGPT secara bertanggung jawab. Alternatifnya, kami dapat mengadvokasi lebih banyak orang untuk menentukan ke arah mana AI harus menuju, berbagi kekuatan AI dengan orang-orang yang akan menggunakannya.
Jika Anda tertarik dengan apa lagi yang dikembangkan OpenAI, lihat artikel kami di cara menggunakan Dall-E 2 Dan cara menggunakan GPT-3.
Mengatasi Masalah Terbesar AI
Ada banyak hal yang menarik dengan ChatGPT, pengembangan terbaru OpenAI. Namun di luar kegunaan langsungnya, ada beberapa masalah serius yang perlu dipahami.
OpenAI mengakui bahwa ChatGPT dapat menghasilkan jawaban yang berbahaya dan bias, belum lagi kemampuannya untuk mencampurkan fakta dengan fiksi. Dengan teknologi baru seperti itu, sulit memprediksi masalah apa lagi yang akan muncul. Jadi sampai saat itu, nikmati penjelajahan ChatGPT dan berhati-hatilah untuk tidak mempercayai semua yang dikatakannya.