Saat ini, ChatGPT dipercaya oleh jutaan orang sebagai sumber daya yang bermanfaat, baik untuk bekerja, bersenang-senang, atau pendidikan. Tapi apakah chatbot AI ini bisa diandalkan untuk selalu memberikan fakta? Apakah ChatGPT pernah berbohong, atau hanya akan memberi Anda informasi faktual?
Dari Mana ChatGPT Mendapatkan Informasinya?
Dalam masa pelatihannya, ChatGPT menerima data dari berbagai sumber di seluruh web, seperti situs web pemerintah dan agensi, jurnal ilmiah, kajian, artikel berita, podcast, forum online, buku, database, film, dokumenter, dan sosial media.
Secara khusus, ChatGPT-3 dilatih menggunakan basis data informasi ekstensif yang berjumlah 570GB data. Seperti yang dinyatakan dalam sebuah artikel dari Fokus Sains, 300 miliar kata informasi dimasukkan ke dalam sistem GPT-3 selama pengembangannya.
Sesuatu yang perlu diperhatikan di sini adalah bahwa ChatGPT hanya diberi data yang ada sebelum 2021. Artinya, chatbot tidak dapat menjawab pertanyaan terkait peristiwa terkini. ChatGPT juga tidak memiliki akses ke internet. Data yang diberikan dalam pelatihan adalah satu-satunya jenis yang digunakan untuk memenuhi permintaan pengguna.
Tetapi apakah ChatGPT hanya memberi Anda fakta, atau apakah beberapa informasi yang lebih ambigu tercampur dengan tanggapannya? Selain itu, dapatkah ChatGPT membohongi Anda?
Apakah ChatGPT Berbohong?
Meskipun ChatGPT sering memberikan informasi yang benar kepada pengguna, ChatGPT memiliki kemampuan untuk "berbohong". Tentu saja, ChatGPT tidak memutuskan untuk berbohong secara jahat kepada pengguna, karena hal itu tidak bisa dilakukan. Bagaimanapun, ChatGPT adalah alat pemrosesan bahasa, bukan tiruan dari orang yang nyata dan hidup.
Namun, secara teknis ChatGPT masih bisa berbohong melalui fenomena yang dikenal sebagai halusinasi AI.
halusinasi AI melibatkan sistem AI yang memberikan informasi yang tampaknya masuk akal atau masuk akal tetapi, pada kenyataannya, tidak benar sama sekali. Nyatanya, halusinasi AI dapat memberikan informasi bahwa ia tidak pernah diberi makan selama masa pelatihannya. Alternatifnya, itu dapat terjadi ketika sistem AI memberikan informasi yang tidak terkait dengan prompt atau permintaan. Sistem AI bahkan dapat mengklaim sebagai manusia dalam peristiwa halusinasi.
Sistem AI, seperti chatbots, jatuh ke dalam perangkap halusinasi karena beberapa alasan: kurangnya pemahaman dunia nyata, bug perangkat lunak, dan keterbatasan data yang disediakan.
Seperti yang telah disebutkan sebelumnya, ChatGPT hanya dapat memberikan informasi menggunakan data yang dipublikasikan hingga tahun 2021, yang tentunya membatasi permintaan seperti apa yang dapat dipenuhinya.
Satu dari Masalah besar ChatGPT adalah bahwa ia juga dapat menjadi korban bias saat memberikan informasi kepada pengguna. Bahkan pembuat ChatGPT telah menyatakan bahwa sistem AI telah "bias secara politis, ofensif", dan "sebaliknya tidak dapat diterima" di masa lalu. Seperti dilansir oleh Independen, pengembang ChatGPT berkomitmen untuk mengatasi masalah ini, tetapi bukan berarti tidak lagi menimbulkan risiko.
Saat ditanya, ChatGPT menyatakan bahwa alasan informasi yang diberikan mungkin tidak akurat adalah sebagai berikut:
- Ambiguitas dalam pertanyaan (petunjuknya tidak jelas dan tidak jelas);
- Informasi yang diberikan tidak lengkap;
- Informasi yang bias atau tidak benar diberikan; atau,
- Keterbatasan teknis (terutama karena kurangnya akses ke data saat ini).
Jadi, ChatGPT sendiri menyatakan ada skenario di mana tidak akan memberikan informasi yang akurat kepada pengguna.
Dalam tanggapan lain dalam percakapan yang sama, ChatGPT menyatakan bahwa "memverifikasi informasi apa pun [yang disediakan] dengan sumber lain selalu merupakan ide yang bagus."
Bisakah Anda Mempercayai ChatGPT?
Karena dapat memberikan informasi palsu, Anda jelas tidak dapat mempercayai ChatGPT 100% dari waktu.
Anda dapat menurunkan risiko chatbot AI berhalusinasi dengan mengatur parameter spesifik tentang bagaimana ia dapat menjawab Anda. Namun, masih belum ada jaminan bahwa beberapa informasi palsu tidak akan lolos.
Oleh karena itu, sebaiknya periksa informasi apa pun yang diberikan ChatGPT kepada Anda, terutama jika Anda meminta informasi tentang acara terkini. Memeriksa ulang data ini dengan merujuk ke sumber lain dapat membantu Anda menentukan apakah ChatGPT benar dalam hal yang dikatakannya dan dapat mencegah Anda membuat keputusan yang keliru.
ChatGPT Berguna tetapi Tidak Selalu Jujur
Sayangnya, Anda tidak dapat mengandalkan ChatGPT untuk memberikan informasi yang benar dan tidak bias 100% setiap saat. Chatbot bertenaga AI ini sangat membantu dan dapat membantu Anda dalam berbagai cara, tetapi selalu perlu untuk memverifikasi apakah informasi yang diberikannya faktual.