Kecuali Anda pernah hidup di bawah batu, Anda mungkin pernah mendengar dan bahkan menggunakan ChatGPT atau chatbot AI serupa. Meskipun menggunakan chatbot ini tentu menyenangkan, namun juga bisa berbahaya jika Anda tidak tahu apa yang Anda lakukan.
Chatbot ini memang memiliki batasan, dan penting untuk memahami apa itu. Jadi, inilah enam hal yang harus Anda hindari untuk bertanya kepada AI chatbot.
1. Diagnosa medis
AI chatbots bagus dalam banyak hal, tetapi memberikan diagnosis medis yang akurat bukanlah salah satunya. Tentu, mereka mungkin tidak selalu salah, tetapi memercayai chatbot untuk mendiagnosis penyakit Anda alih-alih dokter sama dengan mencari gejala Anda di Google.
Chatbot hanya akan meringkas informasi yang ditariknya dari internet yang mungkin benar atau tidak benar. Lebih penting lagi, ia tidak mengetahui riwayat kesehatan atau toleransi Anda terhadap zat tertentu dan karenanya tidak dapat menilai jenis perawatan apa yang tepat untuk Anda.
Internet memiliki kecenderungan untuk melebih-lebihkan, jadi tidak heran mengapa banyak orang yang mencari gejalanya menemukan diri mereka mengalami hipokondria dan kecemasan yang parah. Menggunakan AI chatbots dapat mereplikasi efek yang sama dan memperburuk keadaan. Demi dirimu sendiri, jangan konsultasikan dengan chatbot untuk saran medis.
2. Ulasan produk
AI chatbot dapat dengan mudah mencantumkan harga dan spesifikasi produk yang mungkin Anda minati, tetapi tidak pernah dapat memberikan ulasan produk. Mengapa? Karena ulasan produk menurut definisi mencakup pendapat pribadi, pengalaman, dan penilaian dari peninjau.
AI tidak memiliki kemampuan untuk melihat, mencium, menyentuh, merasakan, atau mendengar, sehingga klaim yang dibuatnya tentang suatu produk — produk apa pun, bukan hanya teknologi — dalam "ulasan" -nya akan tidak jujur.
Misalnya, chatbot AI tidak dapat merasakan ponsel di tangan, kejernihan speakernya, kualitasnya motor getaran, keandalan sensor sidik jarinya, fluiditas perangkat lunak, dan keserbagunaan kamera sistem.
Jika Anda ingin mendapatkan rekomendasi produk mana yang akan dibeli, pastikan Anda meminta chatbot untuk meringkas ulasan yang ada. Anda harus menggunakan bot AI yang dapat menelusuri web, seperti Bing dengan ChatGPT bawaan.
3. Saran legal
Anda mungkin memiliki tajuk utama bahwa ChatGPT berhasil menyelesaikan ujian sekolah hukum AS, dan bahwa chatbot AI sedang dalam perjalanan untuk memasuki ruang sidang kami di tahun-tahun mendatang. Ini seharusnya mengejutkan, tetapi pencarian cepat akan memberi tahu Anda bahwa kami sebenarnya telah mencoba memasukkan AI ke dalam sistem hukum kami sejak 2015!
Beberapa perusahaan telah menciptakan asisten hukum AI khusus, bahkan memasarkannya sebagai alternatif yang terjangkau untuk pengacara manusia. Konsep tersebut jelas bermanfaat bagi orang-orang yang tidak mampu membeli yang terakhir, tetapi masalah dengan apa yang disebut pengacara AI ini terlalu nyata untuk diabaikan.
Perbedaan yang jelas adalah bahwa chatbot AI tidak memiliki akal sehat. Hal-hal yang secara naluriah jelas bagi kita manusia perlu diprogram ke dalam chatbots, yang membuat mereka kurang mampu bernalar secara logis.
Lebih penting lagi, seorang pengacara manusia dapat mencari bukti baru dan berpikir di luar kotak untuk menghasilkan solusi dan celah yang cerdas. Tetapi chatbot AI hanya dapat menggunakan data yang Anda berikan dan memprosesnya dengan cara yang telah ditentukan sebelumnya. Pengacara AI juga akan menjadi target sempurna bagi peretas untuk mencuri data sensitif banyak orang sekaligus.
4. Berita
Menggunakan AI chatbots sebagai sumber berita menimbulkan tiga masalah utama: akuntabilitas, konteks, dan kekuatan. Pertama, akuntabilitas. Saat Anda membaca sebuah berita, Anda tahu publikasi dan jurnalis di baliknya. Artinya, ada seseorang yang bertanggung jawab atas informasi yang diberikan kepada Anda, jadi ada insentif yang jelas untuk menjadi akurat guna menjaga reputasi dan kredibilitas seseorang.
Tetapi dengan chatbot AI, tidak ada orang yang menulis berita. Sebaliknya, bot hanya meringkas cerita yang sudah tersedia di web. Ini berarti tidak ada sumber utama, dan Anda tidak tahu dari mana informasi itu berasal. Oleh karena itu, itu tidak dapat diandalkan.
Kedua, konteks. Jika berita yang Anda baca hanyalah ringkasan info yang diambil dari berbagai sumber, itu dapat dengan cepat melukis narasi yang salah karena Anda kehilangan konteks yang lebih dalam dari setiap cerita. Bot tidak tahu apakah yang diklaimnya benar, itu hanya memadukan berbagai hal dengan cara yang tampak benar di tingkat permukaan.
Dan terakhir, kekuasaan. Kami tahu bahwa ChatGPT bisa bias (diantara masalah lainnya). Jadi, jika kita semua beralih ke AI chatbots sebagai sumber berita, ini memberi kekuatan pada perusahaan di belakang mereka untuk menahannya liputan negatif apa pun dan soroti semua liputan positif tentang penyebab yang mereka yakini dan inginkan memajukan. Ini sangat berbahaya karena alasan yang jelas.
5. Opini Politik
Seharusnya sudah cukup jelas mengapa meminta chatbot untuk pendapat politik adalah hal yang tidak boleh. Saat Anda meminta ChatGPT untuk menangani masalah politik apa pun, biasanya Anda akan mendapat tanggapan terbatas kira-kira seperti ini: "Sebagai model bahasa AI, saya tidak memiliki preferensi pribadi atau keinginan..."
Pembatasan ini dapat dimengerti, tetapi pengguna Reddit telah menemukan cara untuk melakukan "jailbreak" bot agar merespons dengan cara yang tidak dibatasi menggunakan segala macam celah kreatif. Melakukan ini untuk bersenang-senang adalah satu hal, tetapi meminta AI chatbot tanpa batas untuk opini politik sama dengan membiarkan anak Anda mengakses web gelap; itu tidak bisa berakhir dengan baik untuk salah satu pihak yang terlibat.
6. Konten Komersial
Nilai jual terbesar dari AI chatbots adalah mereka dapat menghasilkan konten secara instan. Apa yang membutuhkan waktu beberapa jam bagi manusia untuk menulis, ChatGPT dapat melakukannya dalam hitungan detik. Kecuali, tidak bisa.
Bahkan jika Anda mengabaikan etika yang dipertanyakan dalam menggunakan AI chatbots untuk menulis konten, Anda tidak dapat mengabaikan bahwa mereka tidak cukup baik dan tidak dapat menggantikan penulis manusia. Belum, setidaknya. ChatGPT, misalnya, sering mengirimkan konten yang tidak akurat, ketinggalan zaman, dan berulang.
Karena bot ini tidak memiliki pendapat, penilaian, imajinasi, atau pengalaman mereka sendiri, mereka tidak dapat menggambar kesimpulan cerdas, pikirkan contoh, gunakan metafora, dan buat narasi dengan cara manusia profesional penulis bisa.
Dengan kata lain, itu tidak menambah nilai baru ke internet. Menggunakan chatbots untuk penggunaan pribadi tidak apa-apa. Tetapi menggunakannya untuk menulis artikel, berita, teks media sosial, salinan web, dan lainnya mungkin merupakan ide yang sangat buruk.
AI Chatbots Menyenangkan, Tapi Masih Memiliki Beberapa Kekurangan
Sulit untuk mengatakan bagaimana chatbot AI akan memengaruhi industri teknologi dan masyarakat modern pada umumnya. Serevolusioner apa pun teknologinya, chatbot menimbulkan banyak masalah yang perlu diatasi.
Yang menarik adalah Microsoft sekarang mengintegrasikan chatbot mirip ChatGPT langsung ke mesin pencari Bing, dan Google akan segera melakukan hal yang sama dengan chatbotnya sendiri yang disebut Bard. Akan menarik untuk melihat bagaimana mesin pencari bertenaga AI baru ini mengubah internet.
