Dalam AI, kemajuan dibuat pada tingkat yang belum pernah terjadi sebelumnya, dengan perkembangan baru dilakukan hampir setiap minggu. Alat AI generatif seperti ChatGPT sekarang sangat populer sehingga terintegrasi di mana-mana.
Tapi haruskah kita? Menggunakan teknologi AI untuk produktivitas, pendidikan, dan hiburan masuk akal. Namun, perusahaan sekarang berpikir untuk memasukkannya langsung ke aplikasi perpesanan kami, dan ini terbukti merusak. Inilah tujuh alasannya.
1. AI Chatbots Cenderung Berhalusinasi
Jika Anda telah menggunakan ChatGPT, Bing, atau Bard, Anda tahu bahwa chatbot AI generatif cenderung "berhalusinasi". Halusinasi AI adalah ketika chatbot ini mengada-ada karena kurangnya data pelatihan yang memadai tentang kueri yang diminta oleh pengguna.
Dengan kata lain, mereka menyampaikan informasi yang salah tetapi terdengar percaya diri, seolah-olah itu adalah fakta. Ini adalah masalah besar karena banyak orang tidak memeriksa fakta saat menggunakan chatbot dan percaya itu akurat secara default. Itu salah satu yang terbesar
kesalahan yang harus dihindari saat menggunakan alat AI.Saat dimasukkan ke dalam aplikasi perpesanan, jumlah kerusakan yang dapat ditimbulkannya bahkan lebih besar karena orang mungkin menggunakannya untuk (sengaja atau secara tidak sengaja) menyebarkan informasi yang salah di antara kontak mereka dan di media sosial, menyebarkan propaganda, dan menumbuhkan gema kamar.
2. Orang Tidak Suka Berbicara dengan Bot
Pikirkan betapa menyebalkannya saat Anda mencoba menghubungi dukungan pelanggan perusahaan, dan Anda harus berbicara dengan chatbot alih-alih eksekutif manusia nyata yang benar-benar dapat memahami nuansa masalah Anda dan menawarkannya dengan tepat panduan.
Hal yang sama berlaku untuk percakapan pribadi. Bayangkan berbicara dengan teman Anda, dan di tengah jalan, Anda menyadari bahwa mereka telah menggunakan AI untuk itu menanggapi pesan Anda selama ini alih-alih melakukannya sendiri berdasarkan pemikiran dan pendapat.
Jika Anda seperti kebanyakan orang, Anda akan langsung merasa tersinggung dan menganggap penggunaan AI dalam percakapan pribadi sebagai tidak peka, menyeramkan, dan bahkan pasif-agresif, seolah-olah orang lain menganggap Anda tidak sepadan dengan waktu, perhatian, dan empati.
Menggunakan AI untuk menulis email, misalnya, dapat dimengerti karena ini adalah interaksi profesional, tetapi menggunakannya dalam percakapan pribadi bukanlah sesuatu yang ingin didorong oleh siapa pun. Setelah kebaruan teknologi memudar, akan menjadi tidak sopan untuk menggunakannya dalam konteks ini.
3. AI Tidak Dapat Menyalin Nada Suara Unik Anda
Alat AI generatif saat ini sudah memungkinkan Anda untuk mengubah nada pesan Anda, seperti formal, ceria, atau netral tergantung pada siapa Anda menulis dan bagaimana Anda ingin tampil. Tulis Ajaib di Pesan Google, misalnya, memungkinkan Anda melakukan hal yang sama.
Meskipun itu bagus, perhatikan bahwa nada suara ini dilatih berdasarkan data pelatihan yang ditetapkan dan bukan riwayat obrolan pribadi Anda, sehingga nada suara unik Anda atau emoji yang biasa Anda gunakan tidak dapat direplikasi.
Anda mungkin tidak terlalu peduli tentang hal ini, terutama jika Anda menggunakan AI untuk menulis email kantor sederhana yang setiap orang kurang lebih menggunakan nada suara formal yang sama. Tapi itu jauh lebih penting daripada yang mungkin Anda sadari saat menggunakannya untuk berbicara dengan teman dan keluarga Anda di aplikasi perpesanan.
Hingga alat AI memungkinkan Anda opsi untuk melatih model bahasa mereka berdasarkan riwayat obrolan Anda, mereka tidak akan dapat mereplikasi dialek dan keeksentrikan unik Anda. Meskipun demikian, tantangan ini tidak terlalu sulit untuk dipecahkan, jadi kami mungkin akan segera menerapkannya.
4. Menulis Anjuran yang Baik Membutuhkan Waktu
Mendapatkan hasil yang diinginkan dari AI chatbot sangat bergantung pada kualitas permintaan Anda. Jika Anda menulis prompt yang buruk, Anda akan mendapatkan respons yang buruk dan harus memperbaiki prompt tersebut sampai Anda mendapatkan hasil yang memuaskan.
Proses ini masuk akal saat Anda ingin menulis konten panjang, tetapi sangat tidak efisien saat menulis beberapa respons singkat dalam percakapan informal.
Waktu yang diperlukan untuk menyempurnakan prompt Anda dan mendapatkan respons yang dapat digunakan, dalam banyak kasus, akan lebih lama daripada waktu yang Anda perlukan jika Anda hanya menulis pesan itu sendiri.
5. AI Dapat Menghasilkan Hasil Serangan
Selain akurasi, bias adalah salah satunya masalah terbesar dengan AI generatif. Beberapa orang menganggap AI tidak memihak karena tidak memiliki motifnya sendiri. Namun, orang-orang di balik alat AI ini pada akhirnya adalah manusia dengan biasnya sendiri.
Dengan kata lain, bias dimasukkan ke dalam sistem. AI pada dasarnya tidak memahami apa yang dianggap ofensif dan apa yang tidak, jadi mungkin, misalnya, dilatih menjadi bias terhadap kelompok orang tertentu atau budaya tertentu — sehingga menghasilkan hasil yang ofensif dalam prosesnya.
6. AI Mungkin Tidak Memahami Sarkasme atau Humor
Pemahaman AI tentang kiasan, seperti ironi dan metafora, meningkat dari waktu ke waktu, tetapi masih jauh dari titik di mana ia dapat digunakan dalam percakapan untuk mengenali humor. Saat meminta Bard Google untuk menyindir, misalnya, hasilnya untung-untungan.
Dalam beberapa kasus, itu benar-benar lucu dan dimainkan bersama dengan sarkasme saya. Tetapi dalam kasus lain, itu default kembali ke respons pemotong kue yang tidak lucu atau ditolak begitu saja berpartisipasi dalam percakapan sama sekali, mengatakan bahwa karena ini hanya LLM, itu tidak dapat membantu saya pertanyaan.
7. Ketergantungan pada AI Dapat Menyebabkan Komunikasi yang Buruk
Masalah halus namun substansial lainnya dengan mengintegrasikan AI generatif ke dalam aplikasi perpesanan adalah bagaimana hal itu dapat memengaruhi kemampuan kita untuk berkomunikasi. Jika kita semakin mengandalkan AI untuk berkomunikasi satu sama lain, hal itu dapat menghambat kemampuan kita untuk berkomunikasi melatih kecerdasan emosional kita dan keterampilan sosial.
Intinya di sini adalah bahwa semakin kita mengalihkan kebutuhan sosial kita ke AI, semakin buruk kita mengkomunikasikan ide melalui cara organik. Dengan kata lain, semakin banyak Anda menggunakan AI untuk berbicara dengan kontak Anda, semakin besar kemungkinan Anda menurunkan kualitas hubungan Anda.
Tidak Semuanya Perlu Memiliki AI
Seringkali, dengan munculnya teknologi baru, kita begitu sibuk mencari tahu cara menggunakannya sehingga kita gagal berdebat apakah kita harus menggunakannya sejak awal.
Meskipun masuk akal untuk menggunakan AI generatif untuk menulis email, bertukar ide, atau membuat gambar untuk presentasi, integrasinya ke dalam aplikasi perpesanan mengundang banyak kritik.
