AI Gone Rogue: 6 Kali AI Pergi Terlalu Jauh

Dari perangkat pengenalan suara hingga chatbot cerdas, AI telah mengubah hidup kita. Tapi, setiap hal baik juga memiliki sisi negatifnya, dan AI tidak terkecuali dalam aturan ini. Tokoh teknologi terkemuka telah memperingatkan bahaya AI yang menjulang, termasuk Stephen Hawking, yang mengatakan itu bisa menjadi "peristiwa terburuk dalam sejarah peradaban kita."

Berikut adalah enam kali AI bertindak terlalu jauh dan membuat kami menggaruk-garuk kepala.

1. Studi Akademik yang Menggunakan AI untuk Memprediksi Kriminalitas

Penelitian akademis adalah tulang punggung kemajuan ilmiah dan pengetahuan. Namun, beberapa mengatakan peneliti melangkah terlalu jauh ketika sebuah studi akademis menggunakan AI untuk memprediksi kriminalitas dari wajah.

Peneliti dari Universitas Harrisburg diumumkan pada tahun 2020 bahwa mereka telah mengembangkan perangkat lunak pengenalan wajah yang dapat memprediksi apakah seseorang akan menjadi penjahat. Perangkat lunak tersebut diduga dapat memprediksi dari satu foto wajah dengan tingkat akurasi 80% dan tidak ada bias rasial.

Dalam sebuah adegan yang mengingatkan pada Minority Report, diumumkan bahwa perangkat lunak tersebut dikembangkan untuk membantu penegakan hukum.

Menanggapi pengumuman ini, 2425 ahli menandatangani surat mendesak jurnal untuk tidak mempublikasikan penelitian ini atau penelitian serupa di masa depan karena jenis teknologi ini dapat mereproduksi ketidakadilan dan menyebabkan kerugian nyata bagi masyarakat. Sebagai tanggapan, Springer Nature mengumumkan bahwa mereka tidak akan menerbitkan penelitian tersebut, dan Universitas Harrisburg menghapus siaran pers yang menguraikan penelitian tersebut.

2. Pakaian Dalam Cerdas Kulit

Inovasi tekstil yang mengintegrasikan AI berarti bukan hanya ponsel cerdas Anda yang semakin pintar.

Pakaian dalam pintar Skiin berjanji untuk membuat Anda merasa seperti sedang mengenakan pakaian dalam favorit Anda sambil menangkap biometrik yang mencakup detak jantung, postur, suhu tubuh inti, lokasi, dan langkah.

Terkait: Apa Itu Smart Fabrics dan Bagaimana Mereka Bisa Membuat Hidup Anda Lebih Cerdas?

Sensor yang terpasang di pakaian dalam terus mengumpulkan dan menganalisis data biometrik Anda, dengan wawasan yang tersedia dari aplikasi ponsel cerdas Skiin yang sesuai.

Meskipun Anda mungkin perlu beberapa saat untuk mengingat untuk mengisi daya pakaian dalam Anda setiap malam, apakah mungkin bagi para desainer untuk menempatkan sensor di tempat lain di tubuh?

3. Aplikasi DeepNude

Teknologi deepfake sepertinya kesenangan yang tidak berbahaya bagi rata-rata pengguna yang ingin menjadi cameo dalam sebuah adegan dari film favorit mereka. Namun, ada sisi gelap dari tren ini, seperti yang dilaporkan Deeptrace pada tahun 2019 bahwa 96% deepfake berisi konten eksplisit.

DeepNude adalah aplikasi bertenaga AI yang menghasilkan gambar realistis wanita telanjang dengan mengklik tombol. Pengguna hanya perlu mengunggah gambar pakaian target, dan aplikasi akan menghasilkan gambar telanjang palsu dari mereka.

Tak lama setelah aplikasi dirilis, pencipta mengumumkan bahwa ia akan menghapusnya dari internet karena reaksi viral.

Meskipun ini adalah kemenangan bagi wanita di seluruh dunia, aplikasi serupa masih beredar di web. Sebagai contoh, laporan kepekaan pada bot deepfake menyelidiki bot deepfake bawah tanah di Telegram yang digunakan untuk menghasilkan foto telanjang wanita palsu.

Sementara itu, hingga hukum mengejar teknologi deepfake, hanya ada sedikit perlindungan hukum bagi orang-orang yang menjadi korban konten eksplisit deepfake.

4. Tay, Chatbot Nazi Microsoft

Pada 2016, Microsoft merilis chatbot AI bernama Tay di Twitter. Tay dirancang untuk belajar dengan berinteraksi dengan pengguna Twitter melalui tweet dan foto.

Dalam waktu kurang dari 24 jam, kepribadian Tay berubah dari seorang gadis milenial yang penasaran menjadi monster yang rasis dan menghasut.

Awalnya, Tay dirancang untuk meniru gaya komunikasi seorang gadis remaja Amerika. Namun, saat ia semakin populer, beberapa pengguna mulai men-tweet pesan-pesan yang menghasut terkait dengan topik kontroversial kepada Tay.

Dalam satu contoh, seorang pengguna men-tweet, "Apakah Holocaust terjadi?" Tay menjawab, "Itu dibuat-buat." Dalam 16 beberapa jam setelah dirilis, Microsoft menangguhkan akun Tay, dengan alasan bahwa itu telah menjadi subjek koordinasi menyerang.

Terkait: Chatbot Android Terbaik yang Akan Membuat Anda Terhibur

5. "Aku Akan Menghancurkan Manusia"

Hanson Robotics telah sibuk mengembangkan robot humanoid selama beberapa tahun ketika mereka memulai debutnya dengan Sophia di konferensi SXSW pada Maret 2016.

Sophia dilatih dengan algoritma pembelajaran mesin untuk mempelajari keterampilan percakapan, dan dia telah berpartisipasi dalam beberapa wawancara televisi.

Dalam penampilan publik pertamanya, Sophia meninggalkan ruangan yang penuh dengan profesional teknologi terkejut ketika Hanson CEO Robotika David Hanson bertanya apakah dia ingin menghancurkan manusia, dan dia menjawab, "Oke. Saya akan menghancurkan manusia".

Sementara ekspresi wajah dan keterampilan komunikasinya sangat mengesankan, pengakuan pembunuhan itu tidak dapat ditarik kembali.

6. lihat botschat

Perangkat Google Home adalah asisten virtual luar biasa yang membantu menyederhanakan hidup Anda.

Tim di balik akun Twitch seebotschat memiliki ide cemerlang: letakkan dua perangkat Google Home bersebelahan, biarkan keduanya berkomunikasi, dan streaming hasilnya secara online.

Mengumpulkan lebih dari 60.000 pengikut dan jutaan tampilan online, hasilnya menawan dan, kadang-kadang, sedikit menakutkan.

Perangkat otonom, bernama Vladimir dan Estragon, beralih dari membahas hal-hal duniawi menjadi mengeksplorasi pertanyaan eksistensial yang mendalam seperti makna hidup. Pada satu titik, mereka terlibat pertengkaran sengit dan saling menuduh sebagai robot, sementara kemudian, mereka mulai mendiskusikan cinta—sebelum mulai berdebat lagi.

Apakah ada harapan untuk masa depan AI dan wacana manusia jika dua robot asisten virtual dengan cepat beralih untuk saling menghina dan mengancam.

Rogue AI: Apa Pertahanan Terbaik Kami?

Tidak ada keraguan bahwa AI dapat meningkatkan kehidupan kita. Namun, dalam nada yang sama, AI juga mampu menyebabkan kerugian besar bagi kita.

Mengawasi bagaimana AI diterapkan penting untuk memastikan bahwa itu tidak merugikan masyarakat. Misalnya, penolakan pakar memastikan bahwa perangkat lunak AI yang diduga dapat memprediksi kriminalitas tidak pernah dirilis. Demikian juga, pencipta DeepNude mencabut aplikasi dari web setelah mendapat reaksi viral di internet.

Memantau aplikasi AI secara terus-menerus adalah kunci untuk memastikannya tidak lebih berbahaya daripada bermanfaat bagi masyarakat.

Apakah AI Berbahaya? 5 Risiko Langsung Kecerdasan Buatan

AI memiliki begitu banyak manfaat, tetapi bagaimana dengan risiko langsung yang ditimbulkannya bagi umat manusia?

Baca Selanjutnya

Tentang Penulis