Inovasi terbaru seputar teknologi berbasis AI mendorong batas-batas dari apa yang sebelumnya kita anggap mungkin dengan AI. Namun, dengan chatbot seperti ChatGPT dan Bing Chat hampir sama baiknya dengan manusia dalam beberapa hal, apakah sudah waktunya untuk menginjak rem untuk sementara waktu?
Elon Musk dan beberapa peneliti AI termasuk di antara 1.188 orang (pada saat penulisan) yang berpendapat demikian. Sebuah surat yang diterbitkan oleh lembaga nirlaba Future of Life menyerukan jeda enam bulan untuk melatih teknologi AI lebih baik daripada GPT 4, tetapi apakah jeda benar-benar diperlukan?
Tentang Apa Surat Terbuka Masa Depan Kehidupan?
Itu surat yang diterbitkan oleh Future of Life Institute menunjukkan bahwa laboratorium AI telah "terkunci dalam perlombaan di luar kendali" untuk mengembangkan dan menerapkan lebih banyak dan model AI yang lebih kuat yang tidak seorang pun, termasuk pembuatnya, dapat "mengerti, memprediksi, atau andal kontrol".
Ini juga menunjukkan bahwa sistem AI kontemporer sekarang menjadi kompetitif bagi manusia dalam tugas dan permintaan umum apakah kita harus mengembangkan "pikiran bukan manusia yang mungkin pada akhirnya melebihi jumlah, mengakali, usang dan menggantikan kita".
Surat itu akhirnya meminta semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama enam bulan. Jeda harus bersifat publik dan dapat diverifikasi di semua aktor kunci juga. Ini juga menyatakan bahwa jika jeda seperti itu tidak dapat ditegakkan dengan cepat, pemerintah harus turun tangan untuk melarang sementara pelatihan model AI.
Setelah jeda aktif, laboratorium AI dan pakar independen diminta menggunakannya untuk bersama-sama mengembangkan dan mengimplementasikan a "serangkaian protokol keamanan bersama" untuk memastikan bahwa sistem yang mengikuti aturan ini "aman melebihi batas wajar ragu".
Surat ini telah ditandatangani oleh beberapa orang bernama, termasuk Elon Musk, Steve Wozniak, dan peneliti serta penulis AI. Bahkan, daftar penandatangan saat ini dijeda karena tingginya permintaan.
Apa Kekhawatiran Musk Dengan Teknologi AI Tingkat Lanjut dan OpenAI?
Menandatangani surat Future of Life mungkin menunjukkan bahwa Musk prihatin dengan risiko keamanan yang ditimbulkan oleh sistem AI canggih seperti itu, alasan sebenarnya mungkin karena hal lain.
Musk ikut mendirikan OpenAI dengan CEO saat ini Sam Altman pada tahun 2015 sebagai organisasi nirlaba. Namun, dia berselisih dengan Altman pada tahun 2018 setelah dia menyadari bahwa dia tidak senang dengan kemajuan perusahaan. Musk dilaporkan ingin mengambil alih untuk mempercepat pengembangan, tetapi Altman dan dewan OpenAI menolak gagasan tersebut.
Musk meninggalkan OpenAI tak lama setelah itu dan membawa uangnya bersamanya melanggar janjinya untuk menyumbang 1 miliar dalam pendanaan dan hanya memberikan 100 juta sebelum pergi. Ini memaksa OpenAI menjadi perusahaan swasta tak lama setelah Maret 2019 untuk mengumpulkan dana guna melanjutkan penelitiannya.
Alasan lain mengapa Musk pergi adalah pengembangan AI di Tesla akan menimbulkan konflik kepentingan di masa depan. Sudah menjadi pengetahuan yang jelas bahwa Tesla membutuhkan sistem AI canggih untuk menjalankannya Fitur Mengemudi Sendiri Penuh. Sejak Musk meninggalkan OpenAI, perusahaan telah melarikan diri dengan peluncuran model AI-nya ChatGPT yang didukung GPT3.5 pada 2022 dan kemudian menindaklanjuti dengan GPT-4 pada Maret 2023.
Fakta bahwa tim AI Musk sama sekali tidak mirip dengan OpenAI perlu diperhitungkan setiap kali dia mengatakan bahwa model AI modern dapat menimbulkan risiko. Dia juga tidak punya masalah meluncurkan Tesla Full Self-Driving beta di jalan umum, pada dasarnya mengubah driver Tesla biasa menjadi penguji beta.
Ini juga tidak berakhir di sini. Musk juga agak kritis terhadap OpenAI di Twitter, dengan Altman mengatakan bahwa dia menyerang mereka saat tampil di podcast "On with Kara Swisher" baru-baru ini.
Saat ini, sepertinya Musk hanya menggunakan surat Masa Depan Kehidupan untuk menghentikan pengembangan di OpenAI dan perusahaan lain yang mengejar. ke GPT-4 untuk memberi perusahaannya kesempatan untuk mengejar ketinggalan daripada benar-benar mengkhawatirkan potensi bahaya model AI ini pose. Perhatikan bahwa surat itu juga meminta untuk menghentikan sementara "pelatihan" sistem AI selama enam bulan, yang dapat dengan mudah dihindari untuk terus mengembangkannya sementara itu.
Apakah Jeda Benar-Benar Dibutuhkan?
Perlunya jeda bergantung pada status model AI yang akan datang. Surat itu jelas bernada agak dramatis, dan kami tidak mengambil risiko kehilangan kendali atas peradaban kami karena AI, seperti yang dinyatakan secara terbuka. Yang mengatakan, Teknologi AI memang menimbulkan beberapa ancaman.
Mengingat bahwa OpenAI dan laboratorium AI lainnya dapat menghasilkan pemeriksaan keamanan yang lebih baik, jeda akan lebih berbahaya daripada kebaikan. Namun, saran surat itu tentang seperangkat protokol keselamatan bersama yang "diaudit secara ketat dan diawasi oleh pakar luar yang independen" memang terdengar seperti ide yang bagus.
Dengan raksasa teknologi seperti Google dan Microsoft menggelontorkan miliaran untuk pengembangan dan integrasi AI dalam produk mereka, kecil kemungkinan surat itu akan memengaruhi laju pengembangan AI saat ini.
AI Di Sini untuk Tetap
Dengan raksasa teknologi mendorong integrasi AI dalam produk mereka lebih jauh dan menghabiskan miliaran dolar dalam penelitian dan pengembangan, AI akan tetap ada, terlepas dari apa yang dikatakan oposisi.
Tapi itu bukan ide yang buruk untuk menerapkan langkah-langkah keamanan untuk mencegah teknologi ini keluar jalur dan berpotensi berubah menjadi alat untuk bahaya.