Dengan model bahasa AI modern seperti ChatGPT dan Microsoft Bing Chat membuat gelombang di seluruh dunia, sejumlah orang khawatir AI mengambil alih dunia.
Meskipun kami tidak akan bertemu SkyNet di masa mendatang, AI menjadi lebih baik daripada manusia dalam beberapa hal. Di situlah masalah kontrol AI berperan.
Masalah Kontrol AI Dijelaskan
Masalah kontrol AI adalah gagasan bahwa AI pada akhirnya akan menjadi lebih baik dalam membuat keputusan daripada manusia. Sesuai dengan teori ini, jika manusia tidak mengatur semuanya dengan benar sebelumnya, kita tidak akan memiliki kesempatan untuk memperbaikinya nanti, artinya AI akan memiliki kontrol yang efektif.
Penelitian saat ini tentang model AI dan Pembelajaran Mesin (ML), setidaknya, bertahun-tahun dari melampaui kemampuan manusia. Namun, masuk akal untuk berpikir bahwa, dengan mempertimbangkan kemajuan saat ini, AI akan melebihi manusia dalam hal kecerdasan dan efisiensi.
Itu tidak berarti bahwa model AI dan ML tidak memiliki batasan. Bagaimanapun, mereka terikat oleh hukum fisika dan kompleksitas komputasi, serta kekuatan pemrosesan perangkat yang mendukung sistem ini. Namun, dapat diasumsikan bahwa batasan ini jauh di luar kemampuan manusia.
Ini berarti bahwa superintelijen Sistem AI dapat menimbulkan ancaman besar jika tidak dirancang dengan benar dengan perlindungan untuk memeriksa potensi perilaku nakal. Sistem seperti itu perlu dibangun dari bawah ke atas untuk menghormati nilai-nilai kemanusiaan dan untuk menjaga kekuatannya. Inilah yang dimaksud dengan masalah kontrol ketika dikatakan bahwa segala sesuatunya harus diatur dengan benar.
Jika sistem AI melampaui kecerdasan manusia tanpa perlindungan yang tepat, hasilnya bisa menjadi bencana besar. Sistem seperti itu dapat mengambil kendali atas sumber daya fisik karena banyak tugas dicapai dengan lebih baik atau lebih efisien. Karena sistem AI dirancang untuk mencapai efisiensi maksimum, kehilangan kendali dapat menyebabkan konsekuensi yang parah.
Kapan Masalah Kontrol AI Berlaku?
Masalah utamanya adalah semakin baik sistem AI, semakin sulit bagi pengawas manusia untuk memantau teknologi guna memastikan kontrol manual dapat diambil alih dengan mudah jika sistem gagal. Selain itu, kecenderungan manusia untuk mengandalkan sistem otomatis lebih tinggi ketika sistem bekerja dengan andal di sebagian besar waktu.
Sebuah contoh yang bagus dari ini adalah Paket Tesla Full-Self Driving (FSD).. Meskipun mobil dapat mengemudi sendiri, diperlukan manusia untuk memegang kemudi, siap untuk mengambil kendali mobil jika sistem tidak berfungsi. Namun, karena sistem AI ini menjadi lebih andal, perhatian manusia yang paling waspada pun akan mulai bervariasi, dan ketergantungan pada sistem otonom akan meningkat.
Jadi apa yang terjadi ketika mobil mulai melaju dengan kecepatan yang tidak dapat ditandingi manusia? Kami pada akhirnya akan menyerahkan kendali pada sistem otonom mobil, yang berarti sistem AI akan mengendalikan hidup Anda, setidaknya sampai Anda mencapai tujuan.
Bisakah Masalah Kontrol AI Diselesaikan?
Ada dua jawaban apakah masalah pengendalian AI bisa diselesaikan atau tidak. Pertama, jika kita menafsirkan pertanyaan secara harfiah, masalah kontrol tidak dapat diselesaikan. Tidak ada yang dapat kami lakukan yang secara langsung menargetkan kecenderungan manusia untuk mengandalkan sistem otomatis ketika sistem tersebut bekerja dengan andal dan lebih efisien di sebagian besar waktu.
Namun, jika kecenderungan ini diperhitungkan sebagai fitur dari sistem tersebut, kita dapat menemukan cara untuk mengatasi masalah kontrol. Misalnya, Pengambilan Keputusan Algoritmik dan Masalah Kontrol makalah penelitian menyarankan tiga metode berbeda untuk menghadapi kesulitan:
- Penggunaan sistem yang kurang andal membutuhkan manusia untuk secara aktif terlibat dengan sistem karena sistem yang kurang andal tidak menimbulkan masalah kontrol.
- Untuk menunggu sistem melebihi efisiensi dan keandalan manusia sebelum penerapan dunia nyata.
- Untuk menerapkan hanya sebagian otomatisasi menggunakan dekomposisi tugas. Ini berarti bahwa hanya bagian sistem yang tidak memerlukan operator manusia untuk melakukan tugas penting yang diotomatisasi. Ini disebut pendekatan alokasi fungsi dinamis/pelengkap (DCAF).
Pendekatan DCAF selalu menempatkan operator manusia di pucuk pimpinan sistem otomatis, memastikan bahwa masukan mereka mengontrol bagian terpenting dari proses pengambilan keputusan sistem. Jika suatu sistem cukup menarik bagi operator manusia untuk memperhatikan secara terus-menerus, masalah kontrol dapat diselesaikan.
Bisakah Kita Benar-Benar Mengontrol AI?
Saat sistem AI menjadi lebih canggih, mampu, dan andal, kami akan terus memberikan lebih banyak tugas kepada mereka. Namun, masalah pengendalian AI dapat diselesaikan dengan tindakan pencegahan dan pengamanan yang tepat.
AI telah mengubah dunia bagi kita, sebagian besar menjadi lebih baik. Selama teknologinya berada di bawah pengawasan manusia, seharusnya tidak ada yang perlu kita khawatirkan.
