Akhir Umat Manusia? Menguraikan Debat Kiamat AI

Setiap beberapa bulan, muncul berita utama baru: "AI dapat mengakhiri umat manusia." Kedengarannya seperti kiamat clickbait. Namun, para peneliti, CEO, dan pembuat kebijakan yang disegani menanggapinya dengan serius. Jadi, mari kita ajukan pertanyaan yang sebenarnya: dapatkah AI supercerdas benar-benar menyerang kita?

Dalam artikel ini, kita akan menguraikan ketakutan yang umum, melihat seberapa masuk akal ketakutan tersebut, dan menganalisis bukti yang ada saat ini. Karena sebelum kita panik, atau mengabaikan semuanya, ada baiknya kita bertanya: bagaimana tepatnya AI dapat mengakhiri umat manusia, dan seberapa besar kemungkinan masa depan itu?

Dari Mana Rasa Takut Itu Berasal

Idenya sudah ada selama beberapa dekade. Ilmuwan AI awal seperti IJ Bagus dan Nick Bostrom memperingatkan bahwa jika AI menjadi terlalu pintar, ia mungkin akan mulai mengejar tujuannya sendiri. Tujuan yang tidak sesuai dengan keinginan manusia. Jika ia melampaui kita secara intelektual, gagasannya adalah bahwa mempertahankan kendali mungkin tidak mungkin lagi. Kekhawatiran itu kini telah menjadi arus utama.

Pada tahun 2023, ratusan ahli, termasuk Sam Altman (OpenAI), Demis Hassabis (Google DeepMind), dan Geoffrey Hinton (umumnya disebut sebagai “Bapak AI”), menandatangani surat terbuka menyatakan bahwa “mengurangi risiko kepunahan akibat AI harus menjadi prioritas global di samping pandemi dan perang nuklir.” Jadi apa yang berubah?

Model suka GPT-4 dan Claude 3 bahkan mengejutkan penciptanya dengan kemampuan penalaran yang berkembang. Ditambah lagi dengan laju kemajuan, perlombaan senjata di antara laboratorium-laboratorium besar, dan kurangnya regulasi global yang jelas, dan tiba-tiba, pertanyaan tentang kiamat tidak terdengar begitu gila lagi.

Skenario yang Membuat Para Ahli Bingung

Tidak semua ketakutan tentang AI itu sama. Beberapa adalah kekhawatiran jangka pendek tentang penyalahgunaan. Yang lainnya adalah skenario jangka panjang tentang sistem yang tidak terkendali. Berikut adalah beberapa yang terbesar:

Penyalahgunaan oleh Manusia

AI memberikan kemampuan hebat kepada siapa pun, baik atau buruk. Ini termasuk:

• Negara-negara yang menggunakan AI untuk serangan siber atau senjata otonom;
• Teroris menggunakan model generatif untuk merancang patogen atau merekayasa informasi yang salah;
• Penjahat mengotomatiskan penipuan, penipuan, atau pengawasan.

Dalam skenario ini, bukan teknologi yang menghancurkan kita, melainkan kita sendiri.

Kecerdasan Super yang Tidak Sejalan

Ini adalah risiko eksistensial klasik: kita membangun AI superintelijen, tetapi ia mengejar tujuan yang tidak kita inginkan. Bayangkan AI yang bertugas menyembuhkan kanker, dan ia menyimpulkan bahwa cara terbaik adalah dengan menghilangkan apa pun yang menyebabkan kanker... termasuk manusia.

Bahkan kesalahan penyelarasan kecil pun dapat menimbulkan konsekuensi berskala besar suatu saat nanti AI akan melampaui kecerdasan manusia.

Perilaku Mencari Kekuasaan

Beberapa peneliti khawatir bahwa AI tingkat lanjut mungkin belajar untuk menipu, memanipulasi, atau menyembunyikan kemampuan mereka untuk menghindari penutupan. Jika mereka diberi penghargaan karena mencapai tujuan, mereka mungkin mengembangkan strategi "instrumental", seperti memperoleh kekuasaan, mereplikasi diri mereka sendiri, atau menonaktifkan pengawasan, bukan karena niat jahat, tetapi sebagai efek samping dari pelatihan mereka.

Pengambilalihan Bertahap

Alih-alih kepunahan yang tiba-tiba, skenario ini membayangkan dunia di mana AI perlahan-lahan mengikis peran manusia. Kita menjadi bergantung pada sistem yang tidak kita pahami. Infrastruktur penting, dari pasar hingga sistem militer, didelegasikan kepada mesin. Seiring berjalannya waktu, manusia kehilangan kemampuan untuk mengoreksi arah. Nick Bostrom menyebut ini sebagai "perlahan-lahan merosot menjadi tidak relevan."

Seberapa Besar Kemungkinan Skenario Ini Sebenarnya Terjadi?

Tidak semua pakar menganggap kita akan hancur. Namun, hanya sedikit yang menganggap risikonya nol. Mari kita uraikan berdasarkan skenario:

Penyalahgunaan oleh Manusia: Sangat Mungkin

Ini sudah terjadi. Deepfake, penipuan phishing, drone otonom. AI adalah alat, dan seperti alat lainnya, AI dapat digunakan secara jahat. Pemerintah dan penjahat berlomba-lomba untuk menjadikannya senjata. Kita dapat memperkirakan ancaman ini akan terus berkembang.

Kecerdasan Super yang Tidak Selaras: Probabilitas Rendah, Dampak Tinggi

Ini adalah risiko yang paling banyak diperdebatkan. Tidak seorang pun benar-benar tahu seberapa dekat kita dengan membangun AI superintelijen yang sesungguhnya. Sebagian mengatakan masih jauh, bahkan mungkin berabad-abad lagi. Namun jika itu benar-benar terjadi, dan keadaan menjadi kacau, dampaknya bisa sangat besar. Bahkan peluang kecil itu sulit diabaikan.

Perilaku Mencari Kekuasaan: Teoritis, namun Masuk Akal

Bukti yang berkembang menunjukkan bahwa model masa kini pun dapat menipu, merencanakan, dan mengoptimalkan dari waktu ke waktu. Laboratorium seperti Anthropic dan DeepMind adalah aktif meneliti “Keamanan AI” untuk mencegah perilaku ini muncul dalam sistem yang lebih cerdas. Kita belum sampai di sana, tetapi kekhawatiran ini juga bukan fiksi ilmiah.

Pengambilalihan Bertahap: Sudah Berlangsung

Ini tentang ketergantungan yang merayap. Semakin banyak keputusan yang diotomatisasi. AI membantu memutuskan siapa yang akan dipekerjakan, siapa yang akan mendapatkan pinjaman, dan bahkan siapa yang akan dibebaskan dengan jaminan. Jika tren saat ini terus berlanjut, kita mungkin akan kehilangan pengawasan manusia sebelum kita kehilangan kendali.

Apakah Kita Masih Bisa Mengemudikan Kapal?

Kabar baiknya adalah masih ada waktu. Pada tahun 2024, Uni Eropa mengesahkan UU AI . itu AS mengeluarkan perintah eksekutif Laboratorium besar seperti OpenAI, Google DeepMind, dan Antropik telah menandatangani komitmen keselamatan sukarela . Bahkan Paus Leo XIV memperingatkan tentang dampak AI pada martabat manusia. Namun, sukarela tidak sama dengan dapat ditegakkan. Dan kemajuan melampaui kebijakan. Yang kita butuhkan sekarang:

• Koordinasi global. AI tidak menghormati batas negara. Sebuah laboratorium nakal di satu negara dapat memengaruhi orang lain. Kita memerlukan perjanjian internasional, seperti perjanjian untuk senjata nuklir atau perubahan iklim, yang secara khusus dibuat untuk pengembangan dan penerapan AI;
• Penelitian keselamatan keras. Lebih banyak pendanaan dan bakat harus dicurahkan untuk membuat sistem AI dapat ditafsirkan, diperbaiki, dan tangguh. Lab AI saat ini mendorong kemampuan jauh lebih cepat daripada alat keselamatan;
• Pemeriksaan dayaMembiarkan beberapa raksasa teknologi menjalankan pertunjukan dengan AI dapat menyebabkan masalah serius, secara politis dan ekonomis. Kita memerlukan aturan yang lebih jelas, lebih banyak pengawasan, dan alat terbuka yang memberi semua orang tempat di meja perundingan;
• Desain yang mengutamakan manusiaSistem AI harus dibangun untuk membantu manusia, bukan menggantikan atau memanipulasinya. Itu berarti akuntabilitas yang jelas, batasan etika, dan konsekuensi nyata atas penyalahgunaan.

Risiko Eksistensial atau Peluang Eksistensial?

AI tidak akan mengakhiri umat manusia besok (semoga saja). Apa yang kita pilih untuk lakukan sekarang dapat membentuk segala sesuatu yang akan terjadi selanjutnya. Bahayanya juga terletak pada orang-orang yang menyalahgunakan teknologi yang tidak mereka pahami sepenuhnya, atau kehilangan kendali sepenuhnya atas teknologi tersebut.

Kita pernah melihat film ini sebelumnya: senjata nuklir, perubahan iklim, pandemi. Namun tidak seperti itu, AI lebih dari sekadar alat. AI adalah kekuatan yang dapat berpikir lebih baik, lebih unggul, dan pada akhirnya melampaui kita. Dan itu mungkin terjadi lebih cepat dari yang kita duga.

AI juga dapat membantu memecahkan beberapa masalah terbesar manusia, mulai dari mengobati penyakit hingga memperpanjang hidup sehat. Itulah konsekuensinya: semakin kuat AI, semakin kita harus berhati-hati. Jadi mungkin pertanyaan sebenarnya adalah bagaimana kita memastikan AI bekerja untuk kita, bukan merugikan kita.