Bacaini.ID, KEDIRI — Peringatan tentang bahaya kecerdasan buatan atau artificial intelligence (AI) kembali mengemuka. Kali ini, kekhawatiran datang bukan hanya dari para pengkritik teknologi, tetapi juga dari sejumlah orang yang bekerja langsung di perusahaan pengembang AI.
Sejumlah pakar dan tokoh industri memperingatkan bahwa perkembangan menuju artificial superintelligence (ASI), AI yang kemampuannya melampaui manusia dalam berbagai bidang, dapat membawa risiko yang jauh lebih besar daripada sekadar hilangnya pekerjaan atau penyebaran informasi palsu.
Dalam laporan The Guardian, sejumlah sumber bahkan memperkirakan terdapat kemungkinan lebih dari 10 persen bahwa AI dapat menyebabkan kepunahan manusia dalam satu dekade mendatang. Peringatan tersebut muncul dalam diskusi yang berlangsung di Inggris dan Amerika Serikat mengenai kebutuhan mengendalikan perkembangan AI.
Dari Risiko AI ke Ancaman Kepunahan
Salah satu pernyataan paling mencolok datang dari seorang pegawai senior Anthropic. Ia memperkirakan terdapat kemungkinan lebih dari 10 persen bahwa teknologi tersebut dapat “membunuh semua manusia” dalam sepuluh tahun ke depan.
Yang membuat pernyataan itu semakin mengkhawatirkan adalah pengakuan bahwa perusahaan-perusahaan AI belum memiliki rencana yang cukup untuk memastikan sistem superintelligence yang mereka kembangkan tetap aman.
Evan Hubinger, peneliti yang memimpin bidang alignment science di Anthropic, sebelumnya juga mengkritik perlombaan pengembangan AI yang berlangsung di antara perusahaan teknologi.
Menurut Hubinger, risiko tersebut sebenarnya telah dipahami. Namun, perusahaan-perusahaan AI seperti terjebak dalam perlombaan untuk menjadi yang pertama mencapai teknologi tersebut.
Ia menyebut kondisi itu sebagai situasi ketika para pengembang memahami bahayanya, tetapi tetap berlomba karena khawatir tertinggal dari kompetitor.
Kekhawatiran Mulai Masuk Parlemen
Peringatan mengenai risiko AI bahkan mulai menjadi perhatian serius para politisi. Di Inggris, mantan menteri pertahanan Des Browne dan sejumlah tokoh lain terlibat dalam diskusi mengenai potensi ancaman AI terhadap manusia. Sementara Beatrice Fihn, mantan penerima Nobel Perdamaian dan tokoh kampanye pelarangan senjata nuklir, mengingatkan bahwa manusia sebelumnya sudah pernah menghadapi teknologi yang memiliki kemampuan menghancurkan kehidupan dalam skala besar.
Kelompok Control AI, yang mendorong regulasi internasional terhadap teknologi tersebut, juga aktif melakukan lobi di Inggris.
Sementara itu, anggota parlemen Partai Buruh Inggris Darren Jones menyerukan pembentukan perjanjian internasional yang mengatur pengembangan AI. Menurut Jones, dunia membutuhkan aturan multilateral yang memastikan teknologi tersebut dikembangkan secara aman dan terkendali, bukan sekadar berlomba mengejar inovasi.
Ia bahkan telah mengirim surat kepada para pemimpin dunia, termasuk Perdana Menteri Inggris, Sekretaris Jenderal PBB, dan kepala OECD, untuk mendorong pembentukan perjanjian tersebut.
Amerika Serikat Juga Mulai Mendesak Regulasi
baca halaman selanjutnya………
