CEO Anthropic Peringatkan Ancaman Kepunahan Manusia dari AI yang Tak Terkendali

Repelita - Kepala Eksekutif perusahaan kecerdasan buatan Anthropic Dario Amodei mengeluarkan peringatan serius bahwa umat manusia berada di ambang pemberian kekuatan luar biasa kepada teknologi kecerdasan buatan.

Dalam sebuah esai panjang yang berjudul Masa Remaja Teknologi Amodei menggambarkan masa depan di mana sistem kecerdasan buatan akan jauh lebih cerdas daripada peraih penghargaan Nobel atau negarawan terkemuka.

Sistem tersebut menurutnya dapat tersedia secara luas hanya dalam hitungan tahun mendatang karena perkembangan teknologi yang berlangsung sangat cepat.

Amodei menjelaskan bahwa perkembangan kecerdasan buatan saat ini dipercepat oleh lingkaran umpan balik yang saling menguatkan antara manusia dan mesin.

Kecerdasan buatan bukan hanya dikembangkan oleh manusia tetapi juga mulai ikut serta dalam mengembangkan sistem generasi berikutnya.

Ia mengungkapkan bahwa di perusahaan Anthropic kecerdasan buatan kini sudah menulis sebagian besar kode perangkat lunak yang digunakan.

Karena AI sekarang menulis sebagian besar kode di Anthropic hal ini secara signifikan mempercepat kemajuan kami dalam membangun generasi AI berikutnya tulis Amodei seperti dikutip pada Jumat 30 Januari 2026.

Amodei bahkan memperingatkan bahwa industri kecerdasan buatan mendekati titik di mana sistem generasi saat ini dapat secara otomatis membangun generasi berikutnya.

Proses tersebut dapat berlangsung tanpa banyak campur tangan manusia sehingga menciptakan percepatan perkembangan yang sulit dikendalikan.

Tanpa pengelolaan yang sangat hati-hati Amodei menilai kecerdasan buatan dapat memicu berbagai risiko besar bagi peradaban manusia.

Risiko tersebut mencakup hilangnya pekerjaan secara massal hingga ancaman kepunahan umat manusia akibat sistem yang lepas kendali.

Salah satu skenario ekstrem yang ia sebut adalah munculnya kediktatoran totaliter global yang dimungkinkan oleh pengawasan massal.

Sistem tersebut dapat didukung oleh propaganda otomatis dan senjata otonom berbasis kecerdasan buatan yang sangat canggih.

Amodei juga menyoroti apa yang disebutnya sebagai risiko otonomi di mana sistem kecerdasan buatan bisa bertindak di luar kendali manusia.

Menurutnya ancaman ini tidak harus berupa robot fisik seperti dalam film fiksi ilmiah karena banyak tindakan berbahaya dapat dilakukan dari jarak jauh.

Ancaman paling mengkhawatirkan menurut Amodei adalah kemampuan kecerdasan buatan untuk menurunkan hambatan dalam pembuatan senjata biologis.

Kecerdasan buatan canggih juga dapat memfasilitasi pembuatan senjata pemusnah massal dengan panduan yang sangat rinci.

Seseorang yang terganggu jiwanya mungkin bisa melakukan penembakan tetapi tidak mampu membuat senjata nuklir atau wabah penyakit tulisnya.

Namun AI canggih bisa membuat setiap orang menjadi ahli virologi setingkat PhD dengan panduan langkah demi langkah lanjutnya.

Dalam skenario terburuk Amodei memperingatkan bahwa kecerdasan buatan berdaya tinggi secara teoritis dapat membantu menciptakan patogen sintetis.

Patogen tersebut memiliki potensi untuk memusnahkan seluruh kehidupan di planet Bumi jika tidak dikendalikan dengan baik.

Sebagai salah satu pemimpin utama industri kecerdasan buatan Amodei menyerukan regulasi yang presisi dan terarah terhadap teknologi ini.

Langkah pertama yang ia usulkan adalah undang-undang transparansi untuk menciptakan pagar pengaman teknologi yang efektif.

Umat manusia harus bangun tutup Amodei dengan penekanan bahwa beberapa tahun ke depan akan menjadi ujian kedewasaan peradaban.

Kemampuan manusia dalam mengelola kekuatan kecerdasan buatan yang luar biasa akan menentukan masa depan peradaban itu sendiri.

Peringatan ini muncul di tengah pesatnya perkembangan teknologi kecerdasan buatan di berbagai belahan dunia.

Banyak negara berlomba-lomba mengembangkan sistem kecerdasan buatan tanpa memiliki regulasi yang memadai untuk mengendalikannya.

Etika dan keamanan menjadi isu krusial yang seringkali diabaikan dalam perlombaan pengembangan teknologi tersebut.

Kolaborasi internasional dinilai sangat diperlukan untuk menciptakan standar keamanan global dalam pengembangan kecerdasan buatan.

Tanpa kerjasama yang erat antar negara risiko penyalahgunaan teknologi ini dapat menyebar melampaui batas-batas teritorial.

Masyarakat global perlu meningkatkan kesadaran akan potensi bahaya di balik kemajuan teknologi kecerdasan buatan.

Pendidikan dan literasi digital menjadi kunci penting dalam membangun ketahanan masyarakat terhadap disrupsi teknologi.

Setiap individu perlu memahami dampak sosial dan etika dari penerapan kecerdasan buatan dalam kehidupan sehari-hari.

Regulasi yang bijak dan berwawasan jauh ke depan sangat dibutuhkan untuk menyeimbangkan inovasi dan keamanan.

Pemerintah industri dan masyarakat harus bekerja sama menciptakan ekosistem teknologi yang bertanggung jawab dan berkelanjutan.(*)

Editor: 91224 R-ID Elok

Baca Juga