AI Berpotensi Musnahkan Manusia, Mantan Staf Anthropic Bersuara

AI berpotensi musnahkan manusia menjadi kekhawatiran mantan peneliti Anthropic dan OpenAI. Jacob Coxon menilai perlombaan menuju AI superinteligensi membawa risiko besar.

AI berpotensi musnahkan manusia kembali menjadi sorotan setelah Jacob Coxon mengkritik arah pengembangan kecerdasan buatan di Anthropic dan OpenAI.

Coxon merupakan mantan peneliti di kedua perusahaan tersebut. Ia mengaku memilih mundur karena menilai pengembangan teknologi AI mulai mempertaruhkan keselamatan manusia.

Menurut Coxon, para pengembang AI sebenarnya sangat meyakini teknologi tersebut dapat memusnahkan manusia sebelum akhir dekade ini.

Dalam unggahan di X, Rabu (9/9), Coxon memperingatkan publik agar tidak meremehkan kemampuan AI. Ia menilai sistem AI akan segera melampaui kemampuan manusia.

Selain itu, ia menyebut AI berpotensi meretas berbagai sistem, mengubah banyak bidang secara cepat, serta menguasai kekuatan dan sumber daya nyata.

AI Superinteligensi Picu Kekhawatiran

Yang jadi sorotan, pernyataan Coxon kembali membuka perdebatan mengenai recursive self-improvement. Istilah tersebut merujuk pada kemampuan AI mengembangkan generasi penerusnya sendiri.

Jika kemampuan itu terwujud, manusia berpotensi kehilangan kendali terhadap perkembangan sistem. Namun, hingga kini kemampuan tersebut belum terwujud.

Di sisi lain, Coxon menilai Anthropic dan OpenAI tidak bertindak cukup bertanggung jawab. Ia menuding keduanya berlomba menuju superintelligence yang mampu mengembangkan dirinya sendiri.

Unggahannya kemudian viral. Hingga Kamis (10/9), unggahan tersebut telah mendapat 136,7 juta tayangan di X.

Risiko Kepunahan Jadi Perdebatan Lama

Evan Hubinger, pimpinan tim penyelarasan di Anthropic, turut menguatkan kekhawatiran tersebut. Ia menilai peluang AI memusnahkan manusia berada di atas 10 persen dalam sepuluh tahun mendatang.

Meski begitu, Hubinger mengatakan Anthropic telah berupaya mengatasi risiko tersebut. Namun, perusahaan belum memiliki rencana pasti untuk menyelesaikan persoalan penyelarasan superintelligence.

Kekhawatiran serupa sebenarnya telah muncul sejak lama. Pada 2023, sejumlah tokoh AI menilai risiko kepunahan akibat teknologi ini harus menjadi prioritas global.

Termasuk di dalamnya Sam Altman dan Dario Amodei. Keduanya bersama sejumlah peneliti serta eksekutif AI menandatangani pernyataan mengenai risiko tersebut.

Faktanya, kalangan akademisi juga mengenal istilah p(doom). Istilah itu digunakan sebagai tolok ukur untuk memperkirakan peluang terjadinya skenario terburuk akibat perkembangan AI.