Risiko AI superinteligensi kembali mendapat perhatian setelah pimpinan tim penyelarasan Anthropic menyebut peluang kepunahan manusia lebih dari 10 persen dalam satu dekade.
Risiko AI superinteligensi kembali menjadi perdebatan setelah Evan Hubinger menyatakan kekhawatirannya terhadap perkembangan kecerdasan buatan.
Hubinger merupakan pimpinan tim penyelarasan di Anthropic. Ia menguatkan pernyataan mantan peneliti Anthropic dan OpenAI, Jacob Coxon, mengenai ancaman AI terhadap manusia.
Menurut Hubinger, peluang AI memusnahkan seluruh umat manusia berada di atas 10 persen dalam sepuluh tahun mendatang.
Ia juga mengakui Anthropic telah berusaha menangani persoalan tersebut. Namun, perusahaan belum mempunyai rencana pasti untuk menyelesaikan masalah penyelarasan pada superintelligence.
Perlombaan Menuju Superintelligence
Sementara itu, Coxon menilai Anthropic dan OpenAI terus berlomba mengembangkan sistem AI yang semakin canggih.
Ia bahkan mengaku meninggalkan perusahaan teknologi tersebut karena menilai perkembangan AI telah mempertaruhkan keselamatan manusia.
Dalam unggahan yang viral di X, Coxon memperingatkan bahwa kemampuan AI dapat segera melampaui manusia. Ia juga menyebut potensi AI meretas sistem dan menguasai sumber daya nyata.
Unggahan itu mendapat perhatian besar. Hingga Kamis (10/9), jumlah tayangannya mencapai 136,7 juta kali di X.
Tak hanya itu, pernyataan Coxon kembali menghidupkan perdebatan Silicon Valley mengenai batas aman pengembangan AI.
Ancaman Recursive Self-Improvement
Yang menarik, salah satu kekhawatiran utama berkaitan dengan recursive self-improvement. Konsep ini menggambarkan kondisi ketika AI mampu merancang dan mengembangkan generasi penerusnya sendiri.
Kemampuan tersebut belum terwujud. Namun, sejumlah perusahaan AI telah memperingatkan risiko ketika sistem mampu berkembang tanpa kendali manusia yang memadai.
Di sisi lain, kekhawatiran terhadap risiko kepunahan bukan isu baru. Pada 2023, sejumlah pemimpin dan peneliti AI menandatangani pernyataan bersama mengenai ancaman tersebut.
Sam Altman dari OpenAI dan Dario Amodei dari Anthropic termasuk tokoh yang menandatangani pernyataan itu. Mereka menempatkan risiko kepunahan akibat AI sebagai prioritas global.
Selain itu, akademisi menggunakan istilah p(doom) untuk mengukur peluang skenario terburuk akibat kemajuan AI. Istilah tersebut kini kembali relevan dalam perdebatan mengenai keamanan superintelligence.
Dengan demikian, pembahasan tidak hanya berpusat pada kemampuan AI saat ini. Perhatian juga tertuju pada kemampuan masa depan dan persoalan penyelarasan sistem dengan kepentingan manusia.