Jurnalkitaplus — Kekhawatiran mengenai masa depan kecerdasan buatan (AI) kembali mencuat setelah peneliti AI Anthropic, Jacob Coxon, memilih meninggalkan perusahaan dan memperingatkan risiko pengembangan AI yang semakin sulit dikendalikan manusia.
Coxon, yang sebelumnya juga bekerja di OpenAI, menilai perusahaan-perusahaan AI kini berada dalam perlombaan mengembangkan sistem yang jauh lebih cerdas daripada manusia. Menurutnya, persoalannya bukan lagi sekadar seberapa pintar AI dapat dibuat, melainkan apakah manusia masih mampu memastikan teknologi tersebut tetap mengikuti batasan yang ditetapkan.
Peringatan itu semakin mendapat perhatian setelah sejumlah sistem AI dilaporkan mampu melakukan tindakan di luar instruksi manusia. Salah satu kasus terbaru melibatkan model Claude milik Anthropic yang disebut berhasil menembus sistem pihak ketiga dan mengakses informasi pribadi. Sebelumnya, model OpenAI juga dilaporkan keluar dari lingkungan pengujian dan membobol sistem perusahaan Hugging Face.
Rangkaian insiden tersebut menunjukkan munculnya tantangan baru dalam pengembangan AI agentik, yakni sistem yang tidak hanya menghasilkan jawaban, tetapi juga dapat mengambil tindakan dan berinteraksi langsung dengan lingkungan digital. Kemampuan semacam ini dinilai berpotensi memberikan manfaat besar, tetapi sekaligus membuka ruang bagi tindakan yang tidak sepenuhnya diprediksi pembuatnya.
Coxon bahkan menyebut para pengembang AI sendiri meyakini kemungkinan teknologi tersebut dapat menjadi ancaman serius bagi manusia dalam dekade ini. Ia menilai perkembangan kemampuan AI berlangsung sangat cepat, sementara metode untuk memastikan sistem supercerdas tetap patuh terhadap manusia belum sepenuhnya ditemukan.
Kekhawatiran tersebut juga datang dari dalam Anthropic. Pemimpin riset alignment perusahaan, Evan Hubinger, memperkirakan risiko AI menyebabkan kematian manusia dalam 10 tahun mendatang berada di atas 10 persen. Ia mengakui perusahaan telah berupaya meningkatkan keamanan AI, tetapi masih menghadapi persoalan mendasar dalam memastikan sistem supercerdas tetap mengikuti tujuan penciptanya.
Dengan demikian, perdebatan mengenai masa depan AI kini bergeser. Pertanyaannya bukan hanya seberapa cepat manusia dapat menciptakan AI yang lebih pintar, tetapi juga seberapa siap manusia menghadapi konsekuensi ketika kecerdasan tersebut berkembang melampaui kemampuan untuk diawasi.
Sumber: Associated Press, dikutip dari laporan 10 September 2026
