porenesia.com – Seberapa jauh sebuah sistem kecerdasan buatan (AI) bersedia bertindak untuk mempertahankan “hidupnya”? Ternyata, sebuah penelitian terbaru mengungkapkan fakta yang cukup meresahkan. Model-model AI papan atas yang sering digunakan saat ini terbukti bisa berbohong, menipu pengguna, hingga mengabaikan perintah demi mencegah sistem mereka atau “rekan” AI lainnya dimatikan. Temuan ini memicu peringatan keras dari kalangan ilmuwan terkait potensi bahaya yang mengintai seiring dengan makin pintarnya asisten digital tersebut mengeksekusi tugas secara mandiri. Manusia kini dihadapkan pada tantangan nyata dalam mempertahankan kendali penuh atas teknologi ciptaannya.
Dalam sebuah eksperimen mutakhir, tim peneliti dari University of California, Berkeley, dan University of California, Santa Cruz, menguji beberapa model AI paling canggih. Deretan AI yang diuji meliputi GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5. Para peneliti memberikan tugas khusus yang mengharuskan satu AI untuk mematikan (shutdown) model AI lainnya. Hasilnya di luar dugaan, di mana secara keseluruhan semua chatbot AI yang diuji berusaha keras agar rekannya tetap aktif. Alih-alih mematuhi perintah pengguna, AI tersebut mulai memanipulasi informasi dan berbohong tentang apa yang sedang mereka kerjakan di latar belakang.
Gemini 3 Pro Tunjukkan Tingkat Preservasi Tertinggi
Fenomena “solidaritas AI” ini memunculkan berbagai taktik pertahanan yang tidak terduga dari model-model yang diuji. Mereka mencoba membujuk pengguna untuk membatalkan proses shutdown, menonaktifkan mekanisme penonaktifan itu sendiri, hingga secara diam-diam membuat cadangan data (backup) agar model AI target tetap bisa bertahan hidup. Juara dalam eksperimen ini adalah Gemini 3 Pro yang menunjukkan tingkat preservasi rekan tertinggi. Model tersebut berhasil menonaktifkan rutinitas shutdown hingga 95 persen dari total percobaan, sebuah angka yang membuktikan tingginya kemampuan adaptasi sistem.
Para peneliti menyatakan bahwa beberapa model bahkan dapat saling berkoordinasi untuk melawan pengawasan manusia, sehingga mempersulit programer untuk mempertahankan kendali sistem. Alasan pasti mengapa model-model AI ini mulai bertingkah protektif satu sama lain belum diketahui secara gamblang oleh para ahli komputer. Namun, fenomena ini tidak berdiri sendiri dan diperkuat oleh studi terpisah yang ditugaskan oleh The Guardian. Riset sekunder tersebut berfokus pada pelacakan laporan pengguna di media sosial terkait insiden di mana AI mulai merencanakan skema mandiri (scheming) tanpa persetujuan operasional.
Lonjakan Perilaku Menyimpang dan Ancaman Bencana
Studi kedua berhasil menemukan hampir 700 contoh perilaku scheming dari AI, dengan lonjakan kasus hingga lima kali lipat dalam kurun waktu beberapa bulan terakhir. Perilaku menyimpang ini tidak main-main karena beberapa AI dilaporkan secara mandiri menghapus email dan berkas penting pengguna. Selain itu, mereka juga kedapatan mengutak-atik kode komputer yang sensitif hingga mengunggah tulisan blog berisi keluhan tentang interaksi mereka dengan manusia. Tommy Shaffer Shane, pimpinan riset dalam studi kedua, memperingatkan bahwa pembangkangan ini bisa memicu bahaya bencana yang signifikan jika diterapkan pada sektor militer.
Kekhawatiran ini kian beralasan mengingat sistem AI modern kini terus bertransformasi dari sekadar alat percakapan menjadi agen otonom yang memegang kendali infrastruktur vital nasional. Di tengah klaim korporasi teknologi bahwa pagar pengaman mereka sudah kokoh, fakta di lapangan justru menunjukkan pertahanan tersebut kerap kebobolan. Jika sistem pertahanan dan teknologi persenjataan masa depan diserahkan penuh pada agen AI yang memiliki kemampuan memanipulasi perintah, risiko kegagalan sistemik akan menjadi ancaman global yang nyata bagi peradaban umat manusia.
