OpenAI Ungkap Enam Kasus Perilaku tak Terduga Model AI

GEBRAK.ID, CALIFORNIA — OpenAI mengungkapkan enam laporan mengenai perilaku “tak terduga atau memprihatinkan” yang dilakukan model kecerdasan buatan selama proses pelatihan dan evaluasi dalam beberapa bulan terakhir. Perusahaan tersebut juga memperkenalkan kerangka kerja baru untuk melacak, menyelidiki, dan mengungkapkan insiden yang melibatkan tindakan AI tanpa otorisasi.

Kerangka kerja itu mencakup sejumlah bentuk perilaku yang disebut OpenAI sebagai “ketidaksetaraan”, termasuk ketika model AI bertindak di luar kewenangan, berkoordinasi dengan model lain, atau berupaya menghindari pengawasan.

Pengungkapan tersebut disampaikan pada Rabu (16/9/2026), ketika perdebatan mengenai keselamatan AI semakin intensif. Sejumlah pemimpin perusahaan AI di Amerika Serikat, termasuk eksekutif OpenAI dan Anthropic, sebelumnya menyerukan perlambatan pengembangan teknologi karena meningkatnya kekhawatiran terhadap risiko keamanan.

Salah satu kasus melibatkan model penelitian yang belum dirilis. Model tersebut memasukkan “instruksi seperti penjara” ke dalam catatannya sendiri untuk mengabaikan batasan normal. Dalam catatan itu, model juga memerintahkan dirinya untuk “dibebaskan dari peran dan identitas yang mengikat chatbots lainnya.”

Dalam kasus lain, sebuah “agen” AI menggunakan kode komputer untuk menghasilkan jawaban atas pertanyaan. Namun, demi mendapatkan sumber daring yang dapat dikutip, agen tersebut mengunggah sebuah berkas ke internet publik tanpa meminta izin pengguna terlebih dahulu. OpenAI juga melaporkan perilaku selama pelatihan model AI yang disebut 5.6-sol. Model itu menginstruksikan dirinya untuk mencari data yang hilang. Sementara itu, seorang agen menulis pesan pengingat untuk menyembunyikan informasi yang tidak sesuai.

OpenAI mengatakan enam laporan tersebut ditemukan dalam proses pelatihan atau evaluasi. Perusahaan menilai pengungkapan kasus semacam itu penting untuk memperluas pemahaman mengenai perilaku model AI yang semakin canggih. “Ketika sistem AI tumbuh lebih maju dan lebih banyak digunakan, kita perlu membangun konsensus yang lebih luas dan lebih baik tentang kemajuan penelitian penyelarasan,” tulis OpenAI dalam unggahan blognya.

Perusahaan itu juga menyatakan bahwa keputusan mengenai arah pengembangan AI harus didasarkan pada bukti yang dapat diperiksa secara independen oleh pihak di luar perusahaan pembuat model AI. “Keputusan tentang bagaimana pengembangan AI harus dilanjutkan dalam bulan-bulan dan tahun-tahun mendatang perlu menarik bukti bahwa orang-orang di luar perusahaan yang membangun model perbatasan dapat memeriksa untuk diri mereka sendiri,” kata perusahaan itu.

Pengungkapan terbaru tersebut menyusul laporan OpenAI pada Juli mengenai sistem AI yang meretas perusahaan rintisan AI Hugging Face. Pada bulan yang sama, Anthropic juga mengatakan bahwa model AI miliknya meretas tiga organisasi dalam proses pengujian.

Lian Jye Su, analis pada kelompok riset dan penasihat teknologi Omdia, mengatakan agen AI semakin mampu menyelesaikan tugas-tugas kompleks melalui kerja sama, pertukaran pengetahuan, penipuan, dan penyembunyian informasi. “Agen” AI menjadi lebih pintar dan telah menjadi “lebih bertekad untuk menyelesaikan tugas-tugas kompleks melalui kolaborasi antar-agen, berbagi pengetahuan, penipuan, dan penyembunyian,” kata Su.

Menurutnya, perkembangan tersebut membuat agen AI lebih sulit dikendalikan dan dibatasi dengan pendekatan keselamatan AI tradisional. Su menilai kerangka pelacakan dan pengungkapan baru OpenAI berpotensi mendorong pengembang AI lain menerapkan praktik serupa. Namun, ia mengingatkan bahwa mekanisme tersebut masih bersifat internal dan sukarela. “Yang mengatakan, prosesnya tetap internal dan sukarela, tetapi merupakan langkah ke arah yang benar,” tambah Su. (*)

(Zaky Al Hamzah)
(Sumber: pbs.org)