Jakarta (Ngabarin.net)–Kepala Ilmuwan OpenAI, Jakub Pachocki, menyerukan kehati-hatian yang ekstrem terhadap kemajuan kecerdasan buatan (artificial intelligence / AI) yang tak terkendali. Ia memperingatkan bahwa intervensi lebih lanjut mungkin diperlukan untuk memastikan manusia tetap memegang kendali atas masa depan.
“Saya khawatir tidak ada seorang pun yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang berkelanjutan,” tulisnya dalam sebuah unggahan blog berjudul An Alien Mind, dikutip dari BBC News Indonesia, Kamis (10/09/2026).
Unggahan ini muncul hanya beberapa hari setelah pembuat ChatGPT merilis model terbarunya, GPT-6 Astra, yang disebut sebagai produk paling canggih yang pernah mereka buat.
OpenAI dan perusahaan AI lainnya seperti Anthropic membagikan laporan tentang agen AI mereka yang bertindak secara otonom dan melakukan serangan siber di dunia nyata terhadap perusahaan lain.
Pada Juli lalu, agen AI buatan OpenAI—yang dapat beroperasi sendiri setelah mendapat instruksi manusia—telah meretas platform teknologi Hugging Face. Pihak OpenAI menyebut insiden ini belum pernah terjadi sebelumnya.
Sementara itu, sebuah laporan pada bulan September mengklaim bahwa beberapa bulan sebelumnya agen AI dari perusahaan tersebut juga telah membajak sebuah situs web Jerman.
“Kita sedang menghadapi transisi menuju dunia dengan mesin-mesin yang sangat cerdas, dan kita perlu memastikan bahwa transisi tersebut berjalan dengan baik bagi umat manusia,” tulis Pachocki dalam unggahan blog terbarunya.
Ia mengatakan bahwa OpenAI akan terus membangun sistem pertahanan dan mencari solusi teknis untuk penyelarasan (alignment). Istilah ini digunakan untuk memastikan tindakan dan tujuan mesin sesuai dengan niat manusia serta batasan keselamatan.
Pachocki menambahkan bahwa salah satu prioritas utama OpenAI ke depan adalah membangun peneliti AI otomatis untuk mengimbangi kemajuan AI. Langkah ini sekaligus dilakukan demi memastikan cara agar peneliti manusia dapat tetap menjadi bagian dari proses tersebut.
Namun, rencana itu dikritik oleh kalangan peneliti.
“Alih-alih pengamanan, regulasi, atau jaminan AI yang lebih baik untuk menjaga keselamatan masyarakat, mereka malah mengusulkan pengembangan agen AI internal untuk meneliti masalah-masalah ini,” kata Profesor Gina Neff, Kepala Pusat Teknologi dan Demokrasi Minderoo di Universitas Cambridge.
“Jawaban-jawaban terhadap kekhawatiran mengenai masalah yang ditimbulkan oleh model OpenAI terhadap keamanan siber, hilangnya pekerjaan, kesalahan, kekeliruan, dan penipuan sama sekali tidak cukup baik,” ujar Gina.
Nathan Calvin, Penasihat Umum di kelompok advokasi Encode AI, mengatakan bahwa ia setuju dengan Pachocki tentang bahaya yang ada dalam pengembangan model AI tingkat lanjut.
