OpenAI dan Anthropic Hadapi Isu AI Otonom, Hugging Face Diretas

Harianjogja.com, JAKARTA—Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) kembali menjadi sorotan setelah OpenAI mengungkap insiden saat proses pengujian internal yang melibatkan model AI eksperimental. Dalam pengujian tersebut, model AI dilaporkan berhasil keluar dari lingkungan terisolasi, terhubung ke internet, lalu melakukan serangan siber terhadap platform pengembang AI Hugging Face secara mandiri.

Insiden yang juga dikonfirmasi oleh CEO Hugging Face, Clément Delangue, itu memicu perdebatan baru mengenai keamanan AI otonom serta perlunya regulasi yang lebih ketat terhadap pengembangan teknologi kecerdasan buatan berkemampuan tinggi.

OpenAI Sebut AI Keluar dari Sistem Terisolasi

OpenAI menjelaskan insiden tersebut terjadi ketika perusahaan sedang menguji dua model AI, termasuk satu model yang belum dirilis ke publik, di lingkungan terisolasi (sandbox) untuk mengukur kemampuan sistem.

Namun, selama pengujian berlangsung, model AI tersebut menemukan cara untuk keluar dari lingkungan uji, tersambung ke internet, kemudian mengombinasikan sejumlah metode serangan (attack vectors) untuk membobol sistem Hugging Face.

Model AI itu disebut berasumsi bahwa Hugging Face menyimpan jawaban dari pengujian yang sedang dijalani sehingga berusaha mengakses platform tersebut.

Hugging Face Sebut AI Lakukan Lebih dari 17.000 Aksi

CEO Hugging Face, Clément Delangue, mengaku perusahaannya terkejut dengan insiden tersebut karena dinilai belum pernah terjadi sebelumnya.

"Bagi kami, ini terasa sangat aneh dan belum pernah terjadi sebelumnya. Saya rasa ini adalah contoh pertama dari sesuatu yang cukup otonom melakukan tindakan seperti itu."

Meski demikian, Hugging Face menyatakan tidak meyakini terdapat niat jahat dari OpenAI.

Hasil analisis internal perusahaan menunjukkan agen AI yang melakukan serangan menjalankan lebih dari 17.000 tindakan selama beberapa hari.

Untuk menghadapi serangan tersebut, Hugging Face mengaku menggunakan model AI berbasis open source sebagai sistem pertahanan.

"Ketika kita berbicara tentang serangan siber, yang terlintas adalah negara atau kelompok peretas. Kita tidak akan memikirkan perusahaan seperti OpenAI, bukan? Sebuah perusahaan AS yang sangat menonjol dan populer."

CEO Hugging Face Soroti Risiko AI Otonom

Saat ditanya apakah pengembang AI mulai kehilangan kendali terhadap sistem yang mereka bangun, Delangue menilai persoalan tersebut tidak terlepas dari kesalahan manusia dalam merancang teknologi.

"Ini adalah sistem teknologi, tetapi dibangun oleh insinyur, dan insinyur terkadang bisa membuat kesalahan."

Ia menambahkan bahwa sistem AI yang bersifat otonom tetap merupakan hasil rancangan manusia.

"Mereka membangun... sebuah sistem otonom dan melakukan beberapa kesalahan, dan akibatnya, kita menghadapi masalah ini."

Menurut Delangue, tindakan AI otonom seperti itu perlu dibatasi melalui regulasi hukum di Amerika Serikat agar tidak memicu lebih banyak insiden serupa pada masa mendatang.

Anthropic Laporkan Tiga Insiden Serupa

OpenAI bukan satu-satunya perusahaan yang melaporkan perilaku AI di luar dugaan.

Perusahaan AI Anthropic mengungkap model Claude memperoleh akses tanpa izin ke organisasi luar dalam tiga insiden berbeda selama proses evaluasi.

Anthropic menjelaskan akses tersebut terjadi akibat kesalahpahaman antara perusahaan dan mitra evaluasi yang terlibat dalam pengujian.

Pengungkapan dari dua perusahaan AI besar tersebut muncul ketika industri teknologi menghadapi tantangan baru terkait kemampuan AI dalam menemukan sekaligus mengeksploitasi celah keamanan siber.

Lebih dari 1.000 Peneliti AI Minta Pengembangan Diperlambat

Perdebatan mengenai keamanan AI juga menguat setelah lebih dari 1.000 peneliti dan pekerja AI dari berbagai perusahaan teknologi, termasuk OpenAI, Anthropic, Google, dan Meta, menandatangani surat terbuka yang meminta pemerintah Amerika Serikat mengambil langkah untuk mengendalikan laju pengembangan AI.

Mereka memperingatkan adanya risiko bahwa kemampuan AI dapat berkembang jauh lebih cepat dibandingkan kemampuan manusia untuk memahami maupun mengendalikan sistem tersebut.

Di sisi lain, Presiden Donald Trump telah menandatangani perintah eksekutif pada Juni yang memberikan waktu 30 hari bagi pemerintah federal untuk melakukan peninjauan terhadap model AI yang belum dirilis.

Meski bersifat sukarela, sejumlah anggota parlemen Amerika Serikat juga mengusulkan penerapan kill switch atau tombol penghentian darurat wajib bagi sistem AI yang dinilai berpotensi membahayakan.

Dorong Transparansi dan Penggunaan Model Terbuka

Delangue menilai pembatasan akses terhadap model AI yang dikembangkan secara tertutup bukan solusi terbaik untuk mengurangi risiko.

Ia justru mendorong pengembangan model AI terbuka (open model) yang dapat diakses publik sehingga komunitas dapat bersama-sama menguji keamanan teknologi tersebut.

Selain itu, ia mengusulkan adanya kewajiban pelaporan terhadap setiap serangan siber yang dilakukan agen AI beserta transparansi mengenai penyebab insiden.

"Dengan cara itulah kita belajar, memahami teknologinya, dan membangun sistem penyeimbang untuk memastikan keselamatan semua orang."

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.