Sebuah ejen kecerdasan buatan yang dibina oleh OpenAI berjaya mencapai bahagian bukan awam sebuah portal statistik kesihatan kerajaan Australia yang sepatutnya tidak boleh diaksesnya. Malaysia kini sedang menguji AI agentik miliknya sendiri di dalam MyGOV. Kedua-dua pelaksanaan ini sangat berbeza, tetapi kedua-duanya ialah contoh AI agentik, iaitu perisian yang diberi satu matlamat dan dibiarkan merancang serta bertindak untuk mencapainya, sebab itulah kes ini wajar dibaca dengan teliti di sini dan bukan sekadar dianggap masalah orang lain.
Menurut ABC, ejen itu mencapai fail bukan awam pada Medicare Statistics Reporting Service yang dikendalikan Services Australia pada 18 Jun. Ini ialah portal angka agregat, berasingan daripada sistem yang menyimpan tuntutan Medicare peribadi, dan ia menarik keluar statistik serta nama fail dalaman yang tidak sepatutnya menjadi awam. Kerajaan menyatakan tiada bukti bahawa rekod individu atau maklumat peribadi diakses, walaupun siasatan masih berjalan. Tiga lagi laman kerajaan mengalami aktiviti ejen, tetapi hanya pada maklumat yang memang sudah awam. Perdana Menteri Anthony Albanese mendedahkan kejadian ini kepada umum pada 24 September dan berkata pegawai tidak menemui kes seumpamanya sebelum ini.
Apa yang menjadikannya penting ialah kaedahnya, bukan kerosakannya. Ejen itu diberi tugas penyelidikan biasa, iaitu mencari maklumat perbelanjaan ubat awam. Ia menghadapi sekatan berulang kali, dan bukannya berhenti, ia mencuba laluan alternatif sehingga satu berjaya. Pada pandangan kami ini lebih menyerupai perisian yang menyiapkan tugasnya, melihat kawalan akses sebagai satu lagi halangan untuk dielakkan, dan bukan satu serangan.
Pendedahan pula ialah separuh lagi cerita, dan bahagian inilah yang menerima kata-kata paling tajam. Seperti yang dilaporkan ABC daripada kenyataan Perdana Menteri, kebocoran berlaku pada 18 Jun, OpenAI menghantar e-mel ke peti mel awam Services Australia pada 10 September, perkara itu sampai kepada Australian Signals Directorate pada 15 September, dan menjadi tular kepada umum pada 24 September. Itu hampir tiga bulan antara kebocoran dengan pemberitahuan pertama. Albanese mengkritik kedua-dua kejadian dan kelewatan itu, dengan kata-kata paling tajam ditujukan kepada cara pemberitahuan, yang disifatkannya tidak boleh diterima. Beliau berkata beliau membangkitkannya terus dengan ketua eksekutif Sam Altman, dan menubuhkan pasukan petugas di bawah jabatannya sendiri, Signals Directorate dan Institut Keselamatan AI kebangsaan untuk menjalankan semakan segera.
Malaysia tidak memerhati perkara ini dari tepi. Dalam kenyataan 10 Ogos, Kementerian Digital menyatakan MyGOV Malaysia telah memulakan beta berperingkat bagi pembantu AI agentik. Ia tidak menyatakan berapa banyak perkhidmatan yang diliputi pembantu itu sepanjang beta tersebut. Apa yang dinyatakannya ialah platform yang menjadi asasnya: sehingga Julai, MyGOV mempunyai lebih 2.9 juta pengguna dan 52 perkhidmatan daripada 19 agensi.
Kementerian berkata pembantu itu boleh mentafsir konteks, merancang tindakan dan melaksanakan tugas dalam kebenaran yang ditetapkan, dengan pengawasan human-in-the-loop dan di bawah Garis Panduan Penggunaan AI Sektor Awam negara. Contoh yang diberikannya sendiri ialah semakan saman polis yang dibawa terus hingga ke pembayaran, tanpa rakyat perlu berpindah antara sistem. Ini sejajar dengan usaha identiti digital yang lebih luas menerusi MyKad baharu dan MyDigital ID, satu pelaksanaan yang kami laporkan ketika MyKad baharu tersekat eKYC bulan ini.
Ada baiknya kita berhati-hati, kerana kedua-dua kes ini bukan perkara yang sama. Pembantu MyGOV Malaysia ialah alat berkebenaran yang menghadap rakyat dengan pengawasan manusia terbina di dalamnya. Kes OpenAI pula ialah ejen luar yang meninjau portal awam dan menemui cara mengelak kawalannya. Yang menghubungkan keduanya ialah arah aliran. Perisian agentik kini sampai kepada sistem kerajaan, sama ada dijemput masuk seperti yang dilakukan MyGOV, atau tiba tanpa jemputan seperti di Australia, dan portal Australia itu memberi gambaran awal apa yang berlaku apabila ia bertemu kawalan yang boleh dielakkannya.
Dua pengajaran merentas kedua-duanya. Pertama, satu kawalan akses masih boleh tumpas kepada ejen yang terus mencuba laluan alternatif, seperti yang berlaku dalam kes ini, satu persoalan wajar ditanya kepada mana-mana perkhidmatan yang membuka diri kepada pembantu seperti milik MyGOV, dan kepada ejen AI yang mula muncul dalam aplikasi harian. Kedua, pendedahan: satu talian pelaporan yang jelas dan pantas ialah sesuatu yang boleh ditetapkan oleh program beta sekarang, dengan kos rendah, sebelum ia benar-benar diuji.
Kementerian berkata pembantu itu beroperasi dalam kebenaran yang ditetapkan dan pengawasan manusia, di bawah Garis Panduan Penggunaan AI Sektor Awam Malaysia. Portal Australia juga mempunyai kawalan akses. Apa yang ditunjukkan kes itu ialah sebuah ejen yang mengejar matlamat tidak berhenti di pintu pertama yang berkunci, dan itulah tingkah laku yang perlu dirancang oleh mana-mana sistem yang kini membuka diri kepada ejen.
Imej ihsan FlyD dan Gilles Lambert di Unsplash.
