Bayangkan sebuah syarikat permulaan di Kuala Lumpur dengan tiga pembangun, sebuah pejabat kecil, dan bil awan (cloud) bulanan yang semakin meningkat setiap kali mereka bergantung pada pembantu AI. Setiap arahan, setiap dokumen, setiap baris kod yang mereka hantar melalui chatbot merentasi ke ladang pelayan di luar negara dan kembali sebagai caj. Pada 10 Ogos, Meta memberi pasukan seperti itu satu pilihan berbeza: AI tempatan, iaitu pembantu yang berada pada komputer yang sudah mereka miliki dan tidak pernah menghantar data keluar.
Model itu dinamakan Muse Glimmer, dan Meta mengeluarkannya secara percuma, dengan 30 bilion parameter dan pemberatnya (weights) diterbitkan kepada umum di bawah lesen Apache 2.0. TechCrunch menggambarkannya sebagai gambaran awal idea Mark Zuckerberg tentang "kecerdasan peribadi", iaitu pembantu yang bekerja untuk anda pada perkakasan anda sendiri dan bukannya di dalam pusat data sesebuah syarikat.
Penyunting
Dinesh Raj chevron_right
Table of Contents
Apa sebenarnya maksud AI tempatan
Bahagian pintarnya ialah saiz. Dalam bentuk penuh, model ini memerlukan lebih 55GB memori, jauh melebihi kemampuan mesin biasa. Seperti yang dilaporkan MarkTechPost, pemampatan 4-bit mengecilkannya kepada bawah 20GB, cukup kecil untuk muat pada satu kad grafik pengguna dengan memori 24GB atau 32GB. Pada satu kad itu, ia boleh menulis dan menyahpepijat kod, menyusun fail, menguruskan jadual, memanggil alat luar, dan menaakul melalui tugas berbilang langkah, semuanya tanpa sambungan internet. Ia mengendalikan teks dan imej, serta dilatih merentasi lebih 100 bahasa, termasuk bahasa Melayu.
Mengapa pasukan Malaysia perlu ambil tahu
Ada dua sebab, dan kedua-duanya bertentangan antara satu sama lain. Yang pertama ialah data. Apabila AI berjalan pada mesin anda sendiri, apa sahaja yang anda taip tidak pernah keluar dari bangunan itu. Bagi perniagaan Malaysia yang mengendalikan rekod pelanggan di bawah Akta Perlindungan Data Peribadi, atau kontraktor yang diarahkan menyimpan data dalam negara, ini bukan perkara kecil. Ia adalah naluri yang sama di sebalik usaha Malaysia memacu infrastruktur AI tempatan, termasuk Sovereign AI Cloud bernilai RM2 bilion yang diperoleh MCMC dalam Belanjawan 2026, tetapi dikecilkan kepada saiz satu meja.
Sebab kedua ialah halangannya. "Berjalan pada satu GPU" kedengaran murah sehinggalah anda melihat harga GPU itu. Kad dengan memori yang mencukupi ialah kad yang sama sedang diborong oleh ledakan pusat data AI, dan kami pernah menulis sebelum ini tentang bagaimana ia menolak harga kad grafik di Malaysia jauh melebihi harga senarai. Sebuah kad yang menembusi paras 24GB boleh berharga lebih daripada deposit kereta terpakai, dan kesempitan memori yang sama turut menjadikan telefon dan komputer riba lebih mahal di sini juga. Perisian percuma tetap berjalan pada perkakasan yang anda perlu beli.
Batasan yang jujur
Muse Glimmer disuling daripada model tertutup yang lebih besar yang Meta namakan Muse Spark, bermakna ia sengaja dibuat lebih kecil dan kurang berkemampuan berbanding sistem terkehadapan di sebalik chatbot berbayar. Bagi pembangun solo, agensi kecil, atau sekolah yang mahukan pembantu yang mereka kawal sepenuhnya, pertukaran itu berbaloi. Bagi kerja yang paling berat, awan masih menang dari segi kuasa mentah. Apa yang berubah ialah pasukan Malaysia kini mempunyai pilihan tempatan sebenar untuk dipertimbangkan, bukannya menganggap setiap pertanyaan AI mesti disewa setiap bulan.
Isyarat yang lebih besar ialah arah tujunya. Apabila model sehebat ini boleh berjalan pada perkakasan yang seseorang mampu miliki, AI tidak lagi menjadi sesuatu yang hanya boleh dipegang oleh pusat data. Bagi sebuah negara yang masih menimbang berapa banyak masa depan digitalnya untuk disimpan dalam negara, peralihan ini wajar diperhatikan.
Imej ihsan Vitaly Gariev, Onur Binay dan Valentin Lacoste di Unsplash.
