AI lokal
disebut juga: local AI · on-device AI
Artinya
AI lokal adalah AI yang dijalankan langsung di perangkatmu sendiri, seperti laptop atau HP, sehingga pertanyaan dan datamu tidak perlu dikirim ke server perusahaan AI.
Diperbarui · diperiksa Syamil Jihad
Perumpamaannya
Bandingkan masak sendiri di rumah dengan pesan makanan lewat ojol. Pesan itu praktis dan menunya lengkap, tapi alamat dan pesananmu tercatat di aplikasi dan di dapur restoran. Masak sendiri lebih privat dan tidak bergantung sinyal, tapi menunya terbatas pada alat dan bahan di dapurmu.
AI lokal itu masak sendiri. Kompornya adalah chip dan memori laptop atau HP-mu, dan modelnya harus muat di situ. Karena itu model lokal biasanya lebih kecil dan kurang pintar dibanding model besar yang jalan di data center.
Contoh nyata
Di laptop, salah satu caranya memakai aplikasi gratis Ollama. Per 7 November 2026, model Gemma 3 versi 4B di Ollama berukuran 3,4 GB dan bisa membaca teks serta gambar. Dokumentasi Ollama menulis, saat model dijalankan lokal, mereka tidak melihat prompt dan datamu.
Di HP, Google menanam model Gemini Nano di Android lewat layanan sistem AICore. Menurut Google, cara ini bisa jalan tanpa internet dan data sensitif tetap di perangkat. Google juga menulis batasnya: jumlah token, kemampuan perangkat, dan kemampuan model lebih terbatas. Artinya buat kamu: dokumen yang tidak boleh keluar bisa diolah tanpa diunggah, asal tugasnya tidak terlalu berat.
Salah kaprah
"AI lokal artinya AI buatan Indonesia." Di sini "lokal" menunjuk tempat AI itu dijalankan, yaitu perangkatmu. Model buatan Indonesia yang bobotnya bisa diunduh, seperti Sahabat-AI, memang bisa dijalankan lokal. Model buatan luar negeri pun bisa, asal open weight.
"Pakai aplikasi AI lokal pasti semuanya di perangkat." Belum tentu. Ollama kini juga menyediakan model cloud. Kalau kamu memilih model cloud, prompt dan jawabanmu diproses di server mereka. Ollama menyediakan setelan untuk mematikan fitur cloud kalau kamu ingin benar-benar lokal, jadi cek dulu model mana yang kamu pilih.
Istilah terkait
- Open weightOpen weight adalah model AI yang file hasil latihnya, disebut bobot, boleh diunduh dan dijalankan sendiri, walau data dan kode latihnya tidak dibuka sepenuhnya.
- AI PCAI PC adalah laptop atau komputer yang punya chip khusus AI bernama NPU, sehingga sebagian fitur AI bisa berjalan langsung di perangkat tanpa dikirim ke internet.
- GPUGPU adalah chip komputer yang bisa mengerjakan ribuan hitungan kecil secara bersamaan, awalnya untuk menggambar grafis game, kini jadi mesin utama untuk melatih dan menjalankan AI.
- InferensiInferensi adalah tahap ketika model AI yang sudah selesai dilatih dipakai bekerja, yaitu menerima masukan seperti pertanyaanmu lalu menghitung jawabannya.
- Model AIModel AI adalah hasil akhir pelatihan AI, berupa berkas berisi banyak sekali angka, yang menerima masukan seperti pertanyaan atau foto lalu menghasilkan keluaran seperti jawaban, tebakan, atau gambar.
- Data center AIData center AI adalah gedung berisi ribuan komputer server dengan chip khusus, tempat model AI dilatih dan tempat pertanyaanmu ke ChatGPT, Gemini, atau Claude diproses.
- ParameterParameter adalah angka-angka di dalam model AI yang disetel selama pelatihan dan menentukan bagaimana model mengolah masukan menjadi jawaban.
- Open source AIOpen source AI adalah AI yang boleh dipakai, dipelajari, diubah, dan dibagikan siapa saja untuk tujuan apa pun, lengkap dengan kode, model jadinya, dan keterangan rinci soal data latihnya.