Otaknologi

Indonesia Maju di Era SI.

Beranda › Kamus AI

Parameter

Artinya

Parameter adalah angka-angka di dalam model AI yang disetel selama pelatihan dan menentukan bagaimana model mengolah masukan menjadi jawaban.

Draf dibantu AI, dicek manusia Diperbarui · diperiksa Syamil Jihad

Perumpamaannya

Bayangkan mixer sound system di hajatan. Ada puluhan kenop: volume tiap mik, bass, treble. Operator memutarnya pelan-pelan sampai suara biduan pas di telinga tamu. Model AI punya miliaran kenop seperti itu. Bedanya, yang memutar bukan operator, tapi proses pelatihan, sedikit demi sedikit, setiap kali tebakan model meleset.

Perumpamaannya berhenti di label. Kenop mixer punya nama jelas, misalnya "bass". Parameter tidak berlabel. Satu angka sendirian nyaris tak berarti apa-apa. Maknanya muncul dari kerja bareng miliaran angka lain.

Contoh nyata

GoTo merilis model bahasa Indonesia bernama GoTo-AI-Gemma-3-27B-IT. Huruf "B" di situ singkatan billion (miliar), dan cara penulisan ini lazim; Meta misalnya menulis model Llama 3 punya "8B dan 70B parameter". Jadi model GoTo ini berisi sekitar 27 miliar parameter.

Angka itu punya ukuran fisik. Kartu modelnya menulis, untuk memuat model ini dalam presisi FP16 atau BF16 butuh memori GPU minimal sekitar 54–60 GB, misalnya satu NVIDIA A100 80GB atau tiga RTX 4090. Hitungan kasarnya: 27 miliar angka dikali 2 byte per angka sama dengan 54 GB.

Artinya buat kamu: angka "B" di nama model memberi gambaran seberapa berat model itu, dan komputer seperti apa yang kamu perlukan kalau mau menjalankannya sendiri sebagai AI lokal.

Salah kaprah

"Parameter itu setelan yang bisa kuubah, kayak temperature." Glosarium Google membedakan keduanya. Parameter adalah angka bobot yang dipelajari model selama pelatihan. Nilai yang kamu atur sendiri disebut hyperparameter, dan temperature termasuk di sini.

"Makin banyak parameter, pasti makin pintar." Makalah Chinchilla dari DeepMind (2022) menunjukkan Chinchilla, model 70 miliar parameter yang dilatih dengan data 4 kali lebih banyak daripada Gopher, mengalahkan Gopher (280 miliar) dan GPT-3 (175 miliar). Ukuran harus diimbangi jumlah data latihan.

"Parameter itu jumlah data yang dibaca model." Beda. Meta menulis Llama 3 dilatih dengan lebih dari 15 triliun token, padahal model-modelnya berisi 8 miliar dan 70 miliar parameter.

Istilah terkait

Semua istilah di Kamus AI →