Apa itu fine tuning dalam AI?

Fine-tuning adalah dorongan kecil di atas model yang sangat besar

Sebuah model bahasa sampai ke tangan Anda dalam keadaan sudah terlatih. Pretraining membaca korpus triliunan token; Meta melaporkan lebih dari 15 triliun untuk Llama 3. Post-training kemudian melatihnya menjadi asisten. Apa itu LLM membahas kedua tahap ini.

Fine-tuning adalah tahap ketiga yang jauh lebih kecil, yang Anda jalankan sendiri. Anda memberi model beberapa ratus hingga beberapa ribu contoh input dan output persis seperti yang Anda inginkan, lalu melatihnya sedikit lagi dengan contoh itu. Panduan fine-tuning OpenAI menyebutkan perbaikan yang jelas biasanya terlihat dari 50 hingga 100 contoh. Parameter bergeser sedikit ke arah menghasilkan jenis jawaban Anda secara default.

Perbedaan skala inilah inti ceritanya. Lima belas triliun token berbanding beberapa ratus contoh: fine-tune tidak bisa menambah pengetahuan yang berarti, karena jumlahnya tidak cukup untuk menggeser apa yang diketahui model. Yang bisa ia lakukan adalah menggeser cara model merespons, karena format konsisten yang diulang beberapa ratus kali adalah pola yang tepat ditangkap oleh dorongan kecil.

Fine-tuning mengubah cara model menjawab, tidak pernah apa yang diketahuinya

Garis pembatasnya adalah perilaku melawan pengetahuan.

Kegagalan yang sering dialami orang ada di baris keempat. Mereka melakukan fine-tune pada pusat bantuan mereka, mengharapkan model yang mengetahui produk mereka. Yang mereka dapat adalah model yang menulis dengan suara pusat bantuan itu dan mengarang fakta produk dengan lancar, karena pelatihan mengajarkan bentuk jawabannya, bukan substansinya. Pekerjaan pengetahuan itu milik retrieval, dan apa itu RAG menjelaskan cara kerjanya.

Mengapa fine-tuning sengaja dilakukan pada model murah

Tidak ada yang melakukan fine-tune pada model termahal dalam satu keluarga untuk pekerjaan sempit. Intinya adalah membuat model kecil dan murah melakukan satu hal sebaik model frontier melakukannya dengan prompt panjang, lalu menjalankan model murah itu jutaan kali.

Angka di atas setiap ujung adalah skor Artificial Analysis Intelligence Index, dibaca pada 2026-09-17, dan garisnya adalah selisih harga per juta token. Llama 4 Maverick yang serba guna mendapat skor 9 berbanding Claude Sonnet 5 di 38; taruhan fine-tune adalah bahwa pada satu tugas sempit, selisih 29 poin itu bisa ditutup dengan penghematan 127 kali lipat. Pada harga daftar OpenRouter yang diambil 2026-08-20, jawaban standar sepanjang 1.000 token masuk dan 500 keluar berharga $0.0006 pada Maverick dan $0.007 pada Sonnet 5, menurut indeks biaya model AI, sehingga classifier dukungan pelanggan yang berjalan 100.000 kali sebulan berharga $60 pada yang pertama dan $700 pada yang kedua. Jika Maverick yang di-tuning menyamai Sonnet pada tugas itu, tuning itu balik modal di bulan pertama. Perhitungan itulah, bukan kualitas model secara umum, yang menjadi alasan fine-tuning ada.

Metode yang membuat ini murah adalah LoRA, dipublikasikan pada 2021, yang melatih sekumpulan kecil parameter tambahan, bukan seluruh model. Dengan penerus 4-bit-nya, QLoRA (Dettmers dkk., 2023), model 7 miliar parameter bisa di-tuning pada satu kartu grafis konsumen 24 GB. Fine-tuning penuh pada model yang sama berarti memperbarui setiap parameter di beberapa GPU pusat data.

Prompt, retrieval atau model lain menyelesaikan sebagian besar kasus sebelum pelatihan apa pun

Fine-tuning adalah pilihan terakhir, bukan yang pertama, karena masing-masing hal berikut menyelesaikan kasus umum dengan sebagian kecil usaha dan bisa diubah dalam semenit.

1. Prompt yang lebih baik dengan contoh. Tiga contoh output yang Anda inginkan di dalam prompt memberikan sebagian besar manfaat format dan nada dari fine-tune tanpa pelatihan sama sekali. Prompt engineering untuk pemula membahas polanya.
2. Retrieval. Jika kesenjangannya adalah pengetahuan, sebanyak apa pun tuning tidak akan menutupnya. Unggah dokumen atau aktifkan pencarian.
3. Model yang berbeda. Model berbeda dalam suara defaultnya. Model yang sudah menulis dengan cara yang Anda inginkan mengalahkan men-tuning model yang tidak; ruang kerja multi-model membuat ini jadi uji coba satu klik.

Gunakan fine-tuning ketika prompt sudah berkembang menjadi satu halaman aturan yang terus dilupakan model, ketika pekerjaan berjalan dengan volume yang membuat panjang prompt berarti uang sungguhan, atau ketika Anda butuh format yang dikembalikan secara andal sepuluh ribu kali tanpa satu pun penyimpangan. Itu semua kebutuhan nyata. Itu juga jarang terjadi.

Bisakah Anda melakukan fine-tune di dalam produk chat?

Umumnya tidak, dan Whizi bukan pengecualian. Produk chat konsumen, termasuk Whizi, tidak menawarkan fine-tuning; itu adalah fitur developer pada API penyedia dan model open-weight. Hal terdekat di dalam aplikasi chat adalah instruksi tetap. Di Whizi, instruksi itu berada di sebuah proyek: instruksi kustom per proyek berlaku pada setiap percakapan dalam proyek itu, itulah cara Anda mendapat nada dan format konsisten di seluruh pekerjaan tanpa melatih apa pun. Cara menggunakan Projects menjelaskan cara pengaturannya.

Itu adalah pertukaran yang tepat bagi kebanyakan orang. Instruksi proyek adalah prompt yang Anda tulis sekali dan edit kapan pun aturannya berubah. Fine-tune adalah model yang harus Anda latih ulang setiap kali aturan berubah. Bagi semua orang yang tidak menjalankan tugas sempit dalam skala besar, prompt menang dalam biaya, kecepatan perubahan, dan fakta bahwa Anda bisa membacanya.

Aturan keputusannya: lakukan fine-tune ketika pekerjaan sempit yang sama berjalan dalam volume yang membuat model murah yang balik modal itu penting. Di tempat lain, tuliskan saja instruksinya.