Apa itu system prompt?

Pesan yang tidak pernah Anda kirim tapi dibaca model lebih dulu

Setiap aplikasi chat mengirim ke model lebih dari sekadar pesan Anda. Sebelum kata-kata Anda ada blok teks yang ditulis aplikasi: nama asisten, apa yang boleh dan tidak boleh dilakukan, cara memformat jawaban, tanggal hari ini, alat apa saja yang bisa dipanggil. Blok itu adalah system prompt. Anda mengetik "ringkas ini"; model menerima satu halaman aturan diikuti "ringkas ini".

Model memperlakukan system prompt sebagai perintah tetap. Model yang diminta menjadi "asisten ringkas yang menjawab dalam bahasa Inggris British dan tidak pernah memakai poin-poin" akan melakukannya sepanjang percakapan tanpa diingatkan lagi, karena instruksi itu datang lagi di setiap pesan. Pengiriman ulang itulah detail yang sering dilewatkan orang, dan itu pula yang memakan biaya, yang dihitung di bagian ketiga.

Anda bisa melihat contoh aslinya. Anthropic mempublikasikan system prompt yang dipakai Claude di aplikasinya, lengkap dengan catatan rilis saat berubah. Membaca satu di antaranya adalah cara tercepat memahami genre ini: paragraf tentang nada bicara, kapan memakai daftar, cara menangani permintaan yang seharusnya ditolak, tentang batas pengetahuan, semuanya ditulis dalam bahasa Inggris biasa, bukan kode. Yang lain bocor; system prompt Bing chat yang menamai asistennya "Sydney" berhasil diekstraksi oleh seorang mahasiswa Stanford pada Februari 2023 dengan meminta model mengulang teks di atas percakapan.

Mengapa pertanyaan yang sama mendapat jawaban berbeda di aplikasi berbeda

API model memberi label peran pada setiap pesan, dan model dilatih untuk membobotnya secara berbeda.

Dua hal mengikuti dari urutan ini. System prompt menetapkan kerangka, jadi pesan user yang sama bisa mendapat jawaban berbeda dalam kerangka berbeda: "tulis limerick" menghasilkan limerick di bawah satu system prompt dan penolakan di bawah system prompt untuk asisten perbankan. Dan system prompt adalah milik aplikasi, jadi berpindah aplikasi pada model yang sama mengubah jawaban meskipun modelnya tidak berubah. Apa itu LLM memisahkan model dari aplikasi; system prompt adalah sebagian besar dari pemisahan itu.

Batasnya tidak mutlak. Model dilatih untuk mengikuti system prompt di atas user, tapi pesan user tetap bisa membujuk model keluar dari instruksinya, yang menjadi seluruh topik apa itu AI jailbreaking. System prompt adalah default yang kuat, bukan kunci mati.

Berapa biaya system prompt, karena dikirim setiap giliran

System prompt adalah token input, dan apa itu token dalam AI menunjukkan input ditagih di setiap pesan. Percakapan 100 giliran dengan system prompt 8.000 token mengirim prompt itu 100 kali: 800.000 token input sebelum satu kata pun dari Anda.

Hitung dengan harga daftar. Pesan standar sekitar 1.000 token masuk dan 500 keluar. Menambahkan instruksi 8.000 token, yaitu setara 32.000 karakter bahasa Inggris pada empat karakter per token, di setiap 100 pesan menambah biaya input di bawah ini pada tarif OpenRouter dalam indeks biaya model AI, diambil 2026-08-20.

Penyedia melakukan caching: OpenAI mendiskon input yang di-cache setengah harga, dan 90 persen pada model terbarunya, dan Anthropic menagih pembacaan cache sepersepuluh harga daftar, jadi aplikasi yang menyiapkan caching membayar jauh lebih murah dari grafik ini. Grafik ini adalah harga daftar, yang dilacak oleh indeks biaya dan yang dibayar aplikasi mana pun yang melewatkan caching. Instruksi tetap yang panjang tetap menjadi satu-satunya teks yang dikirim setiap kali.

Whizi menagih dengan cara sebaliknya. Satu pesan berbiaya jumlah kredit tetap yang ditentukan model, 1 pada model rumahan, 10 pada Claude Sonnet 5, 20 pada Claude Opus 5, dan panjang instruksi tidak pernah masuk hitungan harga. 100 pesan yang sama berbiaya 100, 1.000 atau 2.000 kredit dengan atau tanpa instruksi. Cara kerja kredit Whizi memuat tangganya.

Bagian mana dari system prompt yang boleh Anda tulis

Produk membuka sebagian kecil system prompt untuk Anda isi. ChatGPT menyebutnya custom instructions dan memory; Claude punya project instructions dan styles; Gemini punya saved info. Apa pun namanya, teks Anda ditambahkan ke instruksi bawaan produk dan dikirim ulang setiap giliran.

Di Whizi, bagian itu adalah proyek. Proyek adalah folder percakapan dengan instruksinya sendiri, hingga 32.000 karakter, diterapkan ke setiap chat di dalamnya dan disusun ulang ke dalam prompt di setiap pesan. File yang disematkan ikut dengan cara yang sama, dibatasi 32.000 karakter teks yang diekstrak per file dan 120.000 untuk seluruh blok proyek. Tidak ada kolom custom instructions di tingkat akun: instruksi per proyek adalah satu-satunya instruksi buatan pengguna dalam produk ini, jadi preferensi yang Anda inginkan di mana pun harus ditempel ke setiap proyek.

Empat agen bawaan menunjukkan sisi lainnya. Baris Canadian CPA, Study Mentor, Writing Copilot dan Math Tutor masing-masing membawa system prompt tetap yang ditulis ke dalam katalog model, yang tidak bisa Anda ubah. Memilih agen berarti memilih system prompt.

Apa yang layak ada di dalamnya, dari contoh yang dipublikasikan

Instruksi yang berhasil terbaca seperti pengarahan kepada kolega baru, dan prompt Claude yang dipublikasikan adalah model publik terbaik dari bentuk ini. Empat hal membawa sebagian besar bobotnya.

1. Peran dan audiens dalam satu kalimat. "Anda adalah asisten pajak untuk pemilik usaha perseorangan di Kanada" berbuat lebih banyak daripada tiga paragraf kata sifat.
2. Aturan format yang dinyatakan sebagai aturan. "Jawab dalam kurang dari 150 kata. Tanpa poin-poin. Ejaan British." Model lebih patuh pada perintah tegas daripada preferensi.
3. Apa yang harus dilakukan saat ragu. "Jika jawaban bergantung pada fakta yang tidak Anda miliki, ajukan satu pertanyaan sebelum menjawab." Tanpa ini, model akan menebak.
4. Apa yang harus ditolak, dan bagaimana caranya. Sebutkan kategorinya dan kata-kata penolakannya, atau model akan mengarang sendiri.

Apa yang tidak boleh ada: fakta yang berubah. Harga, jumlah model atau tanggal yang ditulis ke dalam system prompt akan ditegaskan ulang di setiap giliran sampai seseorang mengeditnya, dan itulah cara instruksi basi berubah menjadi jawaban yang salah dengan percaya diri selama berbulan-bulan. Letakkan fakta yang berubah di file yang disematkan atau pencarian, bukan di perintah tetap, karena batas pengetahuan model sendiri akan membuatnya basi juga. Prompt engineering untuk pemula membahas sisi per pesan dari keahlian yang sama.