Fine-tuning एक विशाल मॉडल के ऊपर एक छोटा सा धक्का है
जब कोई language model आपके पास आता है, तब तक वह पहले से ट्रेन हो चुका होता है। Pretraining ने खरबों टोकन का एक कॉर्पस पढ़ा; Meta ने Llama 3 के लिए 15 खरब से ज़्यादा टोकन बताए। इसके बाद post-training ने उसे एक असिस्टेंट बनने के लिए तराशा। LLM क्या है दोनों चरणों को कवर करता है।
Fine-tuning एक तीसरा, कहीं छोटा चरण है जो आप खुद चलाते हैं। आप मॉडल को अपने चाहे गए इनपुट और आउटपुट के कुछ सौ से कुछ हज़ार उदाहरण देते हैं, और उन्हीं पर उसे थोड़ा और ट्रेन करते हैं। OpenAI की fine-tuning गाइड कहती है कि साफ सुधार आमतौर पर 50 से 100 उदाहरणों से दिखने लगते हैं। पैरामीटर हल्के से इस दिशा में खिसकते हैं कि मॉडल डिफ़ॉल्ट रूप से आपकी तरह का जवाब दे।
पैमाने का यह अंतर ही पूरी कहानी है। पंद्रह खरब टोकन बनाम कुछ सौ उदाहरण: fine-tune कोई सार्थक ज्ञान नहीं जोड़ सकता, क्योंकि इतनी मात्रा में डेटा है ही नहीं कि मॉडल जो जानता है उस पर असर पड़े। जो यह कर सकता है वह है मॉडल के जवाब देने के तरीके पर असर डालना, क्योंकि कुछ सौ बार दोहराया गया एक सुसंगत फॉर्मेट बिल्कुल वैसा पैटर्न है जिसे एक छोटा सा धक्का पकड़ लेता है।
Fine-tuning बदलता है कि मॉडल कैसे जवाब देता है, कभी नहीं कि वह क्या जानता है
यहां जो रेखा खींचनी है वह व्यवहार बनाम ज्ञान की है।
| आप चाहते हैं कि मॉडल... | Fine-tuning | असल में क्या काम करता है |
|---|---|---|
| हमेशा आपके house style या टोन में जवाब दे | हां, यही मुख्य उपयोग है | Fine-tune करें, या उदाहरणों के साथ एक मज़बूत system prompt |
| हमेशा एक तय फॉर्मेट लौटाए (JSON, एक फिक्स्ड टेम्पलेट) | हां | बड़े पैमाने पर भरोसेमंद रहने के लिए fine-tune करें; कभी-कभार इस्तेमाल के लिए prompt |
| बिना याद दिलाए नियमों की एक लंबी सूची का पालन करे | हां | Fine-tune करें; नियम prompt से हटकर weights में चले जाते हैं |
| आपके प्रोडक्ट, कीमतें, नीतियां जाने | नहीं | Retrieval: जवाब देते समय उसे दस्तावेज़ थमाएं |
| ट्रेनिंग के बाद बदली कोई भी चीज़ जाने | नहीं | वेब सर्च या retrieval |
| मुश्किल समस्याओं पर बेहतर तर्क करे | नहीं | एक reasoning मॉडल या एक बड़ा मॉडल |
लोग जिस चौथी पंक्ति में फंसते हैं, वह असफलता वहीं होती है। वे अपने help centre पर fine-tune करते हैं, यह उम्मीद करते हुए कि मॉडल उनका प्रोडक्ट जान जाएगा। उन्हें एक ऐसा मॉडल मिलता है जो help centre की आवाज़ में लिखता है और प्रोडक्ट के तथ्य धाराप्रवाह गढ़ लेता है, क्योंकि ट्रेनिंग ने उसे जवाबों का आकार सिखाया, सार नहीं। ज्ञान का काम retrieval का है, और RAG क्या है बताता है कि वह कैसे काम करता है।
Fine-tuning जानबूझकर सस्ते मॉडलों पर क्यों किया जाता है
कोई भी एक संकरे काम के लिए किसी परिवार के सबसे महंगे मॉडल को fine-tune नहीं करता। मकसद यह है कि एक छोटा, सस्ता मॉडल वह एक काम उतना ही अच्छा करे जितना frontier मॉडल एक लंबे prompt के साथ करता है, और फिर उस सस्ते मॉडल को लाखों बार चलाया जाए।
हर सिरे के ऊपर दिए नंबर Artificial Analysis Intelligence Index के स्कोर हैं, जो 2026-09-17 को पढ़े गए, और लाइन प्रति दस लाख टोकन कीमत का अंतर दिखाती है। एक सामान्य-प्रयोजन Llama 4 Maverick 9 स्कोर करता है जबकि Claude Sonnet 5 का स्कोर 38 है; fine-tune की शर्त यह है कि किसी एक संकरे काम पर वे 29 अंक 127 गुना बचत के बदले पाटे जा सकते हैं। 2026-08-20 को लिए गए OpenRouter लिस्ट प्राइस पर, 1,000 टोकन इनपुट और 500 आउटपुट वाला एक मानक जवाब Maverick पर $0.0006 और Sonnet 5 पर $0.007 पड़ता है, जैसा कि AI मॉडल कॉस्ट इंडेक्स बताता है, तो महीने में 100,000 बार चलने वाला एक सपोर्ट क्लासिफायर पहले पर $60 और दूसरे पर $700 पड़ता है। अगर ट्यून किया हुआ Maverick उस एक काम पर Sonnet के बराबर पहुंच जाए, तो पहले महीने में ही ट्यून की लागत निकल आती है। यही गणित, न कि सामान्य रूप से मॉडल की गुणवत्ता, fine-tuning का असली मकसद है।
जिस तरीके ने इसे सस्ता बनाया वह है LoRA, जो 2021 में प्रकाशित हुआ था, जो पूरे मॉडल की बजाय जोड़े गए पैरामीटरों के एक छोटे सेट को ट्रेन करता है। इसके 4-बिट उत्तराधिकारी QLoRA (Dettmers et al., 2023) के साथ, एक 7-अरब-पैरामीटर वाला मॉडल एक ही 24 GB वाले उपभोक्ता ग्राफिक्स कार्ड पर ट्यून हो जाता है। उसी मॉडल की पूरी fine-tuning का मतलब है कई डेटासेंटर GPU पर हर पैरामीटर को अपडेट करना।
किसी भी ट्रेनिंग से पहले एक prompt, retrieval या अलग मॉडल ज़्यादातर मामले हल कर देता है
Fine-tuning आखिरी विकल्प है, पहला नहीं, क्योंकि इनमें से हर एक चीज़ आम मामलों को कम मेहनत में हल कर देती है और एक मिनट में बदली जा सकती है।
- उदाहरणों वाला एक बेहतर prompt। Prompt के अंदर आपके चाहे जवाब के तीन उदाहरण, बिना किसी ट्रेनिंग के, fine-tune के फॉर्मेट और टोन का ज़्यादातर फायदा दे देते हैं। शुरुआती लोगों के लिए Prompt engineering इस पैटर्न को कवर करता है।
- Retrieval। अगर कमी ज्ञान की है, तो कोई भी ट्यूनिंग उसे नहीं पाट सकती। दस्तावेज़ अपलोड करें या सर्च चालू करें।
- एक अलग मॉडल। मॉडलों की डिफ़ॉल्ट आवाज़ अलग-अलग होती है। जो मॉडल पहले से आपके चाहे अंदाज़ में लिखता है वह ऐसे मॉडल को ट्यून करने से बेहतर है जो नहीं लिखता; एक multi-model वर्कस्पेस इसे एक-क्लिक टेस्ट बना देता है।
Fine-tuning का सहारा तब लें जब prompt बढ़कर नियमों के एक पूरे पन्ने का हो गया हो जिन्हें मॉडल भूलता रहता है, जब काम इतने बड़े पैमाने पर चलता हो कि prompt की लंबाई असली पैसा बन जाए, या जब आपको दस हज़ार बार बिना एक भी चूक के भरोसेमंद फॉर्मेट चाहिए। ये असली ज़रूरतें हैं। ये दुर्लभ भी हैं।
क्या आप किसी चैट प्रोडक्ट के अंदर fine-tune कर सकते हैं?
आमतौर पर नहीं, और Whizi भी इससे अलग नहीं है। उपभोक्ता चैट प्रोडक्ट, Whizi समेत, fine-tuning ऑफर नहीं करते; यह प्रोवाइडर API और open-weight मॉडलों पर एक डेवलपर फीचर है। चैट ऐप के अंदर इसके सबसे करीब चीज़ standing instructions हैं। Whizi में ये एक प्रोजेक्ट पर रहती हैं: per-project custom instructions उस प्रोजेक्ट की हर बातचीत पर लागू होती हैं, जिससे बिना कुछ ट्रेन किए काम के एक पूरे समूह में एक जैसा टोन और फॉर्मेट मिलता है। Projects का इस्तेमाल कैसे करें सेटअप समझाता है।
ज़्यादातर लोगों के लिए यही सही सौदा है। एक प्रोजेक्ट instruction एक ऐसा prompt है जिसे आप एक बार लिखते हैं और नियम बदलने पर एडिट कर देते हैं। एक fine-tune एक ऐसा मॉडल है जिसे आप नियम बदलने पर हर बार दोबारा ट्रेन करते हैं। जो कोई बड़े पैमाने पर कोई संकरा काम नहीं चला रहा, उसके लिए prompt लागत, बदलाव की रफ्तार और इस बात पर जीतता है कि आप इसे पढ़ सकते हैं।
फैसले का नियम यह है: fine-tune तब करें जब वही संकरा काम इतने पैमाने पर चलता हो कि एक सस्ता मॉडल अपनी लागत निकाल दे। बाकी हर जगह, instruction को लिखकर रख लें।
- तय करें कि कमी व्यवहार की है या ज्ञान की; fine-tuning सिर्फ पहली को ठीक करता है
- किसी भी ट्रेनिंग से पहले तीन उदाहरणों वाला एक prompt आज़माएं
- तथ्यों, कीमतों और बदलने वाली किसी भी चीज़ के लिए retrieval या वेब सर्च इस्तेमाल करें
- पहले एक अलग मॉडल टेस्ट करें; हो सकता है कोई पहले से आपके अंदाज़ में लिखता हो
- एक संकरे, बड़े पैमाने वाले काम के लिए एक सस्ता मॉडल fine-tune करें, और उसे उस काम पर frontier मॉडल के मुकाबले मापें
अक्सर पूछे जाने वाले सवाल
AI मॉडल को fine-tune करने का क्या मतलब है?
इसका मतलब है किसी पहले से ट्रेन किए गए मॉडल को आपके अपने उदाहरणों पर थोड़ा और ट्रेन करना, आमतौर पर कुछ सौ से कुछ हज़ार इनपुट-आउटपुट जोड़े, ताकि वह डिफ़ॉल्ट रूप से एक स्टाइल, फॉर्मेट या नियमों का सेट अपना ले। यह उस pretraining के ऊपर एक छोटा समायोजन है जिसने खरबों टोकन पढ़े, इसीलिए यह ज्ञान जोड़ने की बजाय व्यवहार को आकार देता है।
Fine-tuning बनाम RAG: मुझे कौन सा इस्तेमाल करना चाहिए?
मॉडल कैसे जवाब देता है उसके लिए fine-tuning: टोन, फॉर्मेट, एक लंबे नियम सेट का पालन। मॉडल क्या जानता है उसके लिए RAG: आपके दस्तावेज़ और बदलने वाली कोई भी चीज़। ये अलग-अलग समस्याएं हल करते हैं और प्रोडक्शन सिस्टम अक्सर दोनों इस्तेमाल करते हैं। अगर आपकी कमी तथ्यों की है, तो fine-tuning उसे नहीं पाटेगी; मॉडल सही लगेगा और गलत होगा।
किसी मॉडल को fine-tune करने के लिए कितने उदाहरण चाहिए?
OpenAI की fine-tuning गाइड कहती है कि साफ सुधार आमतौर पर 50 से 100 अच्छी तरह बनाए गए उदाहरणों से दिखने लगते हैं, और यह कि गिनती से ज़्यादा गुणवत्ता मायने रखती है। कुछ सौ एक आम काम का आकार है; कई अलग-अलग मामलों वाले कामों के लिए हज़ारों मदद करते हैं।
Fine-tuning की लागत कितनी होती है?
ट्रेनिंग रन आमतौर पर छोटा हिस्सा होता है; असली बात बाद की प्रति-जवाब बचत है। 2026-08-20 को लिए गए OpenRouter लिस्ट प्राइस पर, एक मानक जवाब Llama 4 Maverick पर $0.0006 और Claude Sonnet 5 पर $0.007 पड़ता है, तो महीने में 100,000 बार चलने वाले काम की लागत $60 बनाम $700 होती है। एक ऐसा fine-tune जो सस्ते मॉडल को उस काम पर महंगे मॉडल के बराबर ला दे, पहले महीने में ही लागत वसूल लेता है।
क्या मैं ChatGPT या Claude को fine-tune कर सकता हूं?
उपभोक्ता ऐप्स को नहीं। Fine-tuning कुछ मॉडलों के लिए प्रोवाइडर API पर और खुद चलाए जाने वाले open-weight मॉडलों पर ऑफर होती है। किसी चैट प्रोडक्ट के अंदर इसके बराबर की चीज़ एक standing instruction है: ChatGPT की custom instructions, या Whizi में एक प्रोजेक्ट-स्तरीय instruction जो उस प्रोजेक्ट की हर बातचीत पर लागू होती है।