โมเดลไม่เคยเลือกคำ มันเลือกจากรายการ
หลังจากอ่านพรอมต์ของคุณ โมเดลภาษาจะให้คะแนนทุกโทเคนในคลังคำของมัน ซึ่งมีตั้งแต่ 100,000 ถึง 200,000 คำในโมเดลปัจจุบัน แล้วแปลงคะแนนเหล่านั้นเป็นความน่าจะเป็น เช่น "ใบไม้" 45 เปอร์เซ็นต์ "อากาศ" 25 "สี" 15 ไปเรื่อย ๆ จนถึงหางยาว LLM คืออะไร อธิบายว่าทำไมมันถึงทำงานแบบนี้ จากนั้นมันจะสุ่มดึงหนึ่งโทเคนจากรายการนั้น ต่อเข้ากับคำก่อนหน้า แล้วทำซ้ำทั้งหมดอีกครั้ง
Temperature ถูกนำไปใช้ระหว่างขั้นตอนให้คะแนนกับขั้นตอนสุ่มเลือก คะแนนทุกตัวจะถูกหารด้วยค่า temperature ก่อนคำนวณความน่าจะเป็น หากหารด้วยตัวเลขที่ต่ำกว่า 1 ช่องว่างระหว่างคะแนนจะกว้างขึ้น ทำให้ตัวเลือกยอดนิยมนำห่างออกไปอีก หากหารด้วยตัวเลขที่สูงกว่า 1 ช่องว่างจะแคบลง ทำให้หางยาวมีโอกาสจริง ๆ บ้าง ที่ค่า 0 พอดี สมการจะยุบเหลือแค่ "เลือกคะแนนสูงสุดเสมอ" ซึ่งเป็นเหตุผลที่ 0 ถูกขายว่าเป็นค่าที่กำหนดผลลัพธ์แน่นอน
ชื่อนี้ยืมมาจากฟิสิกส์ ที่แก๊สร้อนกว่าจะมีอนุภาคเคลื่อนที่แบบสุ่มมากกว่า โมเดลที่ร้อนกว่าก็มีคำที่ถูกเลือกแบบสุ่มมากกว่าเช่นกัน ไม่มีอะไรในความรู้ของโมเดลเปลี่ยนไปเลย มีแค่การสุ่มเลือกเท่านั้นที่เปลี่ยน
ตัวเลขนี้ส่งผลต่อโอกาสอย่างไร ไล่ดูทีละขั้น
ลองนึกถึงพรอมต์ที่โมเดลให้คะแนนคำถัดไปเป็นห้าตัวเลือกที่ 45, 25, 15, 10 และ 5 เปอร์เซ็นต์ นั่นคือการกระจายตัวที่ temperature 1 เมื่อใช้สูตรที่ 0.5 และที่ 2 ตัวเลือกทั้งห้าตัวเดิมจะออกมาดังด้านล่าง ตัวเลขเปอร์เซ็นต์คำนวณจากสูตร ไม่ได้วัดจริง และรูปแบบนี้คือสิ่งที่การกระจายตัวจริงทุกครั้งเป็น
ลองดูตัวเลือกอันดับห้าในทั้งสามแผง คือต่ำกว่า 1 เปอร์เซ็นต์ จากนั้น 5 แล้วก็ 11 เมื่อคำตอบยาว 500 โทเคน โอกาส 11 เปอร์เซ็นต์ต่อโทเคนที่จะเลือกคำอันดับห้าจะสะสมกันจนกลายเป็นข้อความที่หลงประเด็น กุเรื่องขึ้นมา และในที่สุดก็ไม่เป็นเหตุเป็นผล ซึ่งเป็นสิ่งที่คนเห็นเวลาดันสไลเดอร์ในเพลย์กราวด์ไปที่ 2 และดูตัวเลือกอันดับหนึ่ง แม้ที่ 0.5 มันก็แพ้การสุ่มหนึ่งในสามครั้ง ดังนั้น temperature ต่ำจึงแปลว่าสม่ำเสมอ ไม่ใช่ตายตัว
จุดสุดท้ายนี้สำคัญต่อคำว่า "deterministic" เอกสารอ้างอิง API ของ Anthropic ระบุว่าแม้ที่ 0 ผลลัพธ์ก็ "จะไม่เป็น deterministic อย่างสมบูรณ์" และคำเตือนนี้เป็นเรื่องจริง เพราะเลขคณิตแบบทศนิยมบนฮาร์ดแวร์ที่ประมวลผลแบบขนานและการรวมกลุ่มคำขอฝั่งผู้ให้บริการ ทำให้พรอมต์เดิมที่ temperature 0 ยังให้คำตอบต่างกันสองแบบได้ ถ้าต้องการผลลัพธ์เหมือนเดิมทุกครั้ง ให้บันทึกมันไว้ อย่าพึ่งการตั้งค่านี้
แต่ละผู้ให้บริการอนุญาตค่าอะไรบ้าง และค่าเริ่มต้นคืออะไร
| ผู้ให้บริการ | ช่วงค่า | ค่าเริ่มต้น | หมายเหตุ |
|---|---|---|---|
| OpenAI | 0 ถึง 2 | 1 | โมเดล reasoning (ตระกูล o และ GPT-5 แบบ reasoning) ไม่รับพารามิเตอร์นี้ |
| Anthropic | 0 ถึง 1 | 1 | ปฏิเสธคำขอที่ตั้งทั้งสองค่าพร้อมกันบน Opus 4.1 ขึ้นไป |
| Google Gemini | 0 ถึง 2 | 1 | แสดงเป็นสไลเดอร์ใน AI Studio |
| OpenRouter | ส่งผ่านตามเดิม | ค่าเริ่มต้นของผู้ให้บริการ | เส้นทางที่ Whizi ใช้เข้าถึงทุกโมเดล |
มีสามอย่างที่โดดเด่น ทุกผู้ให้บริการตั้งค่าเริ่มต้นไว้ที่ 1 หมายความว่าสุ่มตามความน่าจะเป็นของโมเดลเอง ดังนั้นคำตอบที่คุณได้ในแชตทั่วไปก็เป็นเพียงหนึ่งในหลายครั้งที่สุ่มได้อยู่แล้ว และช่วงค่าของ Anthropic หยุดที่ 1 ดังนั้น temperature 1 ของ Claude คือค่าสูงสุด ในขณะที่ 1 ของ OpenAI คือค่ากลาง ตัวเลขจึงเทียบกันข้ามผู้ให้บริการไม่ได้ และโมเดล reasoning ปฏิเสธการตั้งค่านี้ OpenAI ระบุว่า temperature ไม่รองรับสำหรับตระกูล o และ GPT-5 และจะคืนค่าเป็นข้อผิดพลาดถ้าคุณส่งมันไป ส่วน Anthropic กำหนดให้เป็น 1 เสมอเมื่อเปิดใช้ extended thinking
ค่าไหนเหมาะกับงานแบบใด
กฎมีแค่บรรทัดเดียว ต่ำลงสำหรับงานที่มีคำตอบถูกต้องเพียงหนึ่งเดียว สูงขึ้นสำหรับงานที่มีคำตอบดีได้หลายแบบ
| งาน | Temperature | เหตุผล |
|---|---|---|
| การดึงข้อมูลเป็นตารางหรือ JSON, การจัดหมวดหมู่, โค้ด | 0 ถึง 0.3 | มีรูปแบบถูกต้องเพียงแบบเดียว ความแปรผันคือข้อบกพร่อง |
| การสรุปความ การแปล คำถามเชิงข้อเท็จจริง | 0.3 ถึง 0.7 | มีอิสระในการใช้ถ้อยคำบ้าง ไม่ต้องการการกุเรื่อง |
| การร่างงาน การเขียนใหม่ การระดมความคิด | 0.7 ถึง 1 | ค่าเริ่มต้นของผู้ให้บริการ หลากหลายแต่ยังเป็นเหตุเป็นผล |
| นิยาย ชื่อ สโลแกน ไอเดียที่จงใจให้แปลก | 1 ถึง 1.3 | คำจากหางยาวคือประเด็นหลัก |
| สูงกว่า 1.5 | ใช้น้อยครั้ง | ความเป็นเหตุเป็นผลลดลงก่อนที่ความแปลกใหม่จะเพิ่มขึ้น |
มีข้อควรระวังสองอย่าง Temperature ไม่ได้ควบคุมความถูกต้อง โมเดลที่ 0 จะเลือกคำตอบที่มีโอกาสสูงสุดของมัน และถ้าคำตอบที่มีโอกาสสูงสุดนั้นผิด มันก็จะผิดทุกครั้งด้วยความมั่นใจเต็มที่ ซึ่งAI hallucination คืออะไรอธิบายไว้จากฝั่งการฝึกโมเดล และ temperature ก็ไม่ใช่ตัวควบคุมโทนหรือความยาว สิ่งเหล่านั้นควรอยู่ในคำสั่ง และprompt engineering สำหรับมือใหม่ครอบคลุมเรื่องนี้ไว้ ตัวเลขนี้กำหนดแค่ว่าโมเดลจะพนันเลือกคำบ่อยแค่ไหนเท่านั้น
ทำไมคุณไม่เคยเห็นสไลเดอร์นี้ในแอปแชต
ChatGPT, แอป Claude, Gemini และ Whizi ไม่มีตัวควบคุม temperature เลย การตั้งค่านี้อยู่ในเพลย์กราวด์และ API สำหรับนักพัฒนา และไม่มีผู้ให้บริการเจ้าไหนในสามเจ้านี้เปิดเผยค่าที่แอปของตัวเองใช้ Whizi ไม่ส่งค่านี้เลย ดังนั้นทุกโมเดลที่นี่จึงทำงานที่ค่าเริ่มต้นของผู้ให้บริการคือ 1 เหตุผลก็เหมือนที่กล่าวไว้ข้างต้น ค่าเริ่มต้นคือค่าที่งานส่วนใหญ่ต้องการอยู่แล้ว และสไลเดอร์ที่อยู่ผิดที่จะเปลี่ยนผู้ช่วยที่ดีให้กลายเป็นผู้ช่วยที่แย่โดยไม่มีสัญญาณบอกว่าปุ่มไหนเป็นตัวการ
สิ่งที่พื้นที่ทำงานแบบหลายโมเดลมอบให้คุณแทนคือคันโยกที่ใหญ่กว่า โมเดลสองตัวคือรายการความน่าจะเป็นสองแบบที่ต่างกัน และการสลับไปมาระหว่างโมเดลเปลี่ยนคำตอบได้มากกว่า temperature ใด ๆ นิสัยที่มาแทนสไลเดอร์คือ สำหรับงานที่มีคำตอบถูกต้องหนึ่งเดียว ให้ถามโมเดลตัวที่สองแล้วทำเฉพาะส่วนที่ทั้งสองเห็นตรงกัน สำหรับงานที่มีคำตอบดีได้หลายแบบ ให้ถามสองโมเดลแล้วเลือกเอง ใน Whizi นั่นคือการเปลี่ยนโมเดลกลางบทสนทนา และการสลับโมเดลกลางบทสนทนาอธิบายว่าอะไรบ้างที่ยังคงอยู่หลังสลับ
ถ้าคุณต้องการปุ่มนี้จริง ๆ มันอยู่ใน API หรือเพลย์กราวด์ของผู้ให้บริการเอง ต่อคำขอหนึ่งครั้ง และช่วงค่าตามตารางข้างต้นก็ใช้ได้เช่นกัน
- ใช้ 0 ถึง 0.3 สำหรับงานที่มีรูปแบบถูกต้องเพียงหนึ่งเดียว เช่น การดึงข้อมูล การจัดหมวดหมู่ โค้ด
- ปล่อยไว้ที่ค่าเริ่มต้น 1 สำหรับการร่างงานและเขียนใหม่ เพราะนี่คือค่าที่ทุกผู้ให้บริการปรับแต่งมาให้เหมาะแล้ว
- อย่ามองว่า 0 คือการรับประกันผลลัพธ์เหมือนเดิมทุกครั้ง ให้บันทึกคำตอบที่ต้องการเก็บไว้แทน
- อย่าใช้ temperature เพื่อแก้ปัญหาโทน ความยาว หรือความถูกต้อง เพราะเหล่านั้นเป็นปัญหาของคำสั่ง
- เมื่อแอปแชตไม่มีสไลเดอร์ ให้เปลี่ยนโมเดลแทน เพราะมันเปลี่ยนคำตอบได้มากกว่า temperature ใด ๆ
คำถามที่พบบ่อย
Temperature 0 ใน AI หมายความว่าอย่างไร
ที่ temperature 0 โมเดลจะเลือกโทเคนถัดไปที่มีโอกาสสูงสุดเสมอแทนการสุ่ม ดังนั้นพรอมต์เดิมจึงให้คำตอบเดิมเกือบทุกครั้ง เอกสารอ้างอิง API ของ Anthropic ระบุว่าผลลัพธ์ "จะไม่เป็น deterministic อย่างสมบูรณ์" แม้ที่ 0 เพราะฮาร์ดแวร์และการรวมกลุ่มคำขอยังทำให้เกิดความต่างเล็กน้อยได้ นี่คือค่าที่เหมาะกับการดึงข้อมูล การจัดหมวดหมู่ และโค้ด และมันไม่ได้ช่วยให้คำตอบที่มีโอกาสสูงสุดถูกต้องมากขึ้นแต่อย่างใด
Temperature ที่ดีที่สุดสำหรับ ChatGPT คือเท่าไหร่
แอป ChatGPT ไม่ให้คุณตั้งค่านี้ และ OpenAI ก็ไม่เปิดเผยค่าที่แอปใช้ ผ่าน API ให้ใช้ 0 ถึง 0.3 สำหรับผลลัพธ์แบบมีโครงสร้างและการดึงข้อมูลเชิงข้อเท็จจริง 0.7 ถึง 1 สำหรับงานเขียน และสูงกว่า 1 เฉพาะเมื่อต้องการข้อความสร้างสรรค์ที่จงใจให้หลากหลาย โมเดล reasoning ของ OpenAI จะคืนค่าเป็นข้อผิดพลาดถ้าคุณส่งพารามิเตอร์นี้ไปเลย
Temperature กับ top-p ต่างกันอย่างไร
Temperature ปรับรูปร่างของรายการความน่าจะเป็นทั้งหมด ทำให้แหลมขึ้นหรือแบนลง ส่วน top-p ตัดรายการออก โดยเก็บเฉพาะโทเคนที่มีโอกาสสูงสุดที่รวมกันได้ p แล้วสุ่มจากกลุ่มนั้น ทั้งสองอย่างลดหรือเพิ่มความสุ่มได้เหมือนกัน OpenAI แนะนำให้เปลี่ยนอย่างใดอย่างหนึ่งเท่านั้น และ Anthropic ปฏิเสธคำขอที่ตั้งทั้งสองค่าพร้อมกันบน Opus 4.1 ขึ้นไป
Temperature ที่สูงขึ้นทำให้ AI สร้างสรรค์มากขึ้นหรือไม่
มันทำให้โมเดลเลือกคำที่มีโอกาสน้อยกว่าบ่อยขึ้น ซึ่งอ่านได้ว่าสร้างสรรค์จนถึงประมาณ 1.3 และไม่เป็นเหตุเป็นผลตั้งแต่ประมาณ 1.5 ขึ้นไป ในตัวอย่างที่คำนวณไว้ การเพิ่ม temperature จาก 1 เป็น 2 ทำให้ตัวเลือกอันดับห้าขยับจากโอกาส 5 เปอร์เซ็นต์เป็น 11 เปอร์เซ็นต์ในทุกโทเคน และมันสะสมกันตลอดคำตอบที่ยาว ความคิดสร้างสรรค์ในความหมายของไอเดียที่ดีกว่ามาจากพรอมต์และตัวโมเดล ไม่ใช่จากปุ่มปรับ
เปลี่ยน temperature ใน Whizi ได้ไหม
ไม่ได้ Whizi ไม่ส่งค่า temperature ดังนั้นทุกโมเดลจึงทำงานที่ค่าเริ่มต้นของผู้ให้บริการ ChatGPT, แอป Claude และ Gemini ก็ไม่มีตัวควบคุมนี้เช่นกันและไม่เปิดเผยค่าที่ใช้ คันโยกที่เทียบเท่ากันในพื้นที่ทำงานแบบหลายโมเดลคือตัวเลือกโมเดล โมเดลสองตัวคือการกระจายความน่าจะเป็นสองแบบที่ต่างกัน และการสลับกลางบทสนทนาเปลี่ยนคำตอบได้มากกว่าการตั้งค่า temperature ใด ๆ
