Embedding คือตำแหน่ง และความหมายคือระยะห่าง
ป้อนประโยค "จะขอเงินคืนได้อย่างไร" ให้ embedding model มันจะคืนชุดตัวเลขออกมา ป้อน "นโยบายคืนเงิน" มันจะคืนอีกชุดหนึ่ง ทั้งสองชุดนี้อยู่ใกล้กันมาก ป้อน "การคืนตัวของอิเล็กตรอนในแคโทด" ชุดตัวเลขจะอยู่ไกลออกไป แม้จะมีคำร่วมกันอยู่ก็ตาม
นี่คือกลไกทั้งหมด โมเดลได้เรียนรู้ที่จะวางข้อความไว้ในพื้นที่ที่มีหลายร้อยถึงหลายพันมิติ โดยให้ความหมาย ไม่ใช่คำศัพท์ เป็นตัวตัดสินว่าสิ่งใดจะอยู่ตรงไหน เมื่อข้อความกลายเป็นตำแหน่งแล้ว คำถามเกี่ยวกับความหมายก็กลายเป็นคำถามเกี่ยวกับระยะห่าง และระยะห่างเป็นสิ่งที่คอมพิวเตอร์คำนวณได้เป็นล้านรายการภายในมิลลิวินาที
การสาธิตที่โด่งดังในยุคแรก จากงาน word2vec ปี 2013 คือการคำนวณทางคณิตศาสตร์กับตำแหน่งของคำ นำเวกเตอร์ของ "king" ลบด้วย "man" แล้วบวก "woman" คำที่ใกล้ที่สุดกับผลลัพธ์คือ "queen" โมเดล embedding สมัยใหม่ทำแบบเดียวกันนี้กับทั้งประโยคและเอกสาร และเวกเตอร์ก็ยาวขึ้น
Embedding มีขนาดใหญ่แค่ไหน ในโมเดลที่คนใช้จริง
ความยาวของชุดตัวเลขเรียกว่าจำนวนมิติ มันเพิ่มขึ้นตามโมเดลที่พัฒนาไป
word2vec ในปี 2013 ใช้ 300 มิติ และ BERT base ในปี 2018 ใช้ 768 มิติ Voyage 3 คืนค่า 1,024 มิติ text-embedding-3-small ของ OpenAI คืนค่า 1,536 ตัวเลขต่ออินพุตหนึ่งชิ้น และ text-embedding-3-large คืนค่า 3,072 ตัวเลข Gemini Embedding ของ Google ก็ใช้ค่าเริ่มต้น 3,072 เช่นกัน มิติที่มากขึ้นเก็บความแตกต่างที่ละเอียดขึ้นได้ แลกมาด้วยพื้นที่จัดเก็บและเวลาเปรียบเทียบที่มากขึ้น จึงเป็นเหตุผลที่โมเดลรุ่นใหม่ยอมให้ตัดชุดตัวเลขให้สั้นลงได้เมื่อความเร็วสำคัญกว่าความละเอียด
ตัวเลขแต่ละตัวไม่มีความหมายในตัวเอง มิติที่ 412 ไม่ใช่ "ความเป็นทางการ" หรือ "หัวข้อ" ความหมายอยู่ที่ตำแหน่งของชุดตัวเลขทั้งชุดเมื่อเทียบกับชุดอื่นเท่านั้น ซึ่งเป็นเหตุผลที่ embedding หนึ่งชุดไร้ประโยชน์หากไม่มีกลุ่มข้อมูลอื่นให้เปรียบเทียบด้วย
Embedding model ค้นหา ภาษาโมเดลเขียน
คนมักสับสนสองสิ่งนี้เพราะทั้งคู่คือ "AI กับข้อความ" ทั้งที่จริงแล้วเป็นโมเดลคนละแบบที่ทำหน้าที่ตรงข้ามกัน
| Embedding model | ภาษาโมเดล (LLM) | |
|---|---|---|
| อินพุต | ข้อความ (หรือรูปภาพ) | ข้อความ (หรือรูปภาพ) |
| เอาต์พุต | ชุดตัวเลขที่มีขนาดคงที่ | ข้อความใหม่ ทีละโทเคน |
| หน้าที่ | วางอินพุตให้สิ่งที่คล้ายกันอยู่ใกล้กัน | ต่อขยายอินพุตอย่างสมเหตุสมผล |
| ใช้สำหรับ | การค้นหา การจับคู่ การจัดกลุ่ม การดึงข้อมูล | การตอบ การเขียน การสรุป |
| ต้นทุนต่อล้านโทเคน | $0.02 สำหรับ text-embedding-3-small | $0.20 สำหรับแถว GPT ที่ถูกที่สุด $2 ถึง $10 สำหรับรุ่นแนวหน้า |
| ผิดพลาดได้ไหม | อาจจัดอันดับผลลัพธ์ที่ไม่ตรงไว้อันดับแรก | อาจสร้างคำตอบขึ้นมาเอง |
แถวต้นทุนคือสิ่งที่ควรสังเกต การทำ embedding หนึ่งล้านโทเคนด้วยโมเดลขนาดเล็กของ OpenAI มีราคา $0.02 เทียบกับ $0.20 ต่อล้านโทเคนอินพุตสำหรับ GPT-5.6 Luna ซึ่งมีราคาถูกที่สุดเท่ากับ Luna Pro และ GPT-5.4 Nano ตามข้อมูลจาก ดัชนีต้นทุนโมเดล AI จากราคา OpenRouter ที่ดึงมาเมื่อวันที่ 2026-08-20 การค้นหาถูกกว่าการเขียนของ GPT ที่ถูกที่สุดถึงสิบเท่า และถูกกว่าการเขียนของรุ่นแนวหน้าอย่างน้อยร้อยเท่า ช่องว่างนี้เองที่ทำให้ระบบจริงจังทุกระบบค้นหาก่อนแล้วค่อยเขียน LLM คืออะไร พูดถึงฝั่งการเขียนโดยละเอียด
Embedding ทำงานอยู่เบื้องหลังโดยที่คุณมองไม่เห็น
แชทกับเอกสารของคุณ เมื่อคุณอัปโหลดไฟล์ PDF ยาว ๆ แล้วถามคำถาม ไฟล์จะถูกแบ่งเป็นย่อหน้า แต่ละย่อหน้าจะถูกแปลงเป็น embedding และเก็บไว้ในฐานข้อมูลเวกเตอร์ คำถามของคุณก็จะถูกแปลงเป็น embedding เช่นกัน และย่อหน้าที่มีเวกเตอร์ใกล้เคียงที่สุดจะถูกส่งให้ภาษาโมเดลเป็นบริบท โมเดลจะตอบจากย่อหน้าเหล่านั้น นี่คือ retrieval-augmented generation และ RAG คืออะไร อธิบายกระบวนการนี้อย่างละเอียด embedding คือขั้นตอนการค้นหาของมัน คู่มือแชทกับ PDF อธิบายวิธีถามคำถามกับไฟล์ที่อัปโหลดใน Whizi
ไฟล์เอกสารจะถูกค้นหาหรือถูกอ่านทั้งหมดโดยตรงนั้นขึ้นอยู่กับหน้าต่างบริบท context window ของแต่ละโมเดล นับเป็นหน้ากระดาษ อยู่ด้านล่างนี้ สิ่งใดที่พอดีกับหน้าต่างสามารถใส่เข้าไปทั้งหมดได้ ส่วนการดึงข้อมูลมีไว้สำหรับชุดข้อมูลที่ไม่พอดี
การค้นหาที่เข้าใจคำพ้องความหมาย เว็บไซต์ช่วยเหลือที่แสดงบทความการยกเลิกให้กับคำค้นหา "หยุดจ่ายเงิน" กำลังเปรียบเทียบ embedding อยู่ ไม่ใช่การจับคู่คำ
ระบบแนะนำและการจัดกลุ่ม รายการที่มีเวกเตอร์ใกล้เคียงกันคือรายการที่คล้ายกัน สินค้าที่เกี่ยวข้อง ตั๋วซ้ำ บทความในหัวข้อเดียวกัน
ฟีเจอร์ความจำในแอปแชท เมื่อผู้ช่วย "จำ" ข้อเท็จจริงจากบทสนทนาเก่าได้ วิธีทำที่พบบ่อยคือแปลงบันทึกเก่าเป็น embedding แล้วดึงบันทึกที่ใกล้เคียงที่สุดเข้ามาในพรอมป์ต
ในทุกกรณี embedding ทำหน้าที่ค้นหา และสิ่งอื่นทำหน้าที่ตัดสินใจหรือเขียน วิธีที่มันล้มเหลวก็เหมือนกันทุกที่เช่นกัน ถ้าเวกเตอร์ที่ใกล้ที่สุดคือย่อหน้าที่ผิด ทุกอย่างที่ตามมาจะตอบคำถามที่ผิดอย่างมั่นใจ ซึ่งเป็นความผิดพลาดในการดึงข้อมูลที่ AI hallucination คืออะไร จัดว่าเป็นความผิดพลาดคนละแบบจากการสร้างเรื่องขึ้นมาเอง
สิ่งที่คุณทำได้กับแนวคิดนี้ โดยไม่ต้องเขียนโค้ด
คุณจะแทบไม่ต้องจัดการกับ embedding โดยตรงเลย แต่การรู้กลไกนี้เปลี่ยนวิธีที่คุณใช้เครื่องมือที่สร้างขึ้นบนพื้นฐานนี้
- ถามด้วยภาษาแบบเดียวกับคำตอบ การดึงข้อมูลจับคู่คำถามของคุณกับย่อหน้าโดยความหมาย คำถามที่เรียบเรียงแบบเดียวกับที่เอกสารใช้จะอยู่ใกล้กว่าคำถามที่เรียบเรียงแบบที่คุณพูดออกมาตามปกติ
- แบ่งไฟล์อัปโหลดขนาดใหญ่ตามหัวข้อ ไฟล์ 400 หน้าที่มีสามหัวข้อไม่เกี่ยวข้องกันจะถูกแปลงเป็น embedding ในพื้นที่ที่แออัด ในขณะที่ไฟล์แยกสามไฟล์จะดึงข้อมูลได้สะอาดกว่า
- อ่านย่อหน้าที่ถูกอ้างอิง ถ้าคำตอบจากการแชทกับไฟล์อ้างอิงย่อหน้าใด ให้เปิดดู ความผิดพลาดในการดึงข้อมูลจะดูเหมือนคำตอบที่มั่นใจต่อคำถามที่ต่างออกไปเล็กน้อย
- คาดหวังว่ามันจะล้มเหลวกับข้อความที่ตรงเป๊ะ Embedding เกี่ยวกับความหมาย เลขที่ใบแจ้งหนี้หรือรหัสชิ้นส่วนหาได้ดีกว่าด้วยการค้นหาข้อความล้วน และเครื่องมือที่ดีจะรวมทั้งสองแบบเข้าด้วยกัน
กฎการตัดสินใจคือ เมื่องานคือการค้นหาชิ้นส่วนที่ถูกต้องท่ามกลางชิ้นส่วนมากมาย คุณต้องการ embedding model และมันควรถูก เมื่องานคือการผลิตชิ้นงานหนึ่งชิ้น คุณต้องการภาษาโมเดล และมันควรดี ผลิตภัณฑ์ที่ทำการแบ่งนี้ได้ถูกต้องคือผลิตภัณฑ์ที่การแชทกับไฟล์ใช้งานได้จริง
- จำการแบ่งหน้าที่ไว้ embedding ค้นหา ภาษาโมเดลเขียน
- เรียบเรียงคำถามกับเอกสารที่อัปโหลดด้วยคำศัพท์แบบเดียวกับเอกสาร
- แบ่งไฟล์อัปโหลดขนาดใหญ่ตามหัวข้อ เพื่อให้การดึงข้อมูลมีพื้นที่ค้นหาที่สะอาดกว่า
- เปิดย่อหน้าที่ถูกอ้างอิงในทุกคำตอบจากการแชทกับไฟล์ก่อนที่จะเชื่อ
- ใช้การค้นหาข้อความล้วนสำหรับข้อความที่ตรงเป๊ะ เช่น ไอดีและรหัส เพราะ embedding จับคู่ความหมาย ไม่ใช่ตัวอักษร
คำถามที่พบบ่อย
Embedding คืออะไรแบบเข้าใจง่าย
ชุดตัวเลขที่แทนความหมายของข้อความหนึ่งชิ้น วางไว้ให้ความหมายที่คล้ายกันได้ชุดตัวเลขที่คล้ายกัน "นโยบายคืนเงิน" กับ "จะขอเงินคืนได้อย่างไร" อยู่ใกล้กัน ส่วนประโยคเคมีที่มีคำว่าคืนตัวอยู่ไกลออกไป ระยะห่างระหว่างชุดตัวเลขคือวิธีที่คอมพิวเตอร์วัดความเกี่ยวข้อง
Embedding model กับ LLM ต่างกันอย่างไร
Embedding model ให้ผลลัพธ์เป็นชุดตัวเลขขนาดคงที่ที่แทนความหมาย ส่วนภาษาโมเดลให้ผลลัพธ์เป็นข้อความใหม่ทีละโทเคน ตัวแรกค้นหาและจับคู่ ตัวที่สองเขียนและตอบ การแชทกับเอกสารของคุณใช้ทั้งสองอย่าง embedding เพื่อดึงย่อหน้าที่เกี่ยวข้อง LLM เพื่อเขียนคำตอบจากย่อหน้าเหล่านั้น
Embedding มีกี่มิติ
ขึ้นอยู่กับโมเดล word2vec ในปี 2013 ใช้ 300 มิติ BERT base ใช้ 768 มิติ และโมเดลปัจจุบันอยู่ระหว่าง 1,024 ถึง 3,072 มิติ text-embedding-3-small ของ OpenAI คืนค่า 1,536 มิติ และ text-embedding-3-large คืนค่า 3,072 มิติ เท่ากับค่าเริ่มต้นของ Gemini Embedding ของ Google โมเดลรุ่นใหม่ยอมให้ตัดให้เหลือมิติน้อยลงได้เมื่อความเร็วสำคัญกว่าความละเอียด
Embedding แพงไหม
ไม่แพง และนั่นคือประเด็นสำคัญ OpenAI ตั้งราคา text-embedding-3-small ไว้ที่ $0.02 ต่อล้านโทเคน เทียบกับ $0.20 ต่อล้านโทเคนอินพุตสำหรับ GPT-5.6 Luna และ $2 ถึง $5 สำหรับโมเดลแชทแนวหน้าตามราคาลิสต์ของ OpenRouter ที่ดึงมาเมื่อวันที่ 2026-08-20 การค้นหาถูกกว่าการเขียนสิบถึงร้อยเท่า ซึ่งเป็นเหตุผลที่ระบบดึงข้อมูลทำ embedding ทุกอย่างแล้วสร้างขึ้นเฉพาะคำตอบเท่านั้น
Embedding ถูกใช้ที่ไหนใน ChatGPT, Claude หรือ Gemini
ในฟีเจอร์ที่ทำหน้าที่ค้นหา การอัปโหลดไฟล์และแชทกับเอกสาร การค้นหาในบทสนทนาเก่าของคุณ และความจำที่จำข้อเท็จจริงจากแชทก่อนหน้าได้ ในแต่ละกรณีการออกแบบทั่วไปคือแปลงข้อความเป็น embedding ดึงผลลัพธ์ที่ใกล้ที่สุด แล้วให้ภาษาโมเดลเขียนคำตอบจากสิ่งนั้น ตัว embedding เองมองไม่เห็น แต่ความผิดพลาดในการดึงข้อมูล เมื่อมันเกิดขึ้น จะมองเห็นได้ชัด
