Un embedding este o locație, iar înțelesul este distanță
Dă unui model de embedding propoziția "cum îmi recuperez banii" și acesta returnează o listă de numere. Dă-i "politica de rambursare" și returnează o altă listă. Cele două liste sunt apropiate. Dă-i "recombinarea electronilor în catod" și lista ajunge departe, deși are un cuvânt în comun.
Acesta este întregul truc. Modelul a învățat să plaseze textul într-un spațiu cu sute sau mii de dimensiuni astfel încât înțelesul, nu vocabularul, decide unde ajunge fiecare lucru. Odată ce textul devine o locație, întrebările despre înțeles devin întrebări despre distanță, iar distanța este ceva ce un calculator poate calcula pentru un milion de elemente în milisecunde.
Faimoasa demonstrație timpurie, din lucrarea word2vec din 2013, a fost aritmetică pe locațiile cuvintelor: ia vectorul pentru "rege", scade "bărbat", adaugă "femeie", iar cel mai apropiat cuvânt de rezultat este "regină". Modelele de embedding moderne fac același lucru pentru propoziții și documente întregi, iar vectorii sunt mai lungi.
Cât de mare este un embedding, la modelele folosite de fapt de oameni
Lungimea listei se numește numărul de dimensiuni. A crescut odată cu modelele.
word2vec din 2013 folosea 300 de dimensiuni, iar BERT base din 2018, 768; Voyage 3 returnează 1.024, text-embedding-3-small de la OpenAI returnează 1.536 de numere pe intrare, iar text-embedding-3-large returnează 3.072; Gemini Embedding de la Google folosește implicit tot 3.072. Mai multe dimensiuni pot reține distincții mai fine, cu prețul spațiului de stocare și al timpului de comparare, motiv pentru care modelele mai noi permit și trunchierea listei la o dimensiune mai mică atunci când viteza contează mai mult decât nuanța.
Fiecare dintre aceste numere este lipsit de sens de unul singur. Dimensiunea 412 nu înseamnă "formalitate" sau "subiect". Sensul se află doar în locul unde ajunge întreaga listă, relativ la alte liste, motiv pentru care un embedding este inutil fără o colecție cu care să fie comparat.
Modelele de embedding găsesc; modelele de limbaj scriu
Oamenii confundă cele două pentru că ambele sunt "IA pe text". Sunt modele diferite care fac treburi opuse.
| Model de embedding | Model de limbaj (LLM) | |
|---|---|---|
| Intrare | Text (sau o imagine) | Text (sau o imagine) |
| Ieșire | O listă fixă de numere | Text nou, câte un token pe rând |
| Rol | Plasează intrarea astfel încât lucrurile similare să fie aproape | Continuă intrarea în mod plauzibil |
| Folosit pentru | Căutare, potrivire, clusterizare, recuperare | Răspuns, scriere, rezumare |
| Cost pe milion de tokeni | $0.02 pentru text-embedding-3-small | $0.20 pentru cel mai ieftin model GPT, $2 până la $10 pentru cele de vârf |
| Poate greși? | Poate clasa o potrivire slabă pe primul loc | Poate inventa un răspuns |
Rândul cu costurile este cel de reținut. Embedding-ul unui milion de tokeni cu modelul mic al OpenAI costă $0.02, față de $0.20 pe milion de tokeni de intrare pentru GPT-5.6 Luna, la egalitate pentru cel mai ieftin rând GPT alături de Luna Pro și GPT-5.4 Nano, potrivit indexului de cost al modelelor de IA la prețurile OpenRouter culese pe 2026-08-20. Găsirea este de zece ori mai ieftină decât cea mai ieftină scriere GPT și de cel puțin o sută de ori mai ieftină decât scrierea cu modele de vârf. Această diferență este motivul pentru care orice sistem serios caută întâi și scrie apoi. Ce este un LLM acoperă partea de scriere.
Unde rulează embeddings fără să le vezi
Chat cu documentele tale. Când încarci un PDF lung și pui o întrebare, fișierul este împărțit în pasaje, fiecare pasaj este transformat într-un embedding și stocat într-o bază de date vectorială, întrebarea ta este și ea transformată într-un embedding, iar pasajele ale căror vectori sunt cei mai apropiați sunt oferite modelului de limbaj drept context. Modelul răspunde pe baza acestor pasaje. Aceasta este generarea augmentată prin recuperare, iar ce este RAG parcurge întregul flux; embeddings reprezintă pasul de căutare. Ghidul de chat cu PDF explică cum să pui întrebări unui fișier încărcat în Whizi.
Dacă un document este căutat sau pur și simplu citit integral depinde de fereastră. Fereastra de context a fiecărui model, în pagini, este mai jos; tot ce încape poate fi introdus integral, iar recuperarea există pentru colecțiile care nu încap.
Căutare care înțelege sinonimele. Un site de suport care returnează articolul despre anulare pentru "nu mai vreau să plătesc" compară embeddings, nu potrivește cuvinte.
Recomandări și clusterizare. Elementele cu vectori apropiați sunt elemente similare: produse înrudite, tichete duplicate, articole pe același subiect.
Funcții de memorie în aplicațiile de chat. Când un asistent "își amintește" un fapt dintr-o conversație veche, o implementare comună constă în transformarea notelor din trecut în embeddings și recuperarea celor mai apropiate în prompt.
În fiecare caz, embedding-ul face găsirea, iar altceva face alegerea sau scrierea. Modul de eșec este același peste tot: dacă vectorul cel mai apropiat este pasajul greșit, tot ce urmează răspunde cu încredere la întrebarea greșită, care este exact ratarea de recuperare pe care ce este o halucinație de IA o listează drept un eșec separat de invenție.
Ce poți face cu această idee, fără să scrii cod
Rareori vei manipula direct un embedding, dar înțelegerea mecanismului schimbă modul în care folosești uneltele construite pe el.
- Pune întrebarea în limbajul răspunsului. Recuperarea potrivește întrebarea ta cu pasaje după înțeles. O întrebare formulată așa cum formulează documentul lucrurile ajunge mai aproape decât una formulată așa cum ai spune-o cu voce tare.
- Împarte încărcările mari pe subiecte. Un fișier de 400 de pagini cu trei subiecte fără legătură între ele produce un spațiu aglomerat de embeddings; trei fișiere separate se recuperează curat.
- Citește pasajul citat. Dacă un răspuns de tip chat-cu-fișier citează un pasaj, deschide-l. O ratare de recuperare arată ca un răspuns sigur la o întrebare ușor diferită.
- Așteaptă-te să eșueze la șiruri exacte. Embeddings se referă la înțeles; un număr de factură sau un cod de produs se găsește mai bine printr-o căutare simplă de text, iar uneltele bune combină ambele metode.
Regula de decizie: când sarcina este să găsești piesa potrivită printre multe altele, ai nevoie de un model de embedding, iar acesta trebuie să fie ieftin. Când sarcina este să produci o piesă, ai nevoie de un model de limbaj, iar acesta trebuie să fie bun. Produsele care fac corect această separare sunt cele al căror chat cu fișiere chiar funcționează.
- Ține minte separarea: embeddings găsesc, modelele de limbaj scriu
- Formulează întrebările către un document încărcat în termenii proprii ai documentului
- Împarte încărcările mari pe subiecte, astfel încât recuperarea să aibă un spațiu de căutare mai curat
- Deschide pasajul citat la orice răspuns de tip chat-cu-fișier înainte de a-l crede
- Folosește căutarea simplă de text pentru șiruri exacte, precum ID-uri și coduri; embeddings potrivesc înțelesul, nu caracterele
Întrebări frecvente
Ce este un embedding în termeni simpli?
O listă de numere care ține locul înțelesului unui text, plasată astfel încât înțelesurile similare primesc liste similare. "Politica de rambursare" și "cum îmi recuperez banii" ajung aproape una de alta; o propoziție de chimie cu cuvântul rambursare ajunge departe. Distanța dintre liste este modul în care un calculator măsoară înrudirea.
Care este diferența dintre un model de embedding și un LLM?
Un model de embedding produce o listă fixă de numere care reprezintă înțelesul; un model de limbaj produce text nou, câte un token pe rând. Primul găsește și potrivește, al doilea scrie și răspunde. Chat-ul cu documentele tale folosește ambele: embeddings pentru a aduce pasajele relevante, LLM-ul pentru a scrie răspunsul pe baza lor.
Câte dimensiuni are un embedding?
Depinde de model. word2vec din 2013 folosea 300, BERT base 768, iar modelele actuale merg de la 1.024 la 3.072: text-embedding-3-small de la OpenAI returnează 1.536, iar text-embedding-3-large returnează 3.072, la fel ca valoarea implicită a Gemini Embedding de la Google. Modelele mai noi permit trunchierea la mai puține dimensiuni atunci când viteza contează mai mult decât nuanța.
Sunt embeddings scumpe?
Nu, și tocmai asta e ideea. OpenAI listează text-embedding-3-small la $0.02 pe milion de tokeni, față de $0.20 pe milion de tokeni de intrare pentru GPT-5.6 Luna și $2 până la $5 pentru modelele de chat de vârf, la prețurile de listă OpenRouter culese pe 2026-08-20. Găsirea este de la zece până la o sută de ori mai ieftină decât scrierea, motiv pentru care sistemele de recuperare transformă totul în embeddings și generează doar răspunsul.
Unde sunt folosite embeddings în ChatGPT, Claude sau Gemini?
În funcțiile care găsesc lucruri: încărcarea fișierelor și chat-ul cu documente, căutarea în conversațiile tale trecute și memoria care își amintește fapte din chat-uri anterioare. În fiecare caz, modelul obișnuit este să transformi textul în embedding, să recuperezi cele mai apropiate potriviri și să lași modelul de limbaj să scrie pe baza lor. Embedding-ul este invizibil pentru tine; ratarea de recuperare, când se întâmplă, nu este.