یک embedding یک مکان است و معنا یک فاصله
به یک مدل embedding جملهٔ «چطور پولم را پس بگیرم» را بدهید، فهرستی از اعداد برمی‌گرداند. «سیاست بازگشت وجه» را بدهید، فهرست دیگری برمی‌گرداند. این دو فهرست به هم نزدیک‌اند. «بازگشت الکترون‌ها در کاتد» را بدهید، فهرست با فاصلهٔ زیاد می‌نشیند، هرچند همان کلمه را دارد.
کل ترفند همین است. مدل یاد گرفته متن را در فضایی با صدها یا هزاران بعد طوری قرار دهد که معنا، نه واژگان، تعیین‌کنندهٔ جای آن باشد. وقتی متن به یک مکان تبدیل شد، سوال‌های مربوط به معنا به سوال‌های مربوط به فاصله تبدیل می‌شوند، و فاصله چیزی است که کامپیوتر میتواند برای یک میلیون آیتم در چند میلی‌ثانیه محاسبه کند.
نمایش اولیهٔ معروف، از کار word2vec در 2013، محاسبه‌ای روی مکان کلمات بود: بردار «king» را بگیرید، «man» را کم کنید، «woman» را اضافه کنید، و نزدیک‌ترین کلمه به نتیجه «queen» می‌شود. مدل‌های embedding امروزی همین کار را برای کل جملات و اسناد انجام می‌دهند، و بردارها طولانی‌ترند.
اندازهٔ یک embedding در مدل‌هایی که مردم واقعاً استفاده می‌کنند
طول فهرست را تعداد ابعاد آن می‌نامند. این عدد همراه با مدل‌ها بزرگ‌تر شده است.
word2vec در 2013 از 300 بعد استفاده می‌کرد و BERT base در 2018 از 768 بعد؛ Voyage 3 عدد 1,024 برمی‌گرداند، text-embedding-3-small از OpenAI 1,536 عدد به ازای هر ورودی برمی‌گرداند و text-embedding-3-large عدد 3,072 را؛ Gemini Embedding گوگل هم به‌طور پیش‌فرض 3,072 میدهد. ابعاد بیشتر میتواند تمایزهای ظریف‌تری را نگه دارد، به قیمت فضای ذخیره‌سازی و زمان مقایسه، به همین دلیل مدل‌های جدیدتر امکان کوتاه کردن فهرست به اندازه‌ای کوچک‌تر را هم می‌دهند وقتی سرعت مهم‌تر از ظرافت باشد.
هر یک از این اعداد به‌تنهایی بی‌معناست. بعد 412 چیزی مثل «رسمیت» یا «موضوع» نیست. معنا فقط در جایگاه کل فهرست نسبت به فهرست‌های دیگر است، به همین دلیل یک embedding بدون مجموعه‌ای برای مقایسه بی‌فایده است.
مدل‌های embedding پیدا می‌کنند؛ مدل‌های زبانی می‌نویسند
مردم این دو را با هم اشتباه میگیرند چون هر دو «هوش مصنوعی روی متن» هستند. اما این دو مدل متفاوتند و کارهای متضادی انجام می‌دهند.
| مدل embedding | مدل زبانی (LLM) | |
|---|---|---|
| ورودی | متن (یا تصویر) | متن (یا تصویر) |
| خروجی | فهرستی ثابت از اعداد | متن جدید، توکن به توکن |
| کار | چیدن ورودی طوری که موارد مشابه نزدیک هم باشند | ادامهٔ ورودی به‌صورت باورپذیر |
| کاربرد | جست‌وجو، تطبیق، خوشه‌بندی، بازیابی | پاسخ‌دهی، نوشتن، خلاصه‌سازی |
| هزینه به ازای هر میلیون توکن | $0.02 روی text-embedding-3-small | $0.20 روی ارزان‌ترین ردیف GPT، $2 تا $10 روی مدل‌های پیشرفته |
| ممکن است اشتباه کند؟ | میتواند یک تطبیق ضعیف را اول رتبه‌بندی کند | میتواند پاسخی را اختراع کند |
ردیف هزینه همان چیزی است که باید به آن توجه کرد. embedding کردن یک میلیون توکن با مدل کوچک OpenAI $0.02 هزینه دارد، در برابر $0.20 به ازای هر میلیون توکن ورودی برای GPT-5.6 Luna، که همراه با Luna Pro و GPT-5.4 Nano ارزان‌ترین ردیف GPT است، طبق شاخص هزینهٔ مدل هوش مصنوعی با قیمت‌های OpenRouter در تاریخ 2026-08-20. پیدا کردن ده برابر ارزان‌تر از ارزان‌ترین نوشتن GPT است و دست‌کم صد برابر ارزان‌تر از نوشتن مدل‌های پیشرفته. همین فاصله دلیل آن است که هر سیستم جدی اول پیدا می‌کند، بعد می‌نویسد. LLM چیست به بخش نوشتن می‌پردازد.
جایی که embeddingها بدون آنکه ببینید در حال اجرا هستند
گفتوگو با اسناد شما. وقتی یک PDF طولانی آپلود می‌کنید و سوالی می‌پرسید، فایل به بخش‌هایی تقسیم می‌شود، هر بخش embed و در یک پایگاه‌دادهٔ برداری ذخیره می‌شود، سوال شما هم embed می‌شود، و بخش‌هایی که بردارشان نزدیک‌تر است به‌عنوان زمینه به مدل زبانی داده می‌شوند. مدل از روی همان بخش‌ها پاسخ میدهد. این همان تولید تقویت‌شده با بازیابی است، و RAG چیست کل زنجیره را توضیح میدهد؛ embeddingها مرحلهٔ جستوجوی آن هستند. راهنمای گفتوگو با PDF نحوهٔ پرسیدن سوال از یک فایل آپلودشده در Whizi را پوشش میدهد.
اینکه یک سند جست‌وجو شود یا به‌طور کامل خوانده شود به پنجرهٔ زمینه برمی‌گردد. پنجرهٔ زمینه هر مدل، بر حسب صفحه، در زیر آمده؛ هر چیزی که جا بگیرد میتواند به‌طور کامل وارد شود، و بازیابی برای مجموعه‌هایی است که جا نمی‌گیرند.
جست‌وجویی که مترادف‌ها را می‌فهمد. یک سایت پشتیبانی که برای «دیگه پول ندم» مقالهٔ لغو را برمی‌گرداند، دارد embeddingها را مقایسه می‌کند، نه کلمات را.
پیشنهادها و خوشه‌بندی. آیتم‌هایی با بردارهای نزدیک به هم آیتم‌های مشابه‌اند: محصولات مرتبط، تیکت‌های تکراری، مقالات دربارهٔ یک موضوع.
قابلیت‌های حافظه در اپلیکیشن‌های گفتوگو. وقتی دستیاری یک واقعیت را از یک گفت‌وگوی قدیمی «به یاد می‌آورد»، یک پیاده‌سازی رایج یادداشت‌های قبلی را embed می‌کند و نزدیک‌ترین‌ها را در پرامپت بازیابی می‌کند.
در هر مورد، embedding کار پیدا کردن را انجام میدهد و چیز دیگری تصمیم‌گیری یا نوشتن را. حالت شکست هم در همه‌جا یکسان است: اگر نزدیک‌ترین بردار بخش اشتباهی باشد، همه‌چیز پس از آن با اطمینان به سوال اشتباهی پاسخ میدهد، که همان خطای بازیابی است و توهم هوش مصنوعی چیست آن را شکستی جدا از اختراع کردن می‌داند.
با این ایده چه می‌توانید بکنید، بدون نوشتن کد
به‌ندرت مستقیم با یک embedding سروکار خواهید داشت، اما دانستن سازوکار آن نحوهٔ استفاده از ابزارهای ساخته‌شده روی آن را تغییر میدهد.
- سوال را به زبان پاسخ بپرسید. بازیابی سوال شما را با بخش‌ها بر اساس معنا تطبیق میدهد. سوالی که به شکل خود سند بیان شود نزدیک‌تر از سوالی می‌نشیند که به شکل حرف‌زدن معمولی شما بیان شده باشد.
- آپلودهای بزرگ را بر اساس موضوع تقسیم کنید. یک فایل 400 صفحه‌ای با سه موضوع نامرتبط در یک فضای شلوغ embed می‌شود؛ سه فایل جداگانه تمیزتر بازیابی می‌شوند.
- بخش نقل‌شده را بخوانید. اگر پاسخ گفتوگو با فایل به بخشی استناد می‌کند، آن را باز کنید. یک خطای بازیابی شبیه پاسخی مطمئن به سوالی کمی متفاوت به نظر می‌رسد.
- انتظار نداشته باشید روی رشته‌های دقیق کار کند. embeddingها دربارهٔ معنا هستند؛ شمارهٔ فاکتور یا کد قطعه بهتر است با جستوجوی متنی ساده پیدا شود، و ابزارهای خوب این دو را ترکیب می‌کنند.
قانون تصمیم‌گیری این است: وقتی کار پیدا کردن قطعهٔ درست میان انبوهی از گزینه‌هاست، مدل embedding می‌خواهید، و باید ارزان باشد. وقتی کار تولید یک قطعه است، مدل زبانی می‌خواهید، و باید خوب باشد. محصولاتی که این تفکیک را درست انجام می‌دهند همان‌هایی هستند که گفتوگو با فایلشان واقعاً کار می‌کند.
- این تفکیک را به‌خاطر بسپارید: embeddingها پیدا می‌کنند، مدل‌های زبانی می‌نویسند
- سوال‌های خود را دربارهٔ سند آپلودشده با اصطلاحات خود آن سند بپرسید
- آپلودهای بزرگ را بر اساس موضوع تقسیم کنید تا بازیابی فضای تمیزتری برای جست‌وجو داشته باشد
- پیش از اعتماد به هر پاسخ گفتوگو با فایل، بخش نقل‌شده را باز کنید
- برای رشته‌های دقیق مانند شناسه‌ها و کدها از جستوجوی متنی ساده استفاده کنید؛ embeddingها معنا را تطبیق می‌دهند، نه کاراکترها را
پرسش‌های متداول
embedding به زبان ساده چیست؟
فهرستی از اعداد که جایگزین معنای یک متن می‌شود، طوری قرار گرفته که معناهای مشابه فهرست‌های مشابه بگیرند. «سیاست بازگشت وجه» و «چطور پولم را پس بگیرم» کنار هم می‌نشینند؛ جمله‌ای شیمیایی با کلمهٔ بازگشت دور می‌افتد. فاصلهٔ بین فهرست‌ها همان چیزی است که کامپیوتر با آن ارتباط را می‌سنجد.
تفاوت مدل embedding با LLM چیست؟
یک مدل embedding فهرستی ثابت از اعداد که نشان‌دهندهٔ معناست تولید می‌کند؛ یک مدل زبانی متن جدید را توکن به توکن تولید می‌کند. اولی پیدا می‌کند و تطبیق میدهد، دومی می‌نویسد و پاسخ میدهد. گفتوگو با اسناد شما از هر دو استفاده می‌کند: embedding برای واکشی بخش‌های مرتبط، LLM برای نوشتن پاسخ از روی آن‌ها.
یک embedding چند بعد دارد؟
به مدل بستگی دارد. word2vec در 2013 از 300 بعد، BERT base از 768 بعد استفاده می‌کرد، و مدل‌های فعلی بین 1,024 تا 3,072 اجرا می‌شوند: text-embedding-3-small از OpenAI عدد 1,536 و text-embedding-3-large عدد 3,072 برمی‌گرداند، همان مقدار پیش‌فرض Gemini Embedding گوگل. مدل‌های جدیدتر امکان کوتاه کردن به ابعاد کمتر را می‌دهند وقتی سرعت مهم‌تر از ظرافت باشد.
آیا embeddingها گران‌اند؟
نه، و همین نکتهٔ اصلی است. OpenAI قیمت text-embedding-3-small را $0.02 به ازای هر میلیون توکن اعلام کرده، در برابر $0.20 به ازای هر میلیون توکن ورودی برای GPT-5.6 Luna و $2 تا $5 برای مدل‌های گفت‌وگوی پیشرفته با قیمت‌های فهرست OpenRouter در تاریخ 2026-08-20. پیدا کردن ده تا صد برابر ارزان‌تر از نوشتن است، به همین دلیل سیستم‌های بازیابی همه‌چیز را embed می‌کنند و فقط پاسخ را تولید می‌کنند.
embeddingها کجای ChatGPT، Claude یا Gemini استفاده می‌شوند؟
در قابلیت‌هایی که چیزها را پیدا می‌کنند: آپلود فایل و گفتوگو با اسناد، جست‌وجو در گفت‌وگوهای گذشتهٔ شما، و حافظه‌ای که واقعیت‌ها را از گفت‌وگوهای قبلی به یاد می‌آورد. در هر کدام، طراحی رایج این است که متن embed شود، نزدیک‌ترین تطبیق‌ها بازیابی شوند، و مدل زبانی از روی آن‌ها بنویسد. embedding برای شما نامرئی است؛ خطای بازیابی، وقتی رخ میدهد، نامرئی نیست.
