AI 용어 사전: 쉬운 말로 정리한 55개 용어

빠른 답변

이 AI 용어 사전은 쉬운 말로 55개 용어를 정의하며, 각 항목은 그대로 인용할 수 있는 한 문장짜리 정의로 시작한 뒤 자세한 설명이 이어집니다. 알파벳순이 아니라 지금 하고 있는 일을 기준으로 정리했고, 기초, 프롬프트 작성, 모델이 만들어지는 과정, 실패 유형, 검색, 텍스트를 넘어선 작업, 더 넓은 생태계를 다룹니다.

기초

이건 참고용 버전입니다. 55개 용어를, 정의 먼저 자세한 설명은 그다음으로 담았습니다. 첫 일주일에 필요한 단어만 다룬 더 부드러운 버전을 원한다면 AI 용어 정리를 대신 읽고, 여기서 어떤 용어가 걸리면 그때 돌아오세요.

인공지능

인공지능은 글쓰기, 추론, 이미지 속 내용을 알아보는 것처럼 보통 사람의 판단이 필요한 작업을 수행하는 소프트웨어입니다.

2026년 일상에서 "AI"는 거의 항상 더 넓은 학문 분야가 아니라 대규모 언어 모델 위에 만들어진 채팅 어시스턴트를 뜻합니다.

머신러닝

머신러닝은 규칙을 프로그래밍하는 대신 예시를 보여줘서 소프트웨어를 가르치는 기법입니다.

현대의 모든 AI 어시스턴트는 이런 식으로 만들어집니다. 행동이 학습 데이터 속 패턴에서 나오기 때문에, 같은 모델이 흔한 작업에는 뛰어나면서 드문 작업에는 흔들릴 수 있습니다.

모델

모델은 실제로 프롬프트를 보내는 대상인, 학습을 마친 하나의 특정 AI 시스템입니다.

GPT, Claude, Gemini는 모델 제품군이고, 한 제품군 안에는 크기, 속도, 가격이 다른 개별 모델들이 들어 있습니다. 작업마다 그중에서 고르는 것이 AI를 잘 쓰는 핵심 기술입니다.

LLM (대규모 언어 모델)

LLM, 즉 대규모 언어 모델은 다음에 올 텍스트를 예측하도록 방대한 양의 텍스트로 학습한 모델입니다.

이 단 하나의 기법을 대규모로 실행한 것이 답변, 초안, 코드, 요약을 만들어냅니다. "대규모"는 학습 데이터와 파라미터 수 둘 다를 가리킵니다.

챗봇

챗봇은 모델을 감싸고 있는 대화형 인터페이스이며, 메시지창이 있는 바로 그것입니다.

제품을 비교할 때 이 구분이 중요합니다. 두 챗봇이 같은 모델을 감싸고도 다르게 느껴질 수 있고, 하나의 챗봇이 여러 모델을 제공할 수도 있습니다. Whizi가 그렇게 작동합니다.

프롬프트

프롬프트는 모델에 보내는 모든 것입니다. 질문, 지시사항, 함께 넣은 텍스트나 파일까지 전부입니다.

답변 품질은 프롬프트 품질을 그대로 따라갑니다. 맥락, 제약 조건, 원하는 출력 형식은 초보자가 가장 자주 빠뜨리는 세 가지입니다.

토큰

토큰은 모델이 실제로 읽고 쓰는 작은 텍스트 단위이며, 평균적으로 영어 단어 하나의 대략 4분의 3입니다.

가격, 속도, 컨텍스트 윈도우는 모두 토큰으로 측정되고, 그래서 이 단어가 모든 AI 요금 페이지에 등장합니다. 1,000단어짜리 문서는 대략 1,300토큰입니다.

컨텍스트 윈도우

컨텍스트 윈도우는 모델이 한 번에 고려할 수 있는 텍스트의 최대량이며, 토큰으로 잽니다.

프롬프트, 지금까지의 대화, 첨부한 문서, 그리고 답변까지 모두 이 윈도우를 함께 씁니다. 컨텍스트 윈도우 비교 표가 모든 주요 모델의 현재 수치를 담고 있고, 설명 글이 이것이 왜 "AI가 잊어버렸다"는 불만 대부분을 설명하는지 다룹니다.

파라미터

파라미터는 모델이 학습 중에 익힌 내부 숫자들이며, 흔히 모델 크기를 재는 척도로 쓰입니다.

보통 수십억 단위로 세고, 파라미터가 많을수록 대략 능력도 비용도 커집니다. 다만 그 자체만으로는 좋지 않은 쇼핑 기준입니다. 벤치마크와 직접 해 본 테스트가 파라미터 수보다 낫습니다.

응답

응답은 하나의 프롬프트에 대한 모델의 출력이며, 완료(completion)라고도 부릅니다.

응답은 매번 새로 생성되므로, 같은 프롬프트를 다시 돌리면 표현이 달라지고 때로는 답 자체도 달라집니다.

모델과 대화하기

시스템 프롬프트

시스템 프롬프트는 사용자의 메시지보다 먼저 모델이 받는 상시 지시문으로, 역할과 어조, 규칙을 정합니다.

눈에 보이지 않아도 모든 제품에는 시스템 프롬프트가 있습니다. 챗봇에 "성격"이 있다고 느껴질 때, 보통 그 정체는 시스템 프롬프트입니다.

프롬프트 엔지니어링

프롬프트 엔지니어링은 더 나은 결과물을 안정적으로 얻기 위해 프롬프트를 의도적으로 작성하는 작업입니다.

거창한 이름과 달리 대부분은 평범한 명확함입니다. 목표를 밝히고, 맥락을 주고, 예시를 보여주고, 형식을 지정하는 것입니다. 초보자 가이드가 실제로 결과를 바꾸는 기법들을 다룹니다.

제로샷

제로샷은 예시를 하나도 주지 않고 모델에 작업을 시키는 것을 뜻합니다.

요즘 모델은 대부분의 일상적인 작업을 제로샷으로도 잘 처리합니다. 이 용어는 주로 퓨샷 프롬프트와 대비되는 개념으로 남아 있습니다.

퓨샷

퓨샷은 모델이 패턴을 따라 하도록 프롬프트 안에 몇 개의 예시를 함께 넣는 것을 뜻합니다.

형식에 민감한 작업에서 신뢰도를 높이는 가장 저렴한 방법입니다. 입력과 원하는 출력의 예시 두세 개가 긴 설명 문단보다 낫습니다.

사고 사슬(체인 오브 소트)

사고 사슬은 모델이 최종 답을 내놓기 전에 중간 단계를 거쳐 풀어나가는 것을 뜻합니다.

모델에게 단계별로 추론하라고 요청하면 어려운 문제에서 눈에 띄게 좋아지고, 추론 모델은 이제 기본적으로 이걸 내부적으로 처리합니다.

온도(temperature)

온도는 모델이 다음 토큰을 고를 때 얼마나 무작위성을 더할지 조절하는 설정입니다.

온도가 낮으면 일관되고 보수적인 결과가 나오고, 높으면 다양하지만 가끔 엉뚱한 결과가 나옵니다. 채팅 제품은 보통 중간값을 대신 골라 둡니다.

스트리밍

스트리밍은 모델이 다 끝난 뒤 한 번에 보내는 대신, 생성하는 대로 토큰 단위로 답을 보내는 것입니다.

그래서 답이 스스로 타이핑되는 것처럼 보이고, 나쁜 답이라면 끝까지 기다리지 않고 일찍 멈출 수 있습니다.

다시 생성(regenerate)

다시 생성은 같은 프롬프트에 새로운 응답을 요청하는 것을 뜻합니다.

생성은 확률적이기 때문에, 다시 생성은 같은 계산을 다시 시도하는 게 아니라 진짜로 새로운 결과를 뽑는 것입니다. 두 결과를 비교하거나 같은 프롬프트를 두 모델에서 비교하는 것은 빠른 품질 점검 방법입니다.

모델은 어떻게 만들어지는가

학습(트레이닝)

학습은 예측이 좋아질 때까지 데이터를 기준으로 모델의 파라미터를 조정하는 과정입니다.

당신이 모델을 만나기 전에 이미 끝나 있고, 제공업체에게 막대한 연산 비용을 치르게 합니다. 채팅창에 입력하는 그 어떤 것도 그 순간 모델을 다시 학습시키지는 않지만, 제공업체는 정책에 따라 대화를 다음 버전 학습에 쓸 수도 있습니다.

학습 데이터

학습 데이터는 모델이 학습한 텍스트와 그 밖의 자료입니다.

그 폭이 모델이 아는 것을 설명하고, 빈틈은 체계적인 사각지대를 설명하며, 그 기간이 지식 마감 시점을 정합니다.

사전학습(프리트레이닝)

사전학습은 모델이 대량의 텍스트로부터 언어와 세상에 대한 지식을 배우는, 학습의 첫 번째이자 가장 큰 단계입니다.

결과물은 능력은 있지만 다듬어지지 않은 상태입니다. 모델을 쓸모 있는 어시스턴트처럼 행동하게 만드는 모든 것은 그 이후에 옵니다.

파인튜닝

파인튜닝은 사전학습된 모델을 특화하거나 다듬기 위해 더 좁은 데이터셋으로 추가 학습시키는 것입니다.

제공업체는 유용성과 안전성을 위해 파인튜닝을 하고, 기업은 특정 분야 작업을 위해 파인튜닝을 합니다. 대부분의 사용자에게는 좋은 프롬프트와 유능한 범용 모델의 조합이 파인튜닝에 돈을 쓰는 것보다 낫습니다.

RLHF

RLHF, 즉 인간 피드백을 통한 강화학습은 모델의 답변에 대한 사람의 평가를 기준으로 모델을 학습시키는 것입니다.

요즘 어시스턴트가 정중하고 체계적이고 신중한 이유의 상당 부분이 여기서 나옵니다. 지나치면 일부 모델이 거부하거나 얼버무리게 만드는 조심스러움도 여기서 나옵니다.

정렬(얼라인먼트)

정렬은 모델의 행동을 인간의 의도와 가치에 맞추는 작업입니다.

실제로는 해로운 요청을 거부하는 것부터 지시를 정확히 따르는 것까지 모든 걸 아우릅니다. 모델이 기술적으로는 인상적이지만 원치 않는 일을 했다면, 그것이 정렬의 틈입니다.

추론 실행(인퍼런스)

추론 실행은 학습이 아니라, 학습된 모델을 돌려 답을 만들어내는 것입니다.

보내는 메시지마다 추론 실행이 일어나고, 토큰 가격이 재는 것이 바로 이 추론 비용입니다. 실행 비용이 저렴한 모델도 놀랍도록 유능할 수 있습니다. AI 모델 비용 지수는 2,000배에 달하는 가격 차이를 보여줍니다.

트랜스포머

트랜스포머는 사실상 모든 현대 언어 모델 뒤에 있는 신경망 구조입니다.

핵심 메커니즘인 어텐션은 모델이 입력의 모든 부분을 다른 모든 부분과 견주어 가중치를 매기게 해 줍니다. 세부 사항까지 알 필요는 없지만, 이 단어는 AI 관련 글 어디서나 나옵니다.

잘못될 때

환각(할루시네이션)

환각은 모델이 완전히 자신 있는 태도로 거짓을 말하는 것입니다.

다음 릴리스에서 고쳐질 버그가 아니라, 생성이 작동하는 방식 자체에서 나오는 결과입니다. 빈도는 모델과 작업에 따라 크게 다릅니다. 구체적인 사실, 숫자, 인용은 확인하기 전까지 검증되지 않은 것으로 다루세요. AI가 틀리는 이유가 그 메커니즘을 다룹니다.

근거 부여(그라운딩)

근거 부여는 모델이 기억에 의존하는 대신, 답할 근거가 되는 권위 있는 자료를 주는 것입니다.

계약서를 붙여넣거나, 보고서를 첨부하거나, 웹 검색을 켜는 것 모두 근거 부여입니다. 환각을 막는 가장 효과적인 일상적 방법입니다.

편향

편향은 모델이 학습 데이터에서 물려받은 방식으로 출력을 체계적으로 치우치게 만드는 것입니다.

사람, 장소, 기본값에 대한 가정으로 드러납니다. 중요한 결정에서는 검증되지 않은 유능한 인턴의 작업물을 검토하듯 AI의 출력을 검토하세요.

가드레일

가드레일은 해롭거나 정책에 어긋나는 출력을 막기 위해 제공업체가 모델 주위에 세운 제약입니다.

제공업체마다 선을 다르게 긋는데, 이는 실제 제품 차이입니다. 같은 요청이 한 모델에서는 답변되고 다른 모델에서는 거부될 수 있습니다.

탈옥(제일브레이크)

탈옥은 모델이 가드레일을 무시하도록 유도하기 위해 만든 프롬프트입니다.

제공업체는 이를 계속해서 막습니다. 일반 사용자에게 이 용어는 주로 보안 개념으로 중요합니다. 모델이 말려들 수 있는 것이라면 누군가는 반드시 시도할 것입니다.

레드팀 테스트

레드팀 테스트는 출시 전에 해로운 실패 유형을 찾기 위해 모델을 의도적으로 공격해 보는 것입니다.

제공업체는 내부와 외부 레드팀을 운영하고, 공개된 모델 카드는 흔히 무엇을 발견했는지 요약합니다. AI 버전의 침투 테스트입니다.

지식 마감 시점

지식 마감 시점은 모델의 학습 데이터가 끝나는 날짜입니다.

그 이후의 일을 물으면 모델은 모른다고 인정하거나, 가능하면 웹을 검색하거나, 아니면 환각을 일으킵니다. 지금 쓰는 모델의 마감 시점을 아는 것만으로도 한 부류의 오류 전체를 막을 수 있습니다.

검색과 당신의 데이터

RAG (검색 증강 생성)

RAG, 즉 검색 증강 생성은 관련 문서를 먼저 가져온 뒤 모델이 그것을 바탕으로 답하게 하는 방식입니다.

"내 지식 베이스와 대화하기" 제품들이 내부적으로 작동하는 방식이고, 그런 제품이 출처를 인용할 수 있는 이유입니다. RAG는 환각을 줄이지만, 가져온 자료의 품질을 그대로 물려받습니다.

임베딩

임베딩은 텍스트 한 조각의 의미를 나타내는 숫자 목록입니다.

의미가 비슷한 텍스트는 서로 가까운 숫자를 갖게 되고, 그래서 소프트웨어가 수학적으로 관련 있는 구절을 찾을 수 있습니다. 임베딩은 의미 검색과 RAG를 돌리는 기계 장치입니다.

벡터 데이터베이스

벡터 데이터베이스는 임베딩을 저장하고 가장 가까운 것을 빠르게 찾도록 만들어진 데이터베이스입니다.

어떤 제품이 AI 검색을 위해 당신의 문서를 "인덱싱했다"고 말한다면, 조각마다의 임베딩이 이런 데이터베이스 어딘가에 들어 있는 것입니다.

의미 검색

의미 검색은 키워드를 맞추는 대신 뜻으로 텍스트를 찾는 것입니다.

"돈 문제"를 검색하면 단어가 하나도 겹치지 않아도 현금 흐름 압박에 관한 구절을 찾아낼 수 있습니다. 임베딩이 실제로 일하는 모습입니다.

청킹

청킹은 긴 문서를 임베딩하고 잘 검색할 수 있을 만큼 작은 조각으로 나누는 것입니다.

배관 작업처럼 들리고 실제로도 그렇지만, 청킹을 잘못하면 문서 채팅 도구가 파일의 엉뚱한 부분을 근거로 답하는 흔한 원인이 됩니다.

웹 검색(AI에서)

AI에서 웹 검색은 학습된 기억에 의존하는 대신, 답하기 전에 모델이 최신 페이지를 가져오는 것을 뜻합니다.

속도를 신선함과 맞바꾸는 것이고, 열어 볼 수 있는 인용을 답변에 달 수 있게 해 줍니다. 모델의 지식 마감 시점 이후의 일이라면, 답과 추측을 가르는 차이가 됩니다.

지식 베이스

지식 베이스는 회사가 자사 AI에게 답할 근거로 주는, 엄선된 문서 모음입니다.

들어가는 게 좋아야 나오는 것도 좋습니다. 오래된 위키를 근거로 삼은 어시스턴트는 오래된 답을 자신 있게, 인용까지 붙여서 내놓습니다.

이 용어집 안의 세 용어는 같은 질문, 즉 모델을 내 작업에 더 잘 맞게 만드는 방법에 대해 서로 경쟁하는 답을 가리키며, 이 셋을 헷갈리는 것이 제품 회의에서 가장 흔한 전문용어 실수입니다. 나란히 놓아 보면:

접근법무엇이 바뀌는가비용과 속도언제 이기는가
더 나은 프롬프트(제로샷, 퓨샷)보내는 텍스트만무료, 몇 분이면 끝거의 항상 첫 번째로 시도할 방법. 잘 만든 예시 두세 개가 형식 문제 대부분을 고칩니다
RAG모델이 답하기 전에 읽는 것구축하는 데 중간 정도, 재학습은 필요 없음최신 상태를 유지해야 하거나 내 문서를 인용해야 하는 답변
파인튜닝모델 자체의 파라미터느리고 비싸지만, 한 번 하면 고정됨규모가 있는 안정적인 스타일·형식 요구사항. 개인에게는 거의 해당 없음

텍스트를 넘어서

멀티모달

멀티모달은 텍스트와 이미지, 음성, 영상처럼 하나 이상의 매체를 넘나들며 작동하는 모델을 뜻합니다.

오류 메시지를 스크린샷으로 찍어 무엇이 문제인지 물어볼 수 있는 이유입니다. 멀티모달 AI 가이드가 지금 실제로 되는 것을 다룹니다.

비전 모델

비전 모델은 사진, 스크린샷, 차트, 문서 같은 이미지를 해석할 수 있는 모델입니다.

읽는 것과 만들어내는 것은 다릅니다. 모델이 당신의 다이어그램을 완벽하게 설명하면서도 그걸 그리지는 못할 수 있습니다.

이미지 생성

이미지 생성은 텍스트 설명으로부터 새 이미지를 만들어내는 것입니다.

품질, 스타일의 폭, 이미지 안 텍스트 렌더링은 생성기마다 크게 다르고, 그래서 진지한 사용자는 여러 개를 비교합니다. 이미지 생성기 비교가 최신 정보를 유지합니다.

디퓨전 모델

디퓨전 모델은 노이즈에서 시작해 설명을 향해 단계적으로 다듬어 가며 이미지를 생성합니다.

현대 이미지 생성기 뒤에 있는 주된 기법입니다. 제품 이름에 "디퓨전"이 들어가면 그 제품이 무엇을 하는지 알려준다는 정도로만 이 단어가 중요합니다.

음성을 텍스트로(STT)

음성을 텍스트로 바꾸는 것은 말한 오디오를 글로 옮기는 것입니다.

요즘 전사(트랜스크립션)는 회의, 음성 메모, 인터뷰를 검색 가능하게 만들 만큼 정확하고, 채팅 앱의 음성 입력이 작동하는 방식이기도 합니다.

텍스트를 음성으로(TTS)

텍스트를 음성으로 바꾸는 것은 글에서 말하는 오디오를 만들어내는 것입니다.

요즘 시스템은 자연스럽고 표현력 있는 목소리를 만들어내며, 이것이 읽어주기 기능과 AI 음성 대화를 가능하게 합니다.

생태계

API

API는 개발자가 자신의 소프트웨어에서 모델에 프롬프트를 보낼 때 쓰는 프로그래밍 방식의 통로입니다.

API 가격은 토큰 단위이고, 결국 모든 AI 제품의 답변 하나당 경제성이 여기서 나옵니다.

오픈 웨이트

오픈 웨이트는 모델의 학습된 파라미터를 누구나 내려받아 돌릴 수 있도록 공개한 것을 뜻합니다.

이를 통해 직접 호스팅이 가능해지고, 다른 제공업체가 자기 인프라에서 그 모델을 서비스할 수 있게 됩니다. DeepSeek와 Llama가 유명한 예입니다.

오픈소스 모델

오픈소스 모델은 대략적으로 말해 공개적인 사용과 수정을 위해 배포된 모델이며, 다만 라이선스는 제각각입니다.

실제로 중요한 질문은 언제나 같은 두 가지입니다. 상업적으로 써도 되는가, 그리고 누가 대신 호스팅해 주는가입니다. 오픈 웨이트 생태계는 개인정보나 비용 때문에 호스팅된 플래그십을 쓸 수 없을 때 가장 중요해집니다.

벤치마크

벤치마크는 모델을 채점하고 비교하는 데 쓰는 표준화된 테스트입니다.

첫인상을 잡는 데는 유용하지만, 마케팅에서는 흔히 과적합됩니다. 벤치마크 1위 모델도 당신의 실제 업무에서는 질 수 있고, 그래서 직접 세 가지 작업으로 비교해 보는 것이 차트를 읽는 것보다 낫습니다.

에이전트

에이전트는 한 번 답하고 끝나는 대신, 목표를 향해 여러 단계로 행동을 취하는 AI 시스템입니다.

예약, 리서치, 코딩, 티켓 접수가 에이전트의 영역입니다. 이 능력은 실재하고 빠르게 발전하고 있으며, 에이전트가 한 일을 그것이 중요해지기 전에 검토해야 할 필요성도 그만큼 빠르게 커지고 있습니다.

도구 사용

도구 사용, 즉 함수 호출은 모델이 검색, 계산기, 코드, 캘린더 같은 외부 기능을 불러 쓰는 것입니다.

채팅 어시스턴트가 세상을 그저 설명하는 데 그치지 않고 실제로 행동할 수 있게 해 주는 방식이며, 에이전트를 떠받치는 메커니즘입니다.

추론 모델

추론 모델은 답하기 전에 내부적으로 문제를 곱씹는 데 추가 연산을 쓰는 모델입니다.

시간과 비용을 어려운 문제의 정확도와 맞바꾸는 것입니다. 간단한 질문에는 그 추가 사고가 아무것도 벌어다 주지 않으며, 이는 작업마다 모델을 바꿔야 하는 또 다른 이유입니다.

지연 시간(레이턴시)

지연 시간은 프롬프트를 보낸 뒤 답이 도착하거나 스트리밍을 시작할 때까지 기다리는 시간입니다.

모델 크기, 부하, 추론 모델인지 여부에 따라 달라집니다. 상호작용이 많은 작업에서는 빠르고 충분히 좋은 모델이 느리고 뛰어난 모델을 이기는 경우가 많습니다.

사용 한도(레이트 리밋)

사용 한도는 제공업체가 일정 시간 안에 쓸 수 있는 요청이나 토큰 수에 두는 상한입니다.

채팅 제품이 기다리거나 업그레이드하라고 알려주는 흔한 이유입니다. 구독 요금제의 메시지 한도는 더 친절한 이름을 붙인 사용 한도입니다.

이 용어집을 계속 쓸모 있게 유지하는 법

이 분야에서는 용어가 빠르게 낡습니다. 이 페이지는 참고 자료로 계속 관리되며, 쓰임이 바뀌면 항목을 다시 씁니다. 정의 한 줄에 다 담기지 않는 자세한 내용은 링크된 심화 가이드가 맡습니다.

실제로 마주친 용어가 여기 없다면, 가장 빠른 길은 그 용어가 나온 문장을 유능한 모델에 붙여넣고 맥락에 맞는 정의를 물어보는 것입니다. Whizi에서는 모델 두 개에 동시에 물어보고 둘이 다르게 답할 때를 눈치챌 수 있는데, 새로운 전문용어에서는 이런 경우가 놀랄 만큼 잦습니다.

체크리스트
  • 한 문장짜리 정의는 그대로 인용하되, 의지하기 전에 자세한 설명까지 읽으세요
  • 두 출처가 용어를 다르게 정의한다면, AI 분야에서는 대개 더 최근 쓰임이 우선합니다
  • 토큰, 컨텍스트 윈도우, 환각부터 익히세요. 나머지 용어 대부분이 이 셋에 걸려 있습니다
  • 모델에 관한 낯선 주장은 직접 세 가지 작업으로 비교해서 검증하세요
  • 이 페이지가 참고서처럼 느껴진다면 초보자용 용어집을 먼저 쓰세요. 실제로 참고서이기 때문입니다

자주 묻는 질문

AI, 머신러닝, LLM은 어떻게 다른가요?

AI는 사람의 판단이 필요한 작업을 소프트웨어가 해내게 한다는 넓은 목표입니다. 머신러닝은 예시로부터 소프트웨어를 가르치는 기법이며, 사실상 모든 현대 AI가 이렇게 만들어집니다. LLM은 머신러닝으로 만들어진 모델의 한 종류로, 텍스트로 학습되며, ChatGPT, Claude, Gemini 뒤에 있는 바로 그 종류입니다.

AI에서 RAG는 무슨 뜻인가요?

RAG는 검색 증강 생성(retrieval augmented generation)의 약자입니다. 시스템이 먼저 관련 문서를 가져온 뒤, 모델이 기억이 아니라 그 문서를 바탕으로 답하게 합니다. 내 파일이나 지식 베이스와 대화하는 제품들 뒤에 있는 표준 기법이며, 그런 제품이 출처를 인용할 수 있는 이유입니다.

파인튜닝과 RAG는 어떻게 다른가요?

파인튜닝은 추가 학습으로 모델 자체를 바꾸며, 느리고 한 번 정해지면 고정됩니다. RAG는 모델은 그대로 두고 질문하는 순간 맞는 문서를 건네주며, 유연하고 최신 상태를 유지합니다. 계속 바뀌는 정보로 어시스턴트를 최신으로 유지하려면 거의 항상 RAG가 맞는 도구입니다. 파인튜닝은 안정적인 스타일·형식 요구사항에 어울립니다.

AI에서 토큰이란 무엇인가요?

토큰은 모델이 읽고 쓰는 텍스트 단위이며, 대략 영어 단어 하나의 4분의 3입니다. 가격, 속도, 컨텍스트 윈도우 모두 토큰으로 잽니다. 1,000단어짜리 문서는 대략 1,300토큰입니다.

이 용어들 중 실제로 몇 개나 알아야 하나요?

일상적으로는 다섯 개 정도면 됩니다. 모델, 프롬프트, 토큰, 컨텍스트 윈도우, 환각입니다. 이 용어집의 초보자 버전이 그 다섯 개를 더 차근차근 다룹니다. 이 페이지의 나머지는 어떤 제품 페이지나 글이 낯선 용어를 던졌을 때를 위해 존재합니다.