첫 한 시간에 중요한 다섯 단어
AI에 관한 글은 대부분 아무도 가르쳐 준 적 없는 어휘를 이미 안다고 전제합니다. 정작 쓸모 있는 부분은 적습니다. 다섯 단어가 실질적인 무게를 거의 다 짊어지고, 나머지는 몇 달 뒤로 미뤄도 됩니다.
모델은 AI 그 자체입니다. 당신의 말을 읽고 답을 만들어내는, 학습이 끝난 시스템이죠. 앱은 모델이 아닙니다. ChatGPT는 OpenAI의 모델을 돌리는 앱이고, Gemini는 Google의 모델을 돌리는 앱이며, Whizi는 여러 회사의 모델을 한꺼번에 담고 있는 앱입니다. 이 구분은 답변이 처음으로 실망스러울 때 값을 합니다. 보통은 질문을 바꿔 쓰는 것보다 모델을 바꾸는 쪽이 훨씬 큰 지렛대이기 때문입니다.
프롬프트는 그냥 당신이 입력하는 말입니다. 비밀스러운 문법도, 명령어 목록도, 외울 것도 없습니다. 결과물이 누구를 위한 것인지, 어떤 일을 해야 하는지, 어떤 형태로 받고 싶은지를 밝힌 평범한 요청이 거의 언제나 기발한 한 줄보다 낫습니다.
챗봇은 당신이 글을 입력하는 대화창입니다. 한 대화 안에서 지금까지 한 말은 모델이 답하는 동안 계속 보이는 상태로 남아 있습니다. 그래서 "더 짧게"나 "더 격식 있게" 같은 후속 요청이 원래 요청을 되풀이하지 않아도 통합니다. 새 대화를 열면 그 공유된 기억은 사라지는데, 주제가 바뀔 때는 그게 바로 원하는 바입니다. 상관없는 질문에서 남은 맥락은 답변이 어딘가 미묘하게 어긋나 보이는 흔한 원인입니다.
토큰은 텍스트 덩어리이고, 평균적인 영어 단어 하나의 대략 4분의 3쯤 됩니다. 모델은 단어가 아니라 토큰 단위로 읽고, 세고, 요금을 매깁니다. 그래서 1,000단어짜리 문서는 1,300토큰 근처에 떨어집니다. 이 단어는 주로 요금 안내 페이지와 사용량 한도에서 만나게 됩니다.
컨텍스트 윈도우는 모델이 한 번에 시야에 담을 수 있는 텍스트의 양이고, 토큰으로 잽니다. 붙여넣은 문서와 지금까지의 대화 전체, 그리고 지금 쓰이고 있는 답변까지 모두 여기에 들어가야 합니다. 50페이지짜리 계약서를 대화창에 넣었더니 답변이 슬며시 3페이지 내용과 어긋나기 시작한다면, 그 경계에 닿은 것입니다. 컨텍스트 윈도우란 무엇인가에 실제 숫자가 나와 있습니다. 실전 원칙은 짧습니다. 한 가지 주제는 긴 대화 하나로, 주제가 바뀌면 새로 시작하세요.
지금 바로 해볼 만한 일이 있습니다. 아무 AI 앱이나 열어서, 이번 주에 봤는데 무슨 말인지 몰랐던 용어 하나를 당신의 말로 설명해 달라고 해보세요. 그리고 두 번째 질문을 던지세요. "내가 이미 안다고 가정한 게 뭐야?" 이 후속 질문은 정의를 설명으로 바꿔 주고, 어떤 주제에서든 통합니다.
다만 답은 다른 곳과 대조해 보세요. 이 시스템들은 맞는 말을 할 때와 똑같이 차분한 목소리로 틀린 말을 합니다. 그리고 용어 정의는 특히 무른 표적입니다. 그럴듯하게 지어낸 세부 내용은 애초에 잡아낼 방법이 없어서 그냥 지나가 버립니다. 이 실패에는 이름이 있고, 아래 표에 나옵니다.
나머지 용어들, 그리고 지금 알아야 하는지 여부
아래는 헤드라인과 요금 안내 페이지, 댓글창에서 당신을 기다리고 있는 단어들입니다. 세 번째 칸이 솔직한 부분입니다. 이 중 대부분은 첫날에 알아야 할 지식이 아닙니다. 그렇지 않은 척하는 것이야말로 초보자가 자기와 상관없는 일로 스스로를 바보 같다고 느끼게 만드는 길입니다.
| 용어 | 쉬운 뜻 | 지금 필요한가요? |
|---|---|---|
| LLM | 대규모 언어 모델. 들어본 모든 챗 앱 뒤에 있는 종류의 모델입니다. 기사에 LLM이라고 나오면 그냥 AI로 읽으세요 | 네, 헤드라인이 소음처럼 들리지 않게 됩니다 |
| 생성형 AI | 이미 있는 것을 분류하는 대신 새 텍스트, 이미지, 음성, 영상을 만들어내는 AI 전반 | 네, 한 문장이면 충분합니다 |
| 학습(트레이닝) | 모델에 엄청난 양의 텍스트를 먹여 패턴을 익히게 하는 길고 비싼 과정. 당신이 앱을 열기 전에 이미 끝났습니다 | 네, 짧게만 |
| 학습 마감 시점 | 학습 데이터가 멈춘 날짜. 그 이후를 물으면 앱이 웹을 검색하지 않는 한 모델은 추측하고 있습니다 | 네, 이건 많이들 걸립니다 |
| 환각(할루시네이션) | 자신 있고 유창하지만 완전히 지어낸 답변. 가장 중요한 결함입니다 | 네, 첫날부터 |
| 멀티모달 | 모델이 텍스트 말고도 사진, PDF, 음성, 때로는 영상까지 다루는 것 | 네, 사진을 올리고 싶어지는 순간부터 |
| 파인튜닝 | 기존 모델을 내 데이터로 다시 학습시켜 전문화하는 것 | 아직요, 이건 회사 단위 프로젝트입니다 |
| 온도(temperature) | 표현이 얼마나 무작위인지 조절하는 다이얼. 낮으면 예측 가능, 높으면 자유분방 | 아직요, 무난한 기본값이 정해져 있습니다 |
| 에이전트 | 한 번 답하고 끝내는 대신 스스로 여러 단계를 밟는 AI | 아직요, 다음 섹션도 함께 보세요 |
| API | 개발자가 모델을 자기 소프트웨어에 연결할 때 쓰는 배관 | 아직요, 코드를 쓰지 않는다면 |
| RAG | 검색 증강 생성. 모델이 답하기 전에 문서 저장소를 찾아보는 방식 | 아직요, 다만 올린 파일로 답해 주는 앱은 전부 이걸로 돌아갑니다 |
| 오픈소스 모델 | 누구나 가중치를 내려받아 직접 돌릴 수 있는 모델. Llama나 DeepSeek 같은 것들 | 아직요, 챗 사용자에게 달라지는 건 별로 없습니다 |
| 추론 모델 | 답하기 전에 문제를 눈에 보이는 단계로 풀어가는 모델. 느리지만 수학과 논리에 강합니다 | 곧요, 어려운 질문이 처음 어긋날 때 |
| 시스템 프롬프트 | 당신이 입력하기 전에 앱이 모델에게 미리 주는 숨은 지시문 | 아직요, 나만의 비서를 만들 때 쓸모 있습니다 |
두 줄에는 각주를 달 만합니다. 환각은 언젠가 고쳐질 가끔의 오작동이 아닙니다. 이 시스템들이 텍스트를 만들어내는 방식 자체에서 떨어져 나오는 결과입니다. AI가 틀리는 이유가 항목 하나가 아니라 별도의 가이드인 이유죠. 그리고 멀티모달은 영수증 사진이나 오류 메시지 캡처, 스캔한 서류를 처리해야 하는 순간 10분을 들일 값어치가 있습니다. 이미지와 문서 다루기가 평범한 화요일에 그게 어떤 모습인지 보여줍니다.
마케팅이 쓰는, 들리는 것보다 뜻이 적은 말들
업체들이 딱히 거짓말을 하는 건 아닙니다. 한때는 구체적인 뜻이 있었지만 이제는 대체로 "뭔가 출시했습니다"를 의미하게 된 단어들을 쓰고 있을 뿐입니다. 그 간극을 아는 것이, 미리 써둔 답변이 뜨는 드롭다운에 업그레이드 비용을 내지 않게 해줍니다.
- AI 기반. 보통은 어떤 기능 하나가 다른 회사가 만든 모델을 불러 쓴다는 뜻입니다. 때로는 꺼버릴 수 있는 추천 상자를 가리키기도 합니다. 물어볼 만합니다. 어떤 모델인가요, 그리고 기본으로 켜져 있나요?
- 스마트. 이번 흐름보다 훨씬 오래된 말이고 지금은 별 뜻이 없습니다. 스마트 폴더는 저장된 검색이고, 스마트 답장은 미리 써둔 문구 세 개입니다. 형용사 너머의 동사를 보세요. 내 일에 무엇을 해주나요?
- 차세대. 미래 시제로 된 주장입니다. 제품이 이전 버전보다 나빠도 아무 문제 없이 성립하는 말이고, 아무도 이름 붙일 수 있는 개선치가 없을 때 자주 등장합니다.
- AI 에이전트. 2026년 가장 혹사당하는 표현입니다. 엄밀하게 쓰면 여행을 처음부터 끝까지 예약하듯 스스로 계획하고 여러 단계를 실행하는 소프트웨어를 뜻합니다. 마케팅에서 쓰이면 대개 조금 더 친근한 아바타를 단 챗봇입니다. 막혔을 때 무엇을 하는지, 그리고 당신에게 확인받지 않고 행동할 수 있는지 물어보세요.
- AI 퍼스트. 제품을 쓰는 당신의 경험이 아니라 회사 내부 전략에 대한 선언입니다. 그 회사가 엔지니어링 예산을 어디에 겨누는지는 알려주지만, 당신이 돈을 내려던 그 기능까지는 아직 닿지 않았을 수도 있습니다.
이 모든 것을 꿰뚫는 질문이 하나 있습니다. 그 기능이 틀렸을 때 어떻게 되는지 물어보세요. 진짜 AI가 들어 있는 제품에는 답이 있습니다. 검토 단계, 되돌리기, 확신 표시, 눈에 보이는 출처 같은 것들이죠. 스티커만 붙여 놓은 제품은 조용해집니다.
모델 이름이 자동차 번호판처럼 보이는 이유
모델 이름은 서로 다른 일을 하는 두 부분으로 되어 있습니다. 단어 부분은 제품군, 즉 회사가 계속 발전시켜 나가는 제품 계열입니다. OpenAI의 GPT, Anthropic의 Claude, Google의 Gemini, Meta의 Llama 같은 것이죠. 숫자와 접미사는 버전이고 크기를 나타내는 경우도 많아서, 한 제품군이 같은 날 아침에 작고 빠른 식구와 크고 신중한 식구를 함께 내놓기도 합니다. 이름을 읽는 일은 대체로 이 두 조각을 갈라내고 그 사이의 마케팅을 무시하는 일입니다.
이 글에 버전 번호가 하나도 나오지 않는다는 걸 눈치챘을지도 모르겠습니다. 일부러 그랬습니다. 버전은 몇 주마다 바뀌고, 그것까지 못 박아 둔 용어집은 다음 계절이면 틀린 글이 됩니다. 바뀌지 않는 것은 선택의 모양입니다. 작은 모델은 빠르고 저렴하며 이메일을 다듬는 데는 전혀 부족하지 않습니다. 큰 모델은 느리지만 긴 문서와 어려운 추론에 강합니다. 각 제품군에는 말투와, 당신이 준 원본 자료에 얼마나 엄격하게 붙어 있는지에서 드러나는 성격도 있습니다.
가장 최근에 나온 것이 내 작업에 자동으로 맞는 것도 아닙니다. 최신이라는 말은 보통 벤치마크 점수가 더 좋다는 뜻이고, 벤치마크는 시험 문제 같은 과제를 재지 그 글이 당신처럼 들리는지를 재지 않습니다. 더 오래되고 저렴한 모델이 자기 이메일을 더 잘 쓴다고 느끼는 사람이 많고, 그런 사람들은 비싼 모델을 일주일에 두 번쯤 있는 어려운 일에 아껴 둡니다. 이건 같은 실제 작업을 두세 모델에 돌려 보고 결과물을 나란히 읽어 봐야만 알 수 있습니다. AI 모델 고르는 법이 그 과정을 단계별로 안내합니다. 제공사 세 곳에 돈을 내지 않고도 그렇게 해보라는 것이, Whizi가 GPT, Claude, Gemini와 이미지 모델을 하나의 구독에 담아 둔 이유 전부입니다.
3개월쯤 됐을 때 배울 만한 다섯 용어
3개월쯤 되면 벽에 몇 번쯤 부딪혀 봤을 겁니다. 아래 다섯 단어는 그 벽들의 이름입니다. 지금이 아니라 그때 배울 만한 이유가 여기 있습니다.
- 추론 모델. 여러 단계짜리 계산이나 논리 문제를 모델이 자신 있게 망치는 순간부터 의미가 생깁니다. 추론 모델로 바꾸면 대개 그대로 해결되고, 대가는 답을 더 오래 기다리는 것입니다.
- 시스템 프롬프트. 새 대화를 열 때마다 똑같은 배경 설명 문단을 붙여넣고 있다는 걸 알아챌 때 의미가 생깁니다. 그걸 상시 지시문으로 한 번만 저장해 두는 것이 해법입니다.
- RAG. 열린 인터넷이 아니라 내 파일에 근거한 답을 원할 때 의미가 생깁니다. 예를 들어 2019년 이후 아무도 읽지 않은 사내 규정 폴더 같은 것이죠.
- 온도. 결과물이 시도할 때마다 지나치게 비슷하거나 반대로 너무 들쭉날쭉하다고 느껴지고, 계속 다시 돌리느니 다이얼을 돌리고 싶어질 때 의미가 생깁니다.
- 파인튜닝. 개인에게는 거의 언제나 의미가 없고, 그 이유를 아는 편이 좋습니다. 실제로 돈이 들고, 깨끗한 예시가 수백 개 필요하며, 사람들이 상상하는 거의 모든 용도에서는 좋은 모델에 좋은 프롬프트를 쓰는 쪽이 더 낫습니다.
이 모든 것 아래에 깔린 층이 궁금하다면 AI란 무엇인가가 수학 없이 작동 원리를 다루고, AI와 대화하는 법이 첫 섹션의 그 프롬프트 문단을 습관으로 바꿔 줍니다. 이 페이지는 일주일쯤 탭에 열어 두세요. 이미 아는 단어를 네 번째로 마주칠 즈음이면 용어가 더 이상 위압적으로 느껴지지 않습니다.
- 모델, 프롬프트, 챗봇, 토큰, 컨텍스트 윈도우를 다른 무엇보다 먼저 익히세요.
- 답변이 실망스럽다면 문장만이 아니라 모델을 바꿔 볼 이유로 받아들이세요.
- 모든 프롬프트에 독자, 해야 할 일, 원하는 형식을 함께 담으세요.
- 긴 대화가 스스로 앞뒤가 안 맞기 시작하면 새 대화를 여세요.
- 다른 사람에게 옮길 정의나 사실은 반드시 확인하세요.
- 어떤 업체든 그 AI 기능을 어떤 모델이 돌리는지, 틀리면 어떻게 되는지 물어보세요.
- 어느 모델을 믿을지 정하기 전에 같은 실제 작업을 두 모델에서 시험해 보세요.
자주 묻는 질문
LLM이 무슨 뜻인가요?
LLM은 대규모 언어 모델(large language model)을 뜻하고, ChatGPT, Claude, Gemini를 비롯해 들어본 모든 챗 앱 뒤에 있는 종류의 AI입니다. 방대한 양의 텍스트로 학습해서 당신의 말에 쓸모 있는 언어로 응답하도록 예측하는 시스템이죠. 기사에 LLM이라고 나오면 그냥 AI라고 읽어도 잃는 것이 없습니다.
모델과 ChatGPT 같은 앱은 어떻게 다른가요?
모델은 답을 만들어내는, 학습이 끝난 시스템입니다. 앱은 그것을 감싸고 있는 인터페이스로, 대화창과 파일 업로드, 기록, 결제가 여기에 속합니다. 앱 하나가 여러 모델을 제공할 수 있고, 그래서 같은 앱 안에서 모델을 바꾸는 것이 앱을 갈아타는 것보다 결과를 더 크게 바꾸는 경우가 많습니다.
토큰과 컨텍스트 윈도우를 정말 이해해야 하나요?
각각 한 문장이면 됩니다. 공부할 필요는 없습니다. 토큰은 단어 하나의 대략 4분의 3이고, 사용량을 재고 요금을 매기는 단위입니다. 컨텍스트 윈도우는 모델이 한 번에 시야에 담을 수 있는 텍스트의 양이고, 아주 긴 대화가 처음에 한 말을 놓치기 시작하는 이유를 설명해 줍니다.
AI가 환각을 일으킨다는 말은 무슨 뜻인가요?
모델이 유창하고 자신 있지만 사실이 아닌 것을 만들어냈다는 뜻입니다. 존재하지 않는 인용, 출처 없는 통계, 어떤 제품에 없었던 기능 같은 것이죠. 이 시스템들이 검증된 사실을 찾아보는 대신 그럴듯한 언어를 생성하기 때문에 벌어집니다. 이름, 숫자, 날짜, 인용은 확인하기 전까지 검증되지 않은 것으로 두세요.
모델 이름이 매달 바뀌는데 어떻게 따라가나요?
따라갈 필요가 없습니다. 잘 바뀌지 않는 제품군을 익히고, 버전 번호는 외울 사실이 아니라 고를 때 찾아보면 되는 세부 정보로 여기세요. 새 버전이 나왔을 때 중요한 질문은 하나뿐입니다. 그게 내 특정한 작업을 더 잘하느냐는 것이고, 그 답은 발표문을 읽어서가 아니라 그 작업을 직접 돌려 봐서 나옵니다.