파인튜닝이란? AI 모델을 다시 훈련시킨다는 것

파인튜닝은 거대한 모델 위에 얹는 작은 조정입니다

언어 모델은 이미 학습을 마친 상태로 사용자에게 도달합니다. 사전학습은 수조 개의 토큰으로 이루어진 말뭉치를 읽는데, Meta는 Llama 3에 15조 개 이상을 사용했다고 밝혔습니다. 이후 후속 학습이 모델을 어시스턴트로 다듬습니다. LLM이란 무엇인가에서 이 두 단계를 모두 다룹니다.

파인튜닝은 사용자가 직접 실행하는, 훨씬 작은 세 번째 단계입니다. 원하는 정확한 입력과 출력의 예시를 수백에서 수천 개 제공하고, 그것으로 모델을 조금 더 훈련시킵니다. OpenAI의 파인튜닝 가이드에 따르면 보통 50에서 100개의 예시부터 뚜렷한 개선이 나타난다고 합니다. 파라미터는 기본적으로 원하는 종류의 답을 내놓는 쪽으로 살짝 이동합니다.

핵심은 규모의 차이입니다. 15조 개의 토큰과 수백 개의 예시를 비교하면, 파인튜닝은 의미 있는 지식을 추가할 수 없습니다. 모델이 아는 것을 바꿀 만큼 양이 충분하지 않기 때문입니다. 대신 할 수 있는 것은 모델이 응답하는 방식을 바꾸는 일입니다. 수백 번 반복되는 일관된 형식이야말로 작은 조정이 정확히 포착할 수 있는 패턴이기 때문입니다.

파인튜닝은 모델이 답하는 방식을 바꿀 뿐, 아는 것을 바꾸지 않습니다

핵심 구분선은 행동과 지식 사이에 있습니다.

사람들이 흔히 겪는 실패는 네 번째 줄입니다. 자사 고객센터 문서로 파인튜닝하면 제품을 아는 모델을 얻을 것이라 기대하지만, 실제로는 고객센터의 어투로 유창하게 제품 정보를 지어내는 모델을 얻게 됩니다. 학습이 가르친 것은 답변의 형태이지 내용이 아니기 때문입니다. 지식을 다루는 일은 검색의 몫이며, RAG란 무엇인가에서 그 작동 방식을 설명합니다.

파인튜닝을 일부러 저렴한 모델에 적용하는 이유

좁은 작업 하나를 위해 계열 중 가장 비싼 모델을 파인튜닝하는 사람은 없습니다. 핵심은 작고 저렴한 모델이 긴 프롬프트를 쓰는 프런티어 모델만큼 한 가지 일을 잘 해내게 만든 다음, 그 저렴한 모델을 수백만 번 돌리는 것입니다.

각 끝점 위의 숫자는 2026-09-17 기준으로 확인한 Artificial Analysis Intelligence Index 점수이고, 선은 백만 토큰당 가격 차이를 나타냅니다. 범용 모델인 Llama 4 Maverick은 9점, Claude Sonnet 5는 38점입니다. 파인튜닝의 승부수는 하나의 좁은 작업에서 이 29점 차이를 127배의 가격 절감으로 메울 수 있다는 데 있습니다. 2026-08-20에 확인한 OpenRouter 정가 기준으로, 입력 1,000토큰과 출력 500토큰짜리 표준 답변 하나는 Maverick에서 $0.0006, Sonnet 5에서 $0.007이 듭니다(AI 모델 비용 지수 참고). 그래서 한 달에 100,000번 실행되는 고객 응대 분류 작업은 전자로는 $60, 후자로는 $700이 듭니다. 튜닝된 Maverick이 그 한 가지 작업에서 Sonnet과 맞먹는 성능을 낸다면, 튜닝 비용은 첫 달에 회수됩니다. 이 산술이야말로, 모델 품질 일반이 아니라, 파인튜닝이 존재하는 이유입니다.

이를 저렴하게 만든 방법이 2021년에 발표된 LoRA로, 모델 전체가 아니라 추가된 소수의 파라미터 집합만 학습시킵니다. 4비트 후속 기법인 QLoRA(Dettmers 외, 2023)를 쓰면 70억 개 파라미터 모델도 24GB짜리 일반 소비자용 그래픽카드 한 장으로 튜닝할 수 있습니다. 같은 모델을 완전히 파인튜닝하려면 여러 대의 데이터센터급 GPU에서 모든 파라미터를 업데이트해야 합니다.

훈련 전에 프롬프트, 검색, 다른 모델이 대부분의 경우를 해결합니다

파인튜닝은 첫 번째가 아니라 마지막 선택지입니다. 아래 방법들은 훨씬 적은 노력으로 흔한 경우를 해결하고, 1분 만에 바꿀 수 있기 때문입니다.

1. 예시를 담은 더 나은 프롬프트. 원하는 결과물의 예시 세 개를 프롬프트 안에 넣으면 훈련 없이도 파인튜닝이 주는 형식과 톤의 이점 대부분을 얻습니다. 초보자를 위한 프롬프트 엔지니어링에서 이 패턴을 다룹니다.
2. 검색. 격차가 지식 문제라면 아무리 튜닝해도 메워지지 않습니다. 문서를 업로드하거나 검색 기능을 켜세요.
3. 다른 모델. 모델마다 기본 어투가 다릅니다. 원하는 방식으로 이미 답하는 모델을 쓰는 편이, 그렇지 않은 모델을 튜닝하는 것보다 낫습니다. 멀티 모델 작업 공간이라면 클릭 한 번으로 이를 테스트할 수 있습니다.

프롬프트가 모델이 자꾸 잊어버리는 규칙으로 한 페이지 가득 차거나, 작업량이 많아 프롬프트 길이가 실제 비용이 되거나, 만 번을 실행해도 단 한 번의 오차 없이 형식이 정확히 반환되어야 할 때 파인튜닝을 고려하세요. 이는 실제로 존재하는 필요이지만, 흔하지는 않습니다.

채팅 제품 안에서 파인튜닝할 수 있나요?

대체로 불가능하며, Whizi도 예외가 아닙니다. Whizi를 포함한 소비자용 채팅 제품은 파인튜닝을 제공하지 않습니다. 이는 제공사의 API와 오픈 웨이트 모델에서 개발자에게 제공되는 기능입니다. 채팅 앱 안에서 그나마 가장 가까운 것은 고정 지침입니다. Whizi에서는 이것이 프로젝트 단위로 존재하며, 프로젝트별 사용자 지정 지침은 해당 프로젝트의 모든 대화에 적용됩니다. 이렇게 하면 아무것도 훈련시키지 않고도 여러 작업물에 걸쳐 일관된 톤과 형식을 유지할 수 있습니다. 프로젝트 사용법에서 설정 방법을 설명합니다.

대부분의 사람에게는 이 방식이 올바른 선택입니다. 프로젝트 지침은 한 번 작성하고 규칙이 바뀔 때마다 수정하면 되는 프롬프트입니다. 파인튜닝은 규칙이 바뀔 때마다 다시 훈련시켜야 하는 모델입니다. 좁은 작업을 대규모로 반복 실행하는 것이 아니라면, 비용과 변경 속도, 그리고 내용을 직접 읽을 수 있다는 점에서 프롬프트가 우세합니다.

판단 기준은 이렇습니다. 같은 좁은 작업이 저렴한 모델의 비용 회수가 의미 있을 만큼 큰 규모로 실행될 때 파인튜닝하세요. 그 외에는 지침을 글로 적어두는 것으로 충분합니다.