시스템 프롬프트란 무엇인가

당신이 보낸 적 없지만 모델이 먼저 읽는 메시지

모든 채팅 앱은 사용자의 메시지보다 더 많은 것을 모델에 보냅니다. 사용자의 말이 도착하기 전에 앱이 작성한 텍스트 블록이 먼저 들어갑니다. 어시스턴트의 이름, 해야 할 일과 하지 말아야 할 일, 답변 형식, 오늘 날짜, 호출 가능한 도구까지 담긴 블록입니다. 이 블록이 바로 시스템 프롬프트입니다. 당신은 "이거 요약해줘"라고 입력하지만, 모델은 한 페이지 분량의 규칙 뒤에 붙은 "이거 요약해줘"를 받습니다.

모델은 시스템 프롬프트를 상시 지시로 취급합니다. "영국식 영어로 답하고 글머리 기호를 절대 쓰지 않는 간결한 어시스턴트"가 되라고 지시받은 모델은 다시 상기시켜 주지 않아도 대화 내내 그렇게 합니다. 지시문이 매 메시지마다 다시 도착하기 때문입니다. 이 재전송이라는 디테일을 사람들이 놓치는데, 바로 이 부분에서 비용이 발생하며 세 번째 섹션에서 가격을 매깁니다.

실제 사례를 볼 수도 있습니다. Anthropic은 Claude 앱에서 사용하는 시스템 프롬프트를 공개하고, 변경 시 릴리스 노트도 함께 냅니다. 하나를 읽어보는 것이 이 장르를 이해하는 가장 빠른 방법입니다. 어조에 대한 문단, 목록을 언제 쓸지, 거부해야 할 요청을 어떻게 처리할지, 지식 마감일에 대한 내용까지 코드가 아니라 평범한 영어로 쓰여 있습니다. 유출되는 경우도 있습니다. 어시스턴트를 "Sydney"라고 이름 붙인 Bing 챗봇의 프롬프트는 2023년 2월 스탠퍼드 학생이 모델에게 대화 위에 있는 텍스트를 반복해달라고 요청해 추출해냈습니다.

같은 질문인데 앱마다 답이 다른 이유

모델 API는 각 메시지에 역할을 붙여 라벨을 매기고, 모델은 이를 서로 다른 비중으로 학습합니다.

이 순서에서 두 가지가 따라옵니다. 시스템 프롬프트가 틀을 정하므로, 같은 사용자 메시지도 다른 틀 안에서는 다른 답이 나옵니다. "오행시를 써줘"는 어떤 시스템 프롬프트에서는 오행시를 만들어내지만, 은행 어시스턴트용 시스템 프롬프트에서는 거부됩니다. 그리고 시스템 프롬프트는 앱의 것이므로, 같은 모델이어도 앱을 바꾸면 모델이 바뀌지 않았는데도 답이 달라집니다. LLM이란 무엇인가는 모델과 앱을 구분하는데, 시스템 프롬프트가 그 구분의 대부분을 차지합니다.

이 경계선이 절대적인 것은 아닙니다. 모델은 사용자보다 시스템 프롬프트를 따르도록 학습되지만, 잘 만든 사용자 메시지가 모델을 설득해 지시에서 벗어나게 만들 수도 있습니다. 이것이 바로 AI 탈옥이란 무엇인가의 주제입니다. 시스템 프롬프트는 강력한 기본값일 뿐 자물쇠가 아닙니다.

매 턴 전송되기에 시스템 프롬프트가 발생시키는 비용

시스템 프롬프트는 입력 토큰이며, AI에서 토큰이란 무엇인가에서 보듯 입력은 메시지마다 과금됩니다. 8,000토큰짜리 시스템 프롬프트를 가진 100턴 대화는 그 프롬프트를 100번 전송합니다. 당신의 말 한 마디가 나오기도 전에 80만 입력 토큰이 소비됩니다.

정가로 계산해보겠습니다. 표준 메시지는 대략 입력 1,000토큰, 출력 500토큰입니다. 영어 32,000자를 토큰당 4자로 환산하면 8,000토큰짜리 지침이 되는데, 이를 100건의 메시지 각각에 추가하면 AI 모델 비용 지수의 OpenRouter 요율(2026-08-20 기준)로 아래와 같은 추가 입력 비용이 발생합니다.

공급자들은 캐싱을 지원합니다. OpenAI는 캐시된 입력을 절반, 최신 모델에서는 90퍼센트까지 할인하고, Anthropic은 캐시 읽기를 정가의 10분의 1로 청구합니다. 그래서 캐싱을 설정해둔 앱은 위 표보다 훨씬 적게 냅니다. 표는 정가 기준이며, 이는 비용 지수가 추적하는 값이자 캐싱을 건너뛴 앱이 실제로 지불하는 값입니다. 길게 고정된 지침은 여전히 매번 전송되는 유일한 텍스트입니다.

Whizi는 방식이 반대입니다. 메시지 하나는 모델별로 정해진 고정 크레딧 수를 소비합니다. 하우스 모델은 1, Claude Sonnet 5는 10, Claude Opus 5는 20이며, 지침의 길이는 가격에 전혀 영향을 주지 않습니다. 같은 메시지 100건은 지침이 있든 없든 100, 1,000, 또는 2,000크레딧입니다. Whizi 크레딧 작동 방식에서 등급표를 볼 수 있습니다.

시스템 프롬프트 중 당신이 직접 쓸 수 있는 부분

제품들은 시스템 프롬프트의 일부를 사용자가 채울 수 있게 열어둡니다. ChatGPT는 이를 커스텀 지침과 메모리라 부르고, Claude에는 프로젝트 지침과 스타일이 있으며, Gemini에는 저장된 정보가 있습니다. 이름이 무엇이든 당신의 텍스트는 제품 자체 지침 뒤에 덧붙여져 매 턴 다시 전송됩니다.

Whizi에서 이 부분은 프로젝트입니다. 프로젝트는 최대 32,000자까지의 자체 지침을 가진 대화 폴더로, 안의 모든 채팅에 적용되며 메시지마다 프롬프트에 다시 포함되어 재구성됩니다. 고정된 파일들도 같은 방식으로 함께 실리며, 파일당 추출 텍스트 32,000자, 프로젝트 블록 전체로는 120,000자까지 제한됩니다. 계정 단위의 커스텀 지침 필드는 없습니다. 프로젝트별 지침이 이 제품에서 사용자가 직접 작성하는 유일한 지침이므로, 모든 곳에 적용하고 싶은 선호도가 있다면 프로젝트마다 붙여넣어야 합니다.

네 가지 내장 에이전트는 반대 사례를 보여줍니다. 캐나다 세무사, 학습 멘토, 글쓰기 코파일럿, 수학 튜터 항목은 각각 모델 카탈로그에 고정 시스템 프롬프트가 작성되어 있으며 편집할 수 없습니다. 에이전트를 고르는 것은 곧 시스템 프롬프트를 고르는 것입니다.

공개된 사례로 보는, 지침에 들어가야 할 것

잘 작동하는 지침은 신입 동료에게 주는 브리핑처럼 읽힙니다. 그리고 공개된 Claude 프롬프트가 이 형식의 가장 좋은 공개 모델입니다. 네 가지가 대부분의 무게를 차지합니다.

1. 한 문장으로 역할과 대상을 밝히기. "당신은 캐나다 개인사업자를 위한 세무 어시스턴트입니다"는 형용사로 가득한 세 문단보다 더 많은 일을 합니다.
2. 형식 규칙을 규칙으로 명시하기. "150단어 이내로 답하라. 글머리 기호 금지. 영국식 철자." 모델은 선호보다 단정적인 명령을 더 안정적으로 따릅니다.
3. 확신이 없을 때 할 일 정하기. "답이 없는 사실에 따라 달라진다면, 답하기 전에 질문 하나를 하라." 이게 없으면 모델은 추측합니다.
4. 무엇을, 어떻게 거부할지 정하기. 거부할 범주와 거부 문구를 직접 지정하지 않으면 모델이 스스로 만들어냅니다.

들어가면 안 되는 것은 변하는 사실입니다. 가격, 모델 개수, 날짜를 시스템 프롬프트에 써넣으면 누군가 수정하기 전까지 매 턴 계속 다시 주장됩니다. 이렇게 낡은 지침이 몇 달간 자신 있게 틀린 답이 됩니다. 변하는 사실은 고정 파일이나 검색에 두고 상시 지시에는 넣지 마세요. 어차피 모델 자체의 지식 마감일 때문에 낡아버립니다. 초보자를 위한 프롬프트 엔지니어링은 같은 기술의 메시지 단위 측면을 다룹니다.