AI 에이전트란 무엇인가?

챗봇과 에이전트를 가르는 단 하나의 질문

다음에 무슨 일이 일어날지 누가 정하는가?

챗봇에서는 아무도 정하지 않습니다. 메시지를 보내면 모델이 답변 하나를 내놓고, 그 턴은 끝입니다. 답변에 후속 조치가 필요하다면 그것은 사용자가 직접 씁니다. 모델은 세상에 대해 아무 행동도 하지 않으며, 오직 글을 쓸 뿐입니다.

에이전트에서는 모델이 정합니다. 목표가 주어지면 웹 검색, 코드 실행, 페이지 열기, 파일 편집 같은 행동 하나를 고르고, 그 결과를 텍스트로 받아 읽은 뒤 다음 행동을 고릅니다. 목표가 달성됐다고 판단하거나 단계 제한에 걸릴 때까지 이를 계속합니다. 모델이 곧 이 루프의 제어자입니다.

2024년 12월에 발표된 Anthropic의 엔지니어링 가이드 "Building effective agents"도 같은 선을 긋습니다. 워크플로는 모델이 경로를 고정한 코드 안에서 돌아가는 시스템이고, 에이전트는 모델이 자신의 진행과 도구 사용을 직접 지휘하는 시스템이라는 것입니다. 이 가이드는 둘 중 무엇을 먼저 만들어야 하는지에 대해서도 단호하며, 그 답은 워크플로입니다.

챗봇, 워크플로, 에이전트: 같은 모델, 세 가지 다른 루프

셋 다 같은 언어 모델 위에서 돌아갈 수 있습니다. 다른 것은 그 주변을 둘러싼 구조입니다.

워크플로 열이 유용한 자동화 대부분이 사는 자리입니다. 문서를 요약한 뒤 날짜를 추출하고 답장 초안을 작성하는 파이프라인은 고정된 순서로 이루어진 모델 호출 세 번입니다. 경로를 개발자가 정했기 때문에 안정적입니다. 랜딩 페이지가 뭐라 하든 이것은 에이전트가 아니며, 그것을 에이전트라 부르는 것은 실제 트레이드오프를 흐립니다. 고정된 경로는 예측 가능하고 저렴하지만, 모델이 고르는 경로는 유연한 대신 둘 다 아닙니다.

그 루프는 실제로 단계별로 어떤 모습인가

구체적인 실행 예시입니다. 목표: "경쟁사가 이번 달에 가격을 바꿨는지 알아보고 두 문단짜리 요약을 써줘."

1. 모델이 목표를 읽고 첫 행동을 정합니다: 경쟁사 가격 페이지에 대한 웹 검색.
2. 검색 도구가 결과 목록을 텍스트로 반환합니다. 모델이 그것을 읽고 하나를 골라 엽니다.
3. 브라우저 도구가 페이지를 반환합니다. 모델이 현재 가격을 추출합니다.
4. 모델은 예전 가격이 필요하다고 판단해 보관된 사본을 검색하고 엽니다.
5. 둘을 비교하고 충분하다고 판단한 뒤 요약을 작성합니다.

다섯 단계, 네 번의 도구 호출, 여섯 번의 모델 호출입니다. 매 단계는 그때까지의 전체 기록을 입력으로 담은, 모델의 완전한 답변입니다. 이 마지막 세부 사항이 비용을 좌우합니다. 다섯 번째 단계에 이르면 모델은 매 호출마다 검색 결과와 페이지 텍스트 네 페이지 분량을 다시 읽고 있는 셈입니다. AI에서 토큰이란 무엇인가에서 매 턴 늘어나는 입력이 왜 비용이 비싼 형태인지 설명합니다.

그리고 매 단계는 잘못될 수 있는 지점이기도 합니다. 1단계 검색이 엉뚱한 회사를 반환하면, 2단계부터 5단계까지는 자신 있게 잘못된 가격을 요약합니다. 루프는 진행을 쌓아 올리는 만큼 오류도 그대로 쌓아 올립니다. 단계 한도와, 무엇이든 발송되기 전의 사람 확인 지점은 선택 사항이 아닙니다.

에이전트 실행 하나가 답변 하나와 비교해 얼마나 드는가

계산은 간단한데 사람들은 이를 건너뜁니다. 입력 1,000토큰, 출력 500토큰짜리 표준 답변 하나의 모델별 정가는 AI 모델 비용 지수에 나와 있으며, OpenRouter 요금은 2026-08-20에 가져온 것입니다. 20단계짜리 에이전트 실행은 최소한 그런 답변 20개 분량이고, 실제로는 매 단계마다 입력이 늘어나기 때문에 그보다 더 듭니다.

Claude Sonnet 5에서 20단계는 최저가 기준 $0.14로, 답변 한 번의 $0.007과 대비됩니다. Claude Opus 5에서는 $0.35이고, 이를 매시간 돌리면 늘어나는 입력 배수를 반영하기 전에도 월 약 $250입니다. Whizi 크레딧으로 같은 계산을 풀면 위의 Auto 사다리로 읽을 수 있습니다. 크레딧 100개는 하우스 모델의 간단한 질문 100번, 또는 GPT-5.6 Sol의 추론 턴 5번에 해당하므로, 추론 단계에서의 20단계 루프는 400크레딧으로 2,500크레딧짜리 Pro 한 달의 약 6분의 1이고, 같은 루프를 하우스 모델로 돌리면 20크레딧입니다. 그래서 계획 단계는 강력한 모델로, 반복적인 단계는 저렴한 모델로 보내는 설계가 옳으며, 단일 모델 구독이 아니라 멀티 모델 워크스페이스가 에이전트 작업에 자연스러운 자리인 이유이기도 합니다.

실제로 에이전트인 제품은 무엇인가

파일을 편집하고 테스트를 실행하는 코딩 어시스턴트는 엄밀한 의미의 에이전트입니다. 버그 리포트가 주어지면 코드를 읽고, 변경하고, 테스트를 돌리고, 실패를 읽은 뒤 다시 시도합니다. 루프가 실재하고 모델이 그것을 조종합니다.

ChatGPT, Gemini, Perplexity의 Deep Research 모드는 에이전트입니다. 검색하고, 읽고, 찾은 내용을 바탕으로 다시 검색하며, 질문이 충분히 다뤄졌다고 판단하면 멈춥니다. 질문마다 단계 수가 달라진다는 점이 그 증거입니다.

제품 메뉴 속 대부분의 "에이전트"는 페르소나이거나 워크플로입니다. 모델 선택기에서 세무 에이전트나 학습 멘토라고 붙은 행은 대개 고정된 시스템 프롬프트에 도구 한두 개를 붙인 것입니다. Whizi의 Agents 섹션도 이 점을 솔직하게 밝힙니다. 캐나다 CPA 행은 매 턴마다 웹 검색을 강제하는 프리셋으로, 검색 횟수는 최대 7회로 제한되며 토큰 예산은 입력 55,000, 출력 40,000으로 더 큽니다. 이는 도구가 달린, 예산이 더 큰 페르소나일 뿐이며, 경로가 고정돼 있기 때문에 오히려 유용합니다. 모델이 스스로 조종하는 루프가 아니며, Auto 라우팅 가이드에서 실제로 각 메시지 뒤에서 어떤 모델을 고르는지 설명합니다.

어휘는 점점 모든 것을 에이전트라 부르는 쪽으로 흘러가고 있습니다. 어떤 제품에 던져야 할 질문은 이 글 맨 위의 그 질문입니다. 다음 단계를 누가 정하는가? 답이 "스크립트"나 "아무도 아님"이라면, 사는 것은 워크플로나 챗봇이며, 그것이 정확히 원하던 바일 수도 있습니다.

언제 에이전트가 맞는 도구이고, 언제 아닌가

경로를 미리 알 수 없을 때 에이전트는 그 비용만큼의 값어치를 합니다. 두 번째 검색이 첫 번째 결과에 좌우되는 리서치, 수정이 테스트 결과에 좌우되는 디버깅, 다음 클릭이 페이지에 좌우되는 브라우징이 그렇습니다. 유연성 자체가 제품입니다.

경로가 이미 알려져 있을 때 에이전트는 잘못된 도구입니다. 요약, 추출, 번역, 재구성, 분류는 호출 하나 또는 고정된 호출 시퀀스로 끝나는 일이며, 이를 루프에 담으면 능력은 늘지 않으면서 비용과 지연, 새로운 실패 지점만 늘어납니다. Anthropic 가이드의 조언은 그대로 유효합니다. 먼저 호출 하나로 시작하고, 그것으로 부족하면 워크플로로 옮기고, 워크플로가 예측할 수 없는 분기를 계속 필요로 할 때에야 에이전트를 꺼내라는 것입니다.

판단 기준은 이렇습니다. 시작하기 전에 화이트보드에 단계를 그릴 수 있다면, 에이전트를 만들지 마십시오.