AI 트랜스포머란 무엇인가

2017년 논문 하나가 순환 구조를 어텐션으로 대체했다

2017년 6월, 대부분 구글 소속이었던 여덟 명의 연구자가 "Attention Is All You Need"라는 논문을 발표했습니다. 이 논문은 모두가 쓰던 순환 레이어를 걷어내고 어텐션이라는 단일 연산만을 여러 겹 쌓아 문장을 번역하는 네트워크를 제안했습니다. 기본 모델은 6,500만 개의 파라미터를 가졌으며, 훨씬 짧은 학습 시간으로 기존 최고 수준의 영어에서 독일어로의 번역 시스템을 능가했습니다.

이 아이디어는 제목 그 자체였습니다. 이전의 언어 네트워크는 문장을 한 토큰씩 읽으면서 누적된 요약을 앞으로 전달했기 때문에, 스무 번째 단어는 열아홉 번의 압축 과정에서 살아남은 정보를 통해서만 첫 번째 단어를 알 수 있었습니다. 트랜스포머는 전체 시퀀스를 한 번에 읽습니다. 모든 토큰이 다른 모든 토큰에게 "나에게 얼마나 관련이 있는가"를 묻고, 그 답에 가중치를 매겨 의미를 구성합니다. "은행"이라는 단어는 "강"에 주목할 때와 "계좌"에 주목할 때 매번 다르게 해석됩니다.

9년 뒤, 규모만 키운 같은 구조가 지금 ChatGPT에 입력했을 때 답을 내놓는 바로 그것입니다. GPT는 generative pretrained transformer의 약자입니다. Claude, Gemini, Llama, DeepSeek, Qwen도 모두 트랜스포머지만, 비교할 대상이 따로 없기 때문에 그 이름표를 굳이 붙이지 않을 뿐입니다.

어텐션은 가중치가 붙은 조회이며, 모든 토큰이 레이어마다 이를 한 번씩 수행한다

"트로피가 가방에 들어가지 않았다. 그것이 너무 컸기 때문이다"라는 문장을 보십시오. "그것"이 무엇을 뜻하는지 파악하려면 독자는 "트로피"와 "가방"을 되짚어보고 "너무 컸다"와 맞는 쪽을 고릅니다. 어텐션은 이 조회 과정을 숫자로 수행하는 것입니다.

각 토큰은 세 개의 벡터로 변환됩니다. 쿼리(무엇을 찾고 있는가), 키(무엇을 제공하는가), 밸류(선택되면 무엇을 기여하는가)입니다. "그것"이라는 토큰은 자신의 쿼리를 다른 모든 토큰의 키와 비교해 토큰별 관련성 점수를 얻고, 그 점수를 합이 1이 되는 가중치로 바꾼 뒤, 그 가중치로 밸류들을 합산합니다. 새롭게 만들어진 표현은 대부분 "트로피"이고 나머지 것들이 조금씩 섞여 있습니다. 모델은 이 과정을 모든 토큰에 대해 동시에, 서로 다른 관계를 학습하는 여러 개의 독립된 "헤드"에서 수행하며, 이를 수십 개의 층에 걸쳐 반복합니다.

여기서 두 가지 결과가 직접적으로 따라옵니다. 모든 토큰이 같은 단계에서 처리되기 때문에 전체 레이어는 하나의 거대한 행렬 곱셈으로 실행되며, 이는 GPU가 정확히 잘하는 일입니다. 논문의 기본 모델은 GPU 8대로 12시간 만에 학습을 마쳤습니다. 그리고 모든 토큰이 다른 모든 토큰과 비교되기 때문에, 한 레이어의 비용은 시퀀스 길이의 제곱에 비례해 늘어납니다. 토큰이 두 배가 되면 어텐션 연산량은 네 배가 됩니다.

제곱이 청구서에까지 이르는 숫자인 이유

이 제곱 비용 때문에 컨텍스트 윈도우는 제공사들이 경쟁하는 사양이 되었고, 그것을 쓰는 일이 공짜가 아닌 이유이기도 합니다. 100만 토큰을 받아들이는 모델은 모든 헤드, 모든 레이어에서 백만 곱하기 백만 크기의 관련성 점수 격자에 대해 어텐션을 계산해야 하며, 이를 감당 가능하게 만드는 공학(희소 패턴, 슬라이딩 윈도우, 더 저렴한 어텐션 변형, 그리고 이전 토큰의 키와 밸류를 캐싱해 다음 턴에서 다시 계산하지 않게 하는 것)이 바로 100만 토큰짜리 윈도우가 거부되지 않고 토큰당 가격으로 매겨지는 이유입니다.

AI 모델 비용 지수에서는 가격이 매겨진 100개 항목 중 47개가 100만 토큰 이상의 윈도우를 제공합니다. GPT-1의 512토큰, GPT-3의 2,048토큰에서 크게 늘어난 수치입니다. 그럼에도 모두 여전히 입력 토큰당 요금을 매기는데, 보내는 모든 토큰이 그 격자의 한 행이 되기 때문입니다. 30만 토큰짜리 문서에 열 개의 질문을 하면 입력 토큰이 300만 개가 되며, AI에서 토큰이란에 따르면 이는 Claude Sonnet 5 기준 $6에 해당합니다. 이 청구서를 설명하는 것이 바로 이 구조입니다.

이 구조는 실패 양상도 설명해 줍니다. 트랜스포머는 윈도우 밖에는 아무런 기억도 갖지 않습니다. 시퀀스 안에 없는 것은 그것에게 존재하지 않는 것과 같으며, 이것이 긴 대화가 처음 내용을 잊어버리는 이유이고, RAG란 무엇인가에서 다루는 검색이 올바른 토큰을 다시 집어넣기 위해 존재하는 이유입니다.

인코더, 디코더, 혹은 둘 다: 구조가 모델의 용도를 결정한다

2017년 모델은 두 부분으로 이루어져 있었습니다. 원문 문장을 읽는 인코더와 번역을 작성하는 디코더입니다. 그 이후 등장한 거의 모든 모델은 둘 중 한쪽만 남겼습니다.

당신이 쓰는 챗봇 모델은 전부 디코더 전용입니다. GPT-1이 2018년에 내린 이 선택은 이후 모든 챗 모델이 그대로 따랐으며, 이것이 언어 모델이 검색이 아니라 생성을 하는 이유입니다. 전체 네트워크가 다음 토큰 예측기이고, AI에서 온도란은 토큰을 고르는 그 다이얼을 다루며, LLM이란 무엇인가는 그 흐름을 환각 등의 문제로까지 이어갑니다. 인코더 전용 모델이 사라진 것은 아닙니다. 텍스트를 검색용 벡터로 바꾸는 임베딩 모델이 되었으며, 이는 어텐션이 잘 해내는 것으로 밝혀진 또 다른 일입니다.

비전도 같은 길을 걸었습니다. 2020년 Vision Transformer 논문은 이미지를 16x16 픽셀 패치로 잘라 각 패치를 토큰처럼 다루었고, 최고 수준의 합성곱 신경망에 필적하는 성능을 냈습니다. 같은 모델이 지금 당신의 스크린샷과 문단을 함께 읽을 수 있는 것은 이 때문입니다. 둘 다 토큰의 시퀀스로 도착해 같은 어텐션 레이어를 거칩니다. 이미지 생성은 예외입니다. 대부분의 이미지 모델은 디퓨전 모델이라는 다른 구조를 쓰며, 이는 생성형 AI란 무엇인가에서 따로 다룹니다.

한 편의 논문에서 모든 프런티어 모델까지, 9년의 연표

아래 연표는 2017년 논문부터 오늘날 Whizi가 연결하는 모델들까지를 담고 있습니다. 주황색은 오픈 웨이트로 공개된 릴리스를 표시하며, 이는 이 설계가 처음 만든 두 연구소 밖으로 퍼져나간 방식입니다.

파라미터 수는 규모의 이야기를 세 숫자로 보여줍니다. 2017년 기본 모델의 6,500만 개, 3년 뒤 GPT-3의 1,750억 개, 그리고 비용 지수가 2026년 가격을 매긴 가장 큰 Qwen 모델의 2조 4,000억 개인데, 그중 어느 한 토큰에서든 활성화되는 것은 약 950억 개뿐입니다. 이 범위 안에서 구조 자체는 종류가 바뀌지 않았습니다. 더 넓어지고, 더 깊어지고, 더 잘 먹었을 뿐입니다. 이 페이지가 거는 내기는 이렇습니다. 2028년 이전에 나올 어떤 프런티어 모델도 트랜스포머가 아닌 것은 없을 것이며, AI 모델 연표가 바로 그것을 확인할 수 있는 곳입니다.