바이브 코딩이랑 바이브 디자인이 우리 삶에 들어오면서 '토큰'이라는 단어도 자연스럽게 자주 등장하고 있어. 토큰을 어느새 다 써버려서 추가로 AI를 돌리려고 돈을 지불하기도 하고. 그런데 도대체 토큰이 정확히 뭘 뜻하는 걸까?

컴퓨터에게 어떤 문장을 넣어서 해석하도록 해보자. 이때 컴퓨터는 문장을 통으로 보는 게 아니라, 하나하나 나눠서 살펴봐. 이렇게 컴퓨터가 텍스트를 분석할 때 의미를 구분하는 최소 단위를 토큰이라고 해. 보통 영어 텍스트에서 1개의 토큰은 평균적으로 4글자에 해당돼. 문단 1개 정도를 보면 약 100개의 토큰 정도에 해당하지. 대형언어모델인 LLM에서도 마찬가지로 이 토큰 단위로 텍스트를 처리해.

이번에 딥시크가 공개한 신규 모델 V4도 가격 경쟁력을 내세우고 있어. 오픈AI나 구글, 앤트로픽의 비슷한 급 모델들이랑 성능은 비슷하지만 가격은 훨씬 저렴한 V4를 쓰라는 얘기지. 그렇다면 지금 가장 가성비가 좋은 모델은 뭘까?

X축은 출력 토큰 가격, Y축은 모델 성능을 나타내. 토큰 가격은 저렴한데 성능이 괜찮은 모델들이 눈에 띄지. 다만 추론 가격이 떨어졌다고 해도 여전히 비싼 토큰 가격을 자랑하는 모델들도 많아. 가장 비싼 라인은 오픈AI랑 앤트로픽의 최신 모델인 GPT-5.5랑 클로드 Opus 4.7인데, 이런 빅테크 기업들 출력 토큰당 가격이 25달러를 훌쩍 넘어.

가성비가 좋은 모델들은 대부분 중국 모델들이고, 토큰 값이 비싼 모델들은 거의 다 미국 모델들이야. 왜 이렇게 차이가 나는 걸까?

핵심은 컴퓨팅 리소스에 있어. 더 나은 모델을 만들려면 더 많은 GPU, 그러니까 더 많은 컴퓨팅 리소스가 필요해. 그러다 보니 최첨단 모델 토큰 가격은 결국 비싼 GPU 값에 묶일 수밖에 없어. 그 결과가 토큰당 30달러, 25달러 같은 고가로 나타난 거고.

대신 미국 기업들은 그 안에서 효율성을 찾아가고 있어. GPT-5.5는 직전 모델인 5.4 대비 가격이 2배로 늘었는데, 그럼에도 이용자 반응이 그렇게 나쁘지 않아. 왜냐하면 같은 작업을 시켜도 이전 모델보다 훨씬 적은 양의 토큰을 쓰더라는 거지.

반면 중국은 어떨까? 중국은 엔비디아 고성능 GPU를 쓰고 싶어도 쓸 수가 없어. 왜냐하면 미국이 성능 좋은 반도체 칩 수출을 꽉 막고 있으니까. 그러다 보니 중국은 좋은 GPU를 충분히 못 쓰는 대신, 더 효율적인 모델을 만드는 데 집중하고 있어.

중국 모델들은 당연히 중국어 데이터 중심으로 학습했으니까 중국어에 최적화돼 있어.

당연히 이 모델들을 중국어로 쓰면 영어 대비 토큰 최적화가 잘 되고. 그래서 일부 개발자들은 중국 모델로 작업할 때는 중국어를 쓴다고 하더라고.

또 모델 훈련에 들어가는 무지막지한 에너지를 훨씬 더 저렴한 재생에너지로 해결해서 가격 절감에 나서고 있어. 안 그래도 재생에너지에 강력한 드라이브를 거는 중국은 여기에 컴퓨팅까지 엮어서 정책을 운영해 나가고 있지. 이미 일부 개발자들은 기본 업무는 중국 AI 모델을 쓰고, 복잡한 과제를 해야 할 때만 미국의 비싼 모델을 쓰고 있어.

그래서 앞서 봤던 오픈라우터의 토큰 사용량 모델 리스트를 뽑아보면, 1위부터 6위까지가 다 중국 모델일 정도야.

중국 정부는 여기서 멈추지 않고 있어. 단순히 가격 경쟁을 넘어서 토큰 경제 자체 주도권을 노리고 있지. 최근 중국 국가데이터국에서는 토큰 대신 '츠위안'이라는 단어를 쓰기로 했어. 말과 단어를 뜻하는 '츠'에 중국 화폐 단위인 '위안'을 붙여 토큰 공식 번역 명칭을 정한 거야. 연산 단위에 자국 화폐명을 써서 토큰 경제 하면 자연스럽게 중국을 떠올리게 하려는 브랜딩인 셈이지.

토큰 경제가 이렇게 커지니까 토큰을 파는 AI 기업들은 함박웃음을 짓고 있겠지? 그렇지 않아. 오히려 적자가 계속 쌓이는 아이러니한 상황이 벌어지고 있어.

월스트리트저널이 입수한 오픈AI랑 앤트로픽 내부 문건 자료로 그린 그래프야. 선으로 표시된 그래프는 두 기업의 연간 수익을 나타낸 건데, 선만 보면 연마다 빠르게 늘어나고 있지. 하지만 이 숫자에는 모델 훈련 비용이 포함돼 있지 않아. 만약 훈련 비용까지 포함해서 그래프를 그리면 막대 그래프로 표시된 모양이 돼. 오픈AI는 2030년에, 앤트로픽은 2028년에야 흑자로 전환될 거라고 예측되고 있지.

토큰에 이렇게 돈을 많이 쓰고, AI 시장에 투자금이 천문학적으로 몰리고 있는데 도대체 다 어디로 가는 걸까? 토큰 경제에서 진짜 돈을 버는 쪽은 바로 컴퓨팅 리소스를 파는 기업들이야. 먼저 GPU 칩을 파는 엔비디아. 그리고 GPU를 데이터센터에 쌓아두고 빌려주는 AWS나 구글 클라우드, MS 애저 같은 클라우드 기업들이 바로 그 주인공이지.

앤트로픽이 지난 4월 20일에 발표한 계약이 있어. 앞으로 10년간 AWS에 1,000억 달러 이상을 투자하겠다는 내용이었지. 우리 돈으로 140조 원이 넘는 막대한 금액이 들어가는 이유는 클로드 모델 훈련과 배포를 위해서야. 이렇게 확보된 컴퓨팅 용량이 원전 5기 수준인 5GW야.

앤트로픽이 AWS하고만 손잡는 게 아니야. 구글 클라우드랑도 협력해서 구글 TPU 최대 100만 개를 활용할 수 있는 파트너십도 맺었어.

오픈AI도 마찬가지야. 일단 오픈AI는 스타게이트 프로젝트라는 대규모 AI 인프라 사업에 직접 플레이어로 참여하고 있지. 또 기존에 마이크로소프트와 7년간 맺어왔던 독점 계약에서 벗어나 멀티 클라우드 전략으로 방향을 바꿨어. 그래서 구글이랑 AWS랑 계약 맺으면서 컴퓨팅 리소스를 확보하고 있지.

그리고 AI 컴퓨팅 영역의 압도적 강자인 엔비디아가 지금 이 시장에서 가장 행복한 웃음을 짓고 있을 거야.

"과거 데이터센터는 파일 처리용이었어요. 하지만 이제는 토큰을 생산하는 공장이 되었습니다."
"토큰은 새로운 상품이며, 다른 상품들처럼 성숙 단계에 들어서면 변곡점을 맞게 될 겁니다."

젠슨 황은 예전부터 AI 시장을 두고 '5단 케이크'론을 설파해왔어. 맨 밑에 이 시장을 떠받치는 에너지가 있고, 그 위에 칩, 그리고 그 위에 인프라가 있어. 이런 구조 위에서 AI 모델과 애플리케이션, 서비스들이 돌아간다는 거지. AI 모델 위에서 만들어진 애플리케이션이 돈을 벌면, 그 수익은 결국 아래 층으로 흘러갈 수밖에 없어.

칩을 꽉 쥐고 있는 엔비디아는 당연히 기쁠 수밖에 없겠지. 칩뿐 아니라 최근 엔비디아는 에너지 인프라 효율을 극대화하기 위한 기술도 세일즈하고 있으니 수익은 더 늘어날 가능성이 있고.

오픈AI의 GPT-5.5가 출시되고 젠슨 황은 엔비디아 전 직원에게 사내 공지 메일을 보냈어. 내용은 다음과 같아.

오픈AI의 Codex랑 새 모델을 적극적으로 쓰라는 내용이었지. 그리고 이 사내 메일 내용을 복사해서 샘 올트먼에게도 그대로 보냈어. 이 말도 덧붙이면서 말이야.

"블랙웰 GPU를 가동합시다! 우리는 더 많은 토큰이 필요합니다!"

토큰은 이제 새로운 상품이자 새로운 통화가 되어가고 있어. 하지만 토큰이 중요해질수록 그 숫자에 사람들이 과하게 얽매이는 부작용도 커지고 있어. 마이크로소프트 어떤 개발자는 AI를 너무 적게 쓴다고 지적받을까 봐 꼭 필요하지 않은데도 일단 에이전트에게 일을 맡긴다는 인터뷰도 있더라고.

회사 압박과 경쟁 문화 속에서 가짜 토큰 사용량이 늘어나게 될지도 모르는 거야. 하지만 비용은 진짜로 남겠지. 단순히 돈 문제만이 아니라 토큰 하나를 처리하고 만들려면 막대한 양의 에너지와 물이 들어가고 있고. 과연 토큰 경제는 어디로 향하게 될까? 뉴스레터 구독자는 어떻게 생각해? 오늘 준비한 오그랲은 여기까지야. 긴 글 끝까지 읽어줘서 진심으로 고마워!

Open AI Tokenizer

앤트로픽이 출시한 ‘클로드 디자인’이 디자인 산업의 지형도를 바꾸고 있어. 클로드 디자인이 뭐냐고? 클로드 디자인은 단순한 이미지 생성 기능이 아니라 아이디어 구상부터 프로토타입, 실제 코드 구현까지 하나의 플랫폼 내에서 해결할 수 있는 도구야. 이번 주 오그랲에서는 클로드 디자인 출시 이후 피그마 주가가 하루 만에 7% 하락하고 피그마의 기업 가치가 IPO 고점 대비 약 80% 줄어든 배경부터, 이미지 AI 등장 이후 프리랜서 플랫폼의 디자인 구인 공고 감소 상황까지 데이터와 그래프로 살펴봤어. 궁금하면 위의 썸네일을 클릭해 봐!