Cost와 Token | Vault | 김승찬 블로그

LLM 비용은 거의 100% 토큰 사용량 에 비례한다. 에이전트 운영에서 가장 빠르게 폭주하는 변수이자 가장 큰 최적화 포인트. 비용 = input tokens × input price + output tokens × output price 대개 출력 단가가 입력의 3 5배 . 토큰이란 모델이 입력·출력을 처리하는 최소 단위. 영어: 1단어 ≈ 1.3 토큰, 한국어: 1글자 ≈ 1 3 토큰 모델 토크나이저별 차이 . 컨텍스트 윈도우 = 입력+출력 합산 한도 GPT-4o 128K, Claude 200K, Gemini 1M+ . 토큰 카운팅 응답에서 usage 추출...