728x90
반응형
LLM
-
토큰이 뭐길래 돈이 나갈까AI Agent 2026. 7. 30. 09:00
청구서를 처음 열었을 때, 숫자가 한 자리 더 길어 보여서 잠깐 화면을 새로고침했습니다.새로고침해도 똑같았습니다.며칠 동안 내부 도구에 붙여놓고 코드 수정이나 데이터 정리를 시켰을 뿐인데, 글자 몇 개 쳐 보낸 게 이 돈이 됐다는 게 그때는 이해가 안 됐습니다.처음엔 호출 횟수로 돈을 받는 줄 알았습니다.그러면 횟수를 줄이면 되니까요.그런데 횟수는 그대로인데 어떤 날은 비싸고 어떤 날은 쌌습니다.길게 떠든 날이 비쌌습니다.글자가 아니라 '토큰'으로 센다는 걸 몰랐습니다요금은 글자 수가 아니라 토큰 단위로 매겨집니다.토큰은 모델이 글을 잘게 쪼개 처리하는 한 조각인데, 한 글자도 아니고 한 단어도 아닙니다.그 중간 어딘가입니다.영어는 보통 한 단어가 한 토큰에 가깝게 떨어집니다.그런데 한글은 다릅니다.한 ..