-
같은 작업을 유료 서비스랑 제 노트북 모델한테 한 번씩 줘봤어요AI Agent 2026. 7. 10. 09:00728x90반응형

유료냐 내 노트북이냐 지난주에 항목 마흔 개짜리 분류 작업을 두 번 돌렸어요.
똑같은 목록을 한 번은 유료 서비스한테, 한 번은 제 노트북에 띄운 작은 모델한테요.
유료 쪽은 다섯 개 한 묶음을 6초에 토해내고 매번 동전 떨어지듯 돈이 빠졌고, 노트북 쪽은 한 건을 1분 가까이 붙잡고 끙끙댔지만 청구서엔 0원이 찍혔어요.
화면 두 개를 나란히 띄워놓고 한참 봤어요.
왼쪽은 40개 중 36개까지 갔는데 오른쪽은 17개에서 팬만 돌고 있더라고요.
그런데 제가 정작 답을 못 하겠던 건 어느 쪽이 빠르냐가 아니라 이거였어요.
다음에 또 이런 일이 오면 나는 어느 쪽에 줄까.돈을 아끼려고 켰는데, 다른 게 따라왔어요
처음 노트북 모델을 켠 이유는 단순히 돈이었어요.
같은 분류를 한 달에도 수백 건씩 돌리는데, 그게 매번 유료로 나가니까 월말 영수증 보기가 좀 그랬거든요.
한 건당 가격은 우습게 작은데, 그게 수백 번 쌓이면 어느새 만만찮은 줄이 돼 있더라고요.그래서 노트북에 작은 모델을 깔았어요.
처음 며칠은 그냥 돈 아끼는 도구려니 했죠.
그런데 켜놓고 지내다 보니 돈보다 더 크게 와닿은 게 따로 있었어요.
데이터가 제 컴퓨터 밖으로 한 발짝도 안 나간다는 거요.
작업을 돌려도 와이파이 표시줄에 아무 일이 안 일어나는 걸 보고 있으면, 묘하게 안심이 됐어요.유료 서비스는 남의 가게에 재료를 맡겨 요리해 오는 거예요.
빠르고 솜씨도 좋은데, 내 재료가 잠깐 남의 주방을 거쳐요.
노트북 모델은 내 부엌에서 직접 하는 거고요.
느리고 가끔 태워먹어도, 재료가 현관 밖으로 안 나가요.
들어가는 내용이 남한테 보이면 안 되는 거일수록 이 차이가 커지더라고요."사과"로 찾았는데 엉뚱한 게 올라왔어요
유료 쪽이 무조건 편한 건 아니었어요.
한번은 임베딩이라는 작업 — 글을 숫자 덩어리로 바꿔서 나중에 검색에 쓰는 건데 — 이걸 돌려놓고 검색을 해봤어요.
분명 "사과"라고 쳤는데 위에는 전혀 상관없는 게 줄줄이 올라왔어요.
에러는 한 줄도 없어요.
결과만 이상한 거죠.처음엔 제가 검색어를 잘못 쓴 줄 알았어요.
띄어쓰기도 바꿔보고, 비슷한 단어로도 쳐봤는데 똑같았어요.
그다음엔 데이터를 의심했죠.
원본 표를 열어 한 줄씩 눈으로 훑었는데 거긴 멀쩡했어요.
한참을 엉뚱한 데서 헤매다, 밤늦게 로그를 끝에서부터 거꾸로 훑기 시작했어요.
한 줄 한 줄 올라가다가 작은 글씨로 박힌 제공자 이름이 어느 순간 다른 걸로 바뀌어 있는 걸 봤어요.
제가 설정에서 키를 하나 빼먹었더니, 서비스가 경고 한 줄 없이 다른 제공자로 조용히 갈아타고 있었던 거예요.문제는 제공자가 바뀌면 그 숫자 덩어리의 좌표계 자체가 달라진다는 거였어요.
같은 단어라도 어제 만든 좌표랑 오늘 만든 좌표가 서로 다른 자를 댄 거라, 가깝다 멀다를 비교하면 다 어긋나요.
에러는 안 나는데 검색 품질만 슬그머니 망가지는 거죠.그 자리에 한참 앉아 있었어요.
화는 안 났는데 좀 으스스했어요.
"알아서 잘 해주는" 똑똑함이, 내가 모르는 사이에 결과를 바꿔놨던 거예요.
제가 시킨 적도 없고, 묻지도 않고요.
그게 친절인 건 맞는데, 그 친절이 어디까지 와 있는지를 제가 모른다는 게 걸렸어요.
노트북 모델은 답답해도 적어도 어떤 모델로 뭘 했는지는 제 손안에 있었어요.
느린 대신, 뒤통수는 안 맞는 거죠.받으면 두 가지를 먼저 물어봐요
지금은 작업을 받으면 제일 먼저 묻는 게, 이게 밖에 나가도 되는 데이터냐예요.
안 되면 거기서 끝, 무조건 노트북이에요.
느리고 답답해도 선택지가 없으니까요.
그게 걸리적거리지 않을 때에야 두 번째를 물어봐요.
이거 1분씩 기다려도 되는 일이냐.급한 게 아니거나 같은 걸 수백 건 반복할 거면 노트북한테 던져요.
한 건에 1분이라도 밤새 알아서 돌면 되니까요.
반대로 지금 당장 한 방에 똑똑한 답이 필요하면 유료로 가요.
거기서 1분씩 기다리고 앉아 있으면 사람 시간이 더 비싸거든요.대신 노트북 모델은 정말 잘 데여요.
한번은 출처를 찾아 정리하라고 시켰더니 "검증 완료"라고 멀쩡하게 표를 채워 보냈어요.
칸마다 초록색 체크까지 야무지게 박혀 있어서, 하마터면 그냥 넘길 뻔했어요.
막상 한 줄 한 줄 클릭해보니 절반은 링크가 비어 있거나 엉뚱한 데로 갔어요.
작은 모델은 그럴듯하게 빈칸 채우는 걸 잘하더라고요.
그래서 노트북 쪽에 맡길 땐 답을 곧이곧대로 안 믿고, 그 주소를 제가 직접 한 번 더 긁어보는 단계를 뒤에 붙여요.
(한 번에 다 안기면 안 된다는 것도 같은 모델한테 데여서 배운 건데, 그건 또 다른 얘기고요.)요즘은 이 기준도 자꾸 흔들려요.
어제는 그냥 유료로 보냈을 일을 노트북한테 줬는데, 40초 만에 돌아왔거든요.
1분이 안 걸린 거예요.
제가 1분이라고 그어둔 선이 이미 옛날 자였던 거죠.
다음번 마흔 개를 또 받으면 저는 아마 또 화면 두 개를 나란히 띄워놓고, 처음부터 다시 재고 있을 것 같아요.728x90반응형'AI Agent' 카테고리의 다른 글
'하지 마' 목록을 먼저 줬더니, 그제야 일이 됐어요 (0) 2026.07.11 설명을 열 줄 쓰느니, 예시 하나가 나았어요 (0) 2026.07.10 AI한테 일 시키던 말투가, 후배한테 그대로 나왔어요 (0) 2026.07.09 AI가 자꾸 "맞습니다"만 해서, 일부러 틀린 걸 줘봤어요 (0) 2026.07.08 엄마가 "그래서 너 요즘 무슨 일 하니" 물었는데, 말이 안 나왔어요 (0) 2026.07.08