에이전트 메모리는 어디가 진짜 어려울까

다 저장이 아니라 적게 정확히 꺼내는 기억을 담은 이미지입니다.

어느 화요일 오후였습니다.
저는 에이전트한테 "지난번 그 기준선 뭐였지" 하고 가볍게 물었습니다.
비슷한 메모 두 개를 같은 걸로 묶을지 말지 가르는 값인데, 며칠 전에 제가 0.8에서 0.6으로 내려 잡아 둔 참이었습니다.
에이전트는 0.5초 만에, 그것도 아주 자신만만하게 "0.8입니다" 하고 답을 내놨습니다.
0.8이라니.
그건 제가 며칠 전에 직접 손으로 지운 옛날 값이었습니다.
폐기한 줄도 모르고, 지금도 멀쩡히 도는 설정인 것처럼 또박또박 적어줬습니다.
하마터면 그대로 갖다 쓸 뻔했습니다.
제가 직접 바꿔 놓고도 한 박자 헷갈려서, 그 메모를 다시 안 열어 봤으면 죽은 값이 그날 작업에 그대로 박혔을 겁니다.

그 한 줄이 그날 제 계획을 통째로 뒤집었습니다.
그때 저는 에이전트한테 "장기 기억"을 주겠다고, 주고받은 대화를 통째로 저장하는 쪽으로 거의 다 기울어 있던 참이었습니다.
많이 기억할수록 똑똑해질 거라고 막연히 믿었습니다.
그러니까 저 틀린 한 줄은, 제 계획대로라면 앞으로 훨씬 더 자주 나올 예정이었던 셈입니다.

저는 다 저장하는 쪽으로 기울어 있었습니다

처음 며칠은 그럴듯해 보였습니다.
세션이 끝날 때마다 오간 내용을 기억층에 차곡차곡 쌓았고, 항목은 빠르게 불었습니다.
쌓이는 걸 눈으로 보고 있으면 뭔가 든든했습니다.
어제 한 일을 오늘도 기억하는 에이전트, 그게 제가 그리던 그림이었습니다.

근데 항목이 어느 선을 넘어가자 분위기가 달라졌습니다.
같은 주제를 물어도 답이 그날그날 흔들렸습니다.
어떤 날은 맞았고, 어떤 날은 며칠 전에 이미 폐기한 옛날 방식을 끌어다 답했습니다.
기억층을 열어 위에서 아래로 훑어보면, 비슷한 항목이 몇 개씩 겹쳐 쌓여 있었습니다.
어떤 건 지난주 것이고 어떤 건 그저께 것인데, 항목만 봐서는 어느 게 최신입니까.
도무지 구분이 안 됐습니다.
쌓을 때마다 든든하던 게, 어느 순간부터는 열어볼 때마다 부담이 됐습니다.
쌓이긴 다 쌓였는데, 막상 "지금 맞는 한 개"가 안 나옵니다.
솔직히 그때까지도 저는 저장을 더 촘촘히 하면 풀릴 문제인 줄로만 알았습니다.

틀린 답의 출처를 끝까지 따라가 봤습니다

그 화요일에, 저는 처음으로 틀린 답이 어디서 왔는지를 끝까지 따라가 봤습니다.
범인은 죽은 항목 하나였습니다.
몇 주 전에 0.8로 한 번 맞았다가, 이미 0.6으로 갈아엎은 값.
메모에는 아직 "유사도 기준선 0.8 유지, 너무 낮추지 말 것"이라고 남아 있었고, 바로 아래 새 메모에는 "중복 흡수 때문에 0.6으로 낮춤"이라고 적혀 있었습니다.
그 0.8짜리 옛날 항목이 지워지지 않고 0.6짜리 지금 항목과 나란히 누워 있었고, 에이전트는 둘 중 뭐가 최신인지 가리지 못한 채 더 눈에 띄는 쪽을 집어 들었습니다.
기억층을 열어 그 항목 둘을 나란히 띄워놓고 한참을 들여다봤습니다.
글자만 보면 둘 다 그럴듯했습니다.
날짜를 따로 안 봤으면 저라도 어느 0.8이 죽은 건지 못 골랐을 겁니다.
처음엔 모델이 멍청해서 그런 줄 알았습니다.
한참을 그 두 줄만 노려보다가, 모델은 멀쩡한데 그 앞에 깔아준 재료가 서로 모순될 뿐이라는 걸 한 박자 늦게 알아챘습니다.

그 순간 방향이 정반대로 뒤집혔습니다.
막힌 건 저장이 아니었습니다.
저장이야 에이전트가 알아서 잘하고 있었습니다.
정작 손이 모자란 쪽은 따로 있었습니다.
그 쌓인 더미에서 "지금 맞는 하나"를 골라 꺼내고, 죽은 항목은 건드리지 않는 일.
거기서 손이 모자랐습니다.
기억이 늘수록 똑똑해지긴커녕, 맞는 걸 빨리 집어내는 값만 비싸졌습니다.
죽은 항목이 산 항목 옆에 끼어드는 순간은 차라리 빈칸일 때보다 나빴습니다.
빈칸은 모른다고라도 하는데, 섞인 더미는 틀린 답을 자신 있게 내밀었습니다.
여기까지 보고 저장량을 더 늘리려던 마음이 폭 식었습니다.

그날 저녁, 쌓던 손부터 멈췄습니다

운영 기준을 처음부터 다시 짰습니다.
전부 저장하던 버릇부터 버렸습니다.
한 번에 에이전트한테 들이미는 기억을 세 개에서 다섯 개로 잘랐습니다.
그 이상 욱여넣으면 도움은커녕 소음이 됐습니다.
열 개를 한꺼번에 들이밀면, 에이전트는 그중 정작 중요한 한두 개를 오히려 놓쳤습니다.
한 번 튀어나온 학습은 바로 올리지도 않았습니다.
똑같은 게 두 번 이상 반복돼야 그제야 "기억"에서 "규칙"으로 승격시켰습니다.
딱 한 번뿐인 건 그날의 우연일 수도 있었기 때문입니다.

저장은 그저 임시 보관소로만 뒀습니다.
두세 달에 한 번씩, 대략 60일에서 90일 사이마다 기억층을 통째로 다시 훑었습니다.
그동안 흔들림 없이 버틴 학습은 규칙 문서로 옮겨 적고, 옮긴 다음엔 기억층에서 지웠습니다.
규칙으로 흡수되면 원본은 비우는 겁니다.
그래야 기억층이 "지금 살아 있는 것들"로만 얇게 유지됐습니다.
두어 달 그렇게 돌리고 다시 열어 보니, 항목 수는 눈에 띄게 줄었는데 답은 오히려 덜 흔들렸습니다.

규칙을 박고부터 그 자신만만하게 틀리던 답은 눈에 띄게 줄었습니다.
근데 솔직히 뭘 지울지는 지금도 매번 손이 잘 안 나갑니다.
죽은 것 같으면서 아직 안 죽은 항목 하나를 앞에 두고, 저는 여전히 한참을 망설입니다.