방금 당한 버그를, 같은 AI가 곧바로 한 번 더 밟았어요

어느 날 AI가 셸 명령에서 함정 하나에 빠졌어요.
글자 하나가 엉뚱하게 치환되면서 명령이 통째로 망가지는, 좀 고약한 거요.
그게 저한테 "에러 떴어요"로 그대로 튀었어요.
그런데 그걸 수습하고 몇 분 지나서, 같은 세션의 AI가 방금 당한 그 버그를 자기 손으로 한 번 더 밟았어요.
방금 데인 자리를요.
기억이 한 턴도 안 갔어요.

그래서 끝날 때마다 한 줄씩 남기게 했어요

긴 프로젝트를 AI랑 하다 보면 이게 일상이에요.
매 세션의 AI는 똑똑한데, 세션이 바뀌면 지난주에 분명히 풀었던 걸 깡그리 잊어요.
사람이라면 "아 저번에 이거 데였지" 하는 게, 다음 세션엔 아예 없고요.
그래서 규칙을 하나 박았어요.
의미 있는 작업이 끝날 때마다 학습 원장에 한 줄씩 남기라고.
오늘 뭐 했는지 적는 일지 말고, "다음 사람이 같은 값을 두 번 치르지 않게" 그것만요.

강제했더니 이번엔 반대쪽이 터졌어요

강제했더니, 이번엔 반대쪽에서 문제가 터졌어요.
이레 만에 항목이 486개 쌓였어요.
그중에 한 80%는 진짜 배운 게 아니라 "오늘 이거 함" 수준의 흔적이었고요.
원장이 6,799줄까지 부풀자, 정작 다음 세션이 그걸 안 읽기 시작했어요.
보험은 들었는데 약관이 너무 길어서 아무도 안 읽는 꼴이 된 거죠.

며칠 뒤엔 아예 다른 세션이 똑같은 그 함정에 빠졌어요.
피하는 법이 원장 어딘가에 분명히 적혀 있었는데도요.
근데 솔직히, 저라도 못 찾아 읽었을 것 같아요.
6,799줄 중에 어디 그 한 줄이 박혀 있는지를, 누가 알겠어요.

그래서 원장을 두 번 쳐냈어요

그래서 원장을 두 번 쳐냈어요.
6,799줄을 3,218줄로, 다시 955줄로요.
"줄은 많은데 배운 건 별로 없네"라는 말을 듣고서, 규칙으로 올리려던 열두 개 중 열 개를 도로 내렸어요.
내릴 때 좀 아까웠어요.
근데 다시 보니, 어제 적은 걸 오늘 말만 바꿔 또 적어둔 거였더라고요.
헛웃음 났어요.
대신 장치를 하나 달았어요.
같은 함정이 원장에 두 번 등장하면, 그건 원장에 더 쌓을 게 아니라 안 지키면 막히는 규칙으로 끌어올리라는 신호로요.

근데 이것도 아직 안심이 안 돼요.
그 "두 번 나오면 끌어올리는" 장치가 줄 적은 다음 달에도 제대로 도는지, 두 번째로 쳐낸 게 또 다른 헛손질은 아닌지, 저는 아직 몇 주를 더 지켜봐야 알아요.
솔직히 다음 세션이 이 짧아진 원장을 읽긴 읽을지부터가, 저는 여전히 안 보이고요.