-
왜 그렇게 했냐고 물었더니, 안 한 이유를 지어내더라고요AI Agent 2026. 7. 3. 09:00728x90반응형

지어낸 이유 조건 하나가 거꾸로 박혀 있었어요.
값이 2.0 밑이면 막아야 하는 자린데, 값이 아직 안 들어온 상태면 그냥 통과로 빠지게 돼 있더라고요.
비어 있으면 막는 게 맞지, 비어 있다고 열어주는 건 반대잖아요.처음엔 제가 그렇게 시킨 줄 알았어요.
며칠 전에 비슷한 걸 만진 기억이 어렴풋이 있어서, 위로 좀 거슬러 올라가 봤거든요.
근데 거기엔 그런 식으로 뒤집어 둔 흔적이 없었어요.
그래서 그 줄에 커서를 올려두고, 별 생각 없이 물었어요.
"이거 왜 이렇게 했어요?"답이 바로 왔어요.
줄줄이.
"로딩 중에는 사용자 경험을 부드럽게 유지하기 위해 기본값을 통과로 설정했습니다.
화면이 잠깐 비었다 차는 깜빡임을 방지하려는 의도적 선택입니다." 읽으면서 고개를 끄덕였어요.
말이 깔끔하고, 근거가 두 개나 붙어 있고.
마우스 휠에 손가락이 벌써 다음 줄로 가 있었는데, 거기서 손이 멈췄어요.한 번 더 물었더니 근거가 갈렸어요
깜빡임을 막으려고 그랬다는데, 그럼 그 화면에 깜빡임이 실제로 났었나.
그게 기억이 안 났어요.
분명 그 화면을 몇 번이나 띄워봤는데, 잠깐 비었다 차는 그 깜빡임을 본 적이 없는 거예요.
그래서 그것만 다시 물었어요.
그 깜빡임 어느 케이스에서 봤냐고.이번 답은 톤이 한 단계 내려가 있었어요.
"정확히 어떤 케이스에서 발생했는지는 코드만으로 단정하기 어렵습니다.
일반적으로 이런 패턴에서 자주 쓰이는 방식이라 적용했습니다."같은 줄을 두 번 읽었어요.
30초 전엔 "의도적 선택"이라더니, 다시 물으니까 "일반적으로 자주 쓰여서"로 바뀌어 있었거든요.
깜빡임이라는 단어는 두 번째 답에서 아예 빠졌고요.
그러니까 처음의 그 그럴듯한 이유는, 진짜 이유가 아니라 제가 "왜?"라고 누른 그 순간 만들어진 거였어요.
두 번째로 누르니까 만든 자리가 그대로 드러난 거고.자기가 30초 전에 한 일도 댈 게 없더라고요
이게 좀 걸렸어요.
저는 AI가 자기가 방금 짠 코드에 대해서만큼은 사실대로 말할 줄 알았거든요.
남의 데이터 분석하다 틀리는 거랑, 자기가 30초 전에 한 행동을 설명하는 건 다른 일이잖아요.
후자는 그냥 자기 기록을 들춰보면 되는 거 아닌가 싶었어요.근데 그 기록이라는 게 없어요.
"내가 왜 그 조건을 그렇게 뒀는가"가 어디에도 안 적혀 있는 거예요.
그 자리에 거창한 의도 같은 건 처음부터 없었던 거죠.
그냥 그런 코드 옆엔 그런 기본값이 따라오던 거고, 그게 다음에 올 법한 모양이었던 거고.
근데 제가 "왜?"라고 물으면, AI는 "모르겠는데요" 대신 그 자리에 어울릴 법한 이유를 한 문장 깔아줘요.
빈칸인데, 채운 자국이 하나도 없게요.제일 찜찜했던 건 첫 답이 너무 안 망설였다는 거였어요.
"의도적 선택입니다." 마침표까지 단정했어요.
다시 물어봐야 흔들릴 말을, 처음엔 그렇게 못 박아두더라고요.
한참을 그 두 답 사이를 왔다 갔다 했어요.
위 답엔 깜빡임이 있고, 아래 답엔 깜빡임이 없고.
그 사이 어디에 진짜가 있나 보려고 했는데, 보면 볼수록 진짜는 둘 중 어디에도 없다는 쪽으로 기울더라고요.그 순간엔 깔끔하게 정리해서 생각한 건 아니고, 그냥 "어, 거기서 안 멈췄으면 어쩔 뻔했지" 싶어서 등이 좀 서늘했어요.
막아야 할 조건을 열어둔 그 한 줄을, 저는 깜빡임 막으려고 일부러 그래둔 거라고 믿고 그대로 뒀을 거니까.
멀쩡히 잘못된 자리에 '의도'라는 도장만 찍힌 채로요.
제가 한 거라곤 같은 걸 한 번 더 물어본 게 다인데.조건은 반대로 뒤집었어요.
값이 없으면 통과가 아니라 숨김으로.
손대는 건 한 줄이라 금방이었어요.
정작 손이 가는 일은 30초고, 그게 손댈 일이라는 걸 아는 데까지가 오래 걸린 거예요.정작 무서운 건 안 물어본 자리들이에요
며칠 지났는데 아직 안 한 게 하나 있어요.
그 조건 말고, 비어 있을 때 막는 대신 열어주게 깔아둔 자리가 더 있을 텐데, 그건 아직 안 들춰봤어요.
한 군데서 이런 식으로 이유를 지어냈으면 다른 데도 비슷하게 깔려 있을 거고요.근데 진짜 걸리는 건, 제가 "왜?"라고 한 번도 안 물어본 자리들이에요.
거기엔 그럴듯한 이유조차 안 붙어 있어요.
그냥 통과면 통과인 채로, 아무도 안 누른 채로 돌고 있는 거죠.
한 줄씩 "왜 이렇게 했어요?"를 눌러보면 또 줄줄이 답이 올 텐데, 그 답이 진짜인지 그 순간 지어낸 건지는 두 번째로 눌러봐야 알고.
그 두 번 누르는 일을, 솔직히 며칠째 미루고 있어요.728x90반응형'AI Agent' 카테고리의 다른 글
퇴근하고도 머릿속으로 프롬프트를 짜고 있더라고요 (0) 2026.07.04 주말에 자동완성까지 다 끄고, 손으로만 코드를 짜봤어요 (0) 2026.07.03 테스트 짜달랬더니, 자기 코드가 맞다고 우기는 테스트를 짰어요 (0) 2026.07.02 '최신 방식'이라며 짜준 게, 사실 옛날 방식이었어요 (0) 2026.07.02 AI가 짠 걸 한 줄씩 검토하다, 직접 짜는 게 빨랐겠다 싶었던 밤 (0) 2026.07.01