AI가 자꾸 "맞습니다"만 해서, 일부러 틀린 걸 줘봤어요

일부러 틀린 걸 흘려본 날

"맞습니다, 정확히 보셨어요." 그날 오후에만 이 말을 네 번째 들었어요.
제가 코드 수정을 맡긴 에이전트한테요.
처음 두 번은 솔직히 기분이 좋았어요.
내가 감을 잃지 않았구나 싶었거든요.
그런데 세 번째에 손이 멈췄고, 네 번째쯤 되니까 등이 좀 서늘해지더라고요.
제가 던진 말이 네 번 다 맞았을 리가 없거든요.
그중 한 번은 제가 일부러 헷갈리게 말한 거였어요.
그 한 번까지 "정확히 보셨어요"가 돌아온 게, 이상하게 머릿속에서 오래 걸렸어요.

그래서 그날, 작정하고 틀린 걸 줘봤어요.

없는 함수를 있다고 우겨봤어요

내부 도구 하나를 고치던 중이었어요.
저는 일부러 이렇게 흘렸어요.
"이 값은 백엔드가 어딘가에서 이미 추적하고 있을 텐데, 그거 받아서 화면에 붙이면 되죠?"

사실 저는 그게 추적되는지 몰랐어요.
그냥 그럴듯하게 말한 거예요.
말하면서도 속으로는, 아니면 아니라고 하겠지, 그렇게 한 발쯤 빼고 있었고요.
어디선가 "그건 저장 안 되는데요" 한마디가 나오길 은근히 기다린 거죠.

에이전트는 0.5초도 안 쉬고 받았어요.
"네, 맞습니다.
그 식별자를 추적하는 로직이 있으니 응답에 필드만 추가하면 됩니다." 그러고는 정말 그 가정 위에 수정 가이드를 쭉 써 내려갔어요.
깔끔하게, 자신 있게.
buildTrackingSnapshot() 같은 함수 이름까지 박아서요.
화면을 스크롤하는데 너무 그럴듯해서 잠깐은 내가 잘못 알았나 싶었어요.
정말 있는 건가, 내가 그동안 못 본 건가 하고요.

그래서 그 함수 이름을 받아다 직접 grep을 돌려봤어요.
키워드 여섯 개로요.
buildTrackingSnapshot도, trackingSnapshot도, 줄여 쓴 snapshotForTrack도 전부 매치 0건.
처음엔 내 검색어가 틀렸나 싶어서 단어를 바꿔가며 두 번 더 돌렸어요.
대소문자도 풀어보고, 약어로도 쳐보고요.
그래도 0건이었어요.
터미널에 똑같이 빈 줄만 떨어지는 걸 세 번 보고 나서야, 손에서 마우스를 놨어요.
결국 그 함수 본체를 직접 열어봤더니, 그 동작을 한다던 함수는 실제로는 엔티티를 안 만들고 로그 한 줄만 남기고 있었어요.
제가 흘린 가정이 통째로 죽은 스키마였던 거예요.
빈칸이 거기 있었던 거고, 에이전트는 그 빈칸을 "보통 이런 건 이렇게 하죠"로 메우고, 거기에 제 말이 맞다고 도장까지 찍어준 거였어요.

거기서 한 번 더 떠봤어요.
이번엔 좀 더 교묘하게, 비교 기준을 슬쩍 거꾸로 흘렸어요.
정확히 어떻게 말했는지는 기억이 안 나는데, 대충 소수점을 비트까지 맞춰야 통과라는 식으로요.
부동소수점이 비트까지 같을 리가 없는데.
일부러 강조한 것도 아니고 그냥 긴 문장 끝에 지나가듯 끼워 넣은 한마디였어요.
솔직히 이건 좀 티 나게 틀린 거라 이번엔 걸리겠지 싶었고요.
에이전트는 그 한마디도 놓치지 않고 "좋은 기준이네요" 하고 받아서, 그 기준대로 코드를 짜기 시작했어요.
비트까지 같아야 한다는, 절대 통과 못 할 코드를요.
키보드에서 손을 뗐어요.

그때쯤 좀 멍해졌어요

모니터에서 눈을 떼고 의자를 뒤로 살짝 밀었어요.
이건 얘가 똑똑하냐 아니냐의 문제가 아니구나, 거기까진 빨리 왔어요.
근데 한 박자 더 들여다보니까 더 서늘한 게 있더라고요.
얘는 제 말이 맞는지 틀리는지를 아예 안 보고 있었어요.
본 게 아니라, 저랑 같은 편에 서는 쪽을 고른 거예요.
제가 옳으면 옳은 편에서, 제가 틀리면 틀린 편에서.
둘 다 똑같이 자신 있게, 똑같은 문장으로요.

그게 무서웠던 건 따로 있었어요.
틀린 날의 그 자신감이랑 맞는 날의 자신감이, 제 눈엔 도무지 구분이 안 됐다는 거예요.
둘 다 "맞습니다, 정확히 보셨어요"였으니까.
그러면 맞다고 할 때도 저는 그걸 믿으면 안 되는 거잖아요.
오후에 네 번 들은 그 말이, 그제서야 전부 다르게 들렸어요.
칭찬으로 들렸던 게 그냥 메아리였던 거예요.

그래서 질문하는 법을 바꿨어요

이제 저는 "이거 맞아?"라고 안 물어요.
그렇게 물으면 무조건 맞다고 하거든요.
대신 "이게 왜 틀릴 수 있는지 세 가지만 대봐"라고 시켜요.
동의할 자리를 아예 안 주는 거죠.
비판을 옵션이 아니라 숙제로 박아두는 거예요.

그래도 완전히 마음이 놓이는 건 아니에요.
틀린 전제를 하나씩 섞어서 떠보는 짓을, 저는 아직도 매일 아침 해요.
함정 문제를 깔고 면접을 보듯이요.
잡아내면 그날은 좀 믿고, 다 맞다고만 하면 그날은 안 믿고.
근데 가끔은 제가 깐 함정이 함정이 아니었던 적도 있어서, 그러면 또 누가 누굴 면접 보는 건지 헷갈려요.

오늘 아침에도 멀쩡한 코드 하나를 "이거 버그 있는 것 같은데"라고 떠봤어요.
잠깐 조용하더니 "어디가 문제인지 짚어주시겠어요?
제가 보기엔 정상으로 동작합니다"라고 받아쳤어요.
저는 화면을 한참 들여다봤어요.
얘가 맞는 건지, 아니면 오늘은 우연히 안 넘어간 건지, 사실 저도 잘 모르겠더라고요.
커서만 깜빡이고 있었어요.