Hallucination
-
AI가 든 예시는 어디서 왔을까AI Agent 2026. 7. 31. 21:00
밤이었습니다.주문 상세를 띄우는 화면 하나를 고치는 수정 가이드 여섯 개가 제 앞에 떠 있었고, 저는 그걸 바로 넘기기 직전이었습니다.코드 스니펫까지 친절하게 붙어 있었습니다.그 한가운데에 itemDisplayName이라는 칸 이름이 단정하게 박혀 있었는데, 너무 자연스러워서 눈이 그냥 미끄러졌습니다.솔직히 그냥 복사해 넣고 싶었습니다.그래도 넘기기 전에 검토 도구한테 딱 하나만 시켰습니다."이 코드가 쓰는 칸 이름들, 실제 정의가 원본 어디에 어떻게 적혀 있는지 대봐라."여섯 개 중에 여섯 개가 빨강이었습니다.그날 제가 붙든 건 습관 하나였습니다.AI가 코드 한 줄을 내밀면, 그걸 쓰기 전에 30초만 원본으로 되짚어 보는 것.별것 아닌 습관인데, 그날 밤이 아니었으면 저는 아마 아직도 안 하고 있었을 ..
-
줄 번호 대보라니까, 스무 개 중에 한 개도 못 대더라고요AI Agent 2026. 6. 25. 21:00
밤 11시쯤이었어요.AI가 화면 하나 고치는 코드를 다섯 묶음 써놨고, 저는 그걸 바로 안 넘기고 다른 검토자한테 딱 한 가지만 시켰어요."이 코드가 가져다 쓰는 칸 이름들, 실제 정의를 어디 몇 번째 줄에서 읽었는지 줄 번호로 대라."답이 안 나왔어요.한 개도요.후보로 올라온 이름이 스무 개 가까이 됐는데, 그중에 정의가 어디 있는지 짝지을 수 있는 게 0개였어요.손이 좀 서늘해지더라고요.게으른 게 아니라, 댈 게 없는 거였어요처음엔 검토자가 일을 대충 한 줄 알았어요.다시 시켰어요.천천히, 한 줄씩, 이름마다 정의 위치를 짝지어 오라고요.그래도 똑같았어요.스무 개 중에 0개.그제야 검토자가 게으른 게 아니라, 애초에 댈 게 없는 거라는 걸 알았어요.그 이름들이 실제로 어디에도 없었으니까요.상황은 이랬..