AI Agent 엔지니어링

『AI Agent 엔지니어링』 책을 읽으면서 동시에 네이버랩스에서 리팩토링용 Agent를 만들어 보았다. 이론을 읽고 바로 실전에 부딪혀보는 식이었는데, 생각보다 이론과 현실의 간극이 컸다.

처음엔 ReAct 방식으로 한 스텝씩 추론하고 행동하게 만들었다. 하지만 코드베이스 규모가 커지자 문제가 바로 드러났다. 전체 구조를 보지 못한 채 눈앞의 코드만 보고 판단하다 보니, 분석도 하기 전에 수정부터 하거나 import가 빠지는 일이 반복됐다. 책에서 계획 후 실행(Plan-and-Execute) 방식을 설명하는 부분을 읽고 나서야 왜 내 Agent가 자꾸 지엽적인 수정만 반복하는지 이해가 됐다. 곧바로 분석·계획·수정·검증 단계를 분리한 구조로 바꿔봤다.

지식과 메모리 설계도 비슷했다. 처음엔 벡터 스토어로 유사 코드를 찾는 방식을 시도했는데, 코드는 임베딩 유사도보다 호출 순서와 계층 구조가 더 중요하다는 걸 직접 겪으며 깨달았다. 이후 AST로 함수 호출 관계를 그래프화하는 방식으로 바꿨다.

가장 어려웠던 건 결국 "AI에게 문맥을 얼마나 줄 것인가"였다. 파일 하나만 주면 의존 관계를 모르고, 전체를 주면 감당이 안 됐다. 책이 이 트레이드오프를 짚어줄 때마다 내가 겪던 문제를 누가 대신 정리해주는 기분이었다.