이력서의 "AI 활용 가능" 네 글자가 아무 의미 없는 시대

by 그릿 | GROWTH_ESSAY | 2026-03-28

"AI 활용 경험이 있으신가요?"

면접에서 이 질문을 받으면, 열에 아홉은 같은 대답을 합니다.

"Copilot으로 코딩 생산성을 높였습니다."
"코드 리뷰할 때 AI를 활용합니다."

솔직히 말하면, 이건 2024년의 차별화였습니다. 지금 이 답변은 "엑셀 할 줄 압니다"와 같은 위치에 있습니다.

"쓰는 사람"과 "만드는 사람"

한 개발자의 이야기입니다. 무인카페를 운영하면서, 방명록 댓글을 로컬 LLM으로 자동 검수하는 시스템을 만든 사람이었습니다.

문제는 단순했습니다. 댓글 하나를 처리하는 데 평균 5.6초가 걸리는데, 새 댓글이 1초마다 들어옵니다. 수학적으로 큐가 영원히 쌓이는 구조였습니다.

이 사람이 한 일은 세 가지였습니다.

첫째, 프롬프트를 뒤집었습니다. "욕설, 광고, 비속어는 거절하라"는 금지 목록 방식을 "방문 후기, 칭찬, 감사 인사만 승인하라"는 허용 목록 방식으로 바꿨습니다. 모호한 기준 대신 명확한 기준을 세운 겁니다.

둘째, 모델 세 개를 직접 벤치마크했습니다. 20억 파라미터 모델은 정확도 100%지만 5.6초. 40억은 빠르지만 광고성 댓글을 못 잡았습니다. 30억은 "화장실 비번?"을 욕설로 분류하는 수준이었습니다. 감이 아니라 데이터로 결론을 냈습니다.

셋째, 소형 모델로 1차 필터링하고 대형 모델로 재확인하는 2단계 파이프라인을 설계했다가, 구조적 결함을 발견하고 폐기했습니다. 소형 모델이 나쁜 댓글을 clean으로 통과시키면 재확인 없이 게시되는 문제였습니다.

.env 한 줄의 무게

최종 해결책은 의외로 간단했습니다. gemma3 12b 모델로 교체. 설정 파일 한 줄 변경으로 속도 45% 개선, 정확도 100%.

하지만 이 "한 줄"에 도달하기까지, 프롬프트 설계, 세 모델 벤치마크, 파이프라인 아키텍처 시도, 실패 분석이 전부 녹아 있습니다.

의사가 수술 부위에 선 하나를 긋는 건 1초입니다. 하지만 어디에 그을지 결정하기까지 수십 년의 경험이 필요합니다. 이 개발자의 설정 파일 한 줄도 마찬가지입니다.

프롬프트의 한계를 아는 사람

이 사례에서 가장 인상 깊었던 건, "프롬프트 엔지니어링의 한계"를 인정한 부분입니다.

광고성 댓글을 감지하도록 프롬프트를 일곱 번 바꿨지만, 소형 모델은 끝내 실패했습니다. 모델이 개념 자체를 이해하지 못하면, 프롬프트를 아무리 고쳐도 답이 나오지 않습니다.

이걸 아는 사람과 모르는 사람의 차이는, 면접에서 5분 만에 드러납니다.

"AI를 활용했습니다"가 아니라, "이 문제를 AI로 풀었고, 이 과정에서 이런 한계를 발견했으며, 이렇게 해결했습니다"라고 말할 수 있는 사람.

지금 시대의 이력서 필살기는 AI를 쓰는 게 아닙니다. AI의 한계를 알고, 그 안에서 최적의 선택을 내린 경험입니다.