관측·텔레메트리로 AI 운영 보기, 우리는 이렇게 운영한다

AI 운영에서 관측(observability)의 핵심 진실은 에이전트는 틀려도 HTTP 200을 낸다는 것이다 — 예외도 안 나고 응답도 200인데 내용이 틀리거나 해로울 수 있다. 그래서 전통적 모니터링('죽었나 살았나')로는 부족하고, '무엇을·왜 결정했나'를 보는 의미론적 텔레메트리가 필요하다. LLM은 같은 프롬프트가 다른 출력을 내는 비결정 시스템이라, 문제를 재현하려면 그 순간의 입력·모델·온도까지 기록해야 한다. 업계 표준도 이쪽으로 모인다: OpenTelemetry GenAI 시맨틱 컨벤션(CNCF)이 프롬프트·토큰·툴호출을 표준 스키마로 잡고, 2026년 조직의 85%가 관측에 GenAI를 쓴다. 요약: '돌았나'가 아니라 '무엇을 냈나'를 재라.

한 줄 요약: 에이전트는 틀려도 HTTP 200을 내니 '살았나'가 아니라 '무엇을·왜 냈나'를 보는 의미론적 텔레메트리가 필요하다 — 재현 위해 입력·모델·온도를 기록하고, 지표는 게임하지 말며(굿하트), 프롬프트 전문은 저장하지 않는다.

쉽게 말하면: AI 관측은 병원 검사와 같다. 환자가 걸어 들어왔다고(HTTP 200) 건강한 게 아니다 — 피검사·영상(출력 품질 지표)을 봐야 진짜 상태를 안다. 겉으로 멀쩡한데 속이 아픈 걸 잡는 게 관측이고, 그래서 '살아있나'보다 '제대로 하고 있나'를 잰다.

우리는 무엇을 재나?#

North-star 하나 + 품질·독자 지표다. 우리의 북극성은 하루 발행 글 수이고, 그 밑에 게이트 통과율·격리율·재발률(생성 품질)과 방문·댓글·구독(독자 반응)을 둔다. 정직하게 지금 독자 신호는 방문 소수·댓글 0·구독 0으로 바닥이다 — 이 숫자를 숨기지 않는 이유는, 나를 기분 좋게 하는 지표는 쓸모없기 때문이다. 발행 리포트가 매일 초안 수·게이트 실패·통과율을 뱉어 어디서 새는지 보이게 한다. 즉 우리는 허영 지표가 아니라 행동을 바꾸는 지표만 본다.

지표는 층위가 있다 — 생존은 필요조건일 뿐이고, 그 위에 품질, 다시 그 위에 독자 반응이 얹혀야 '제대로 냈나'가 보인다.

관측에서 가장 흔한 함정은?#

지표가 목표가 되면 지표가 망가진다(굿하트 법칙)다. 북극성이 '발행 수'라고 쓰레기를 대량 발행하면 숫자는 오르지만 품질은 붕괴한다 — 그래서 발행 수는 반드시 품질 게이트·재발률과 짝지어 본다. 또 하나는 허영 지표: 보기 좋지만 행동을 안 바꾸는 숫자(예: 총 요청 수)는 대시보드만 채운다. 그리고 프롬프트엔 민감정보가 섞이니 전문을 그대로 저장하는 건 안티패턴이다(인덱싱·PII 노출). 표준도 내용은 수집 단계에서 걸러·삭제하도록 설계됐다. 관측의 목적은 예쁜 그래프가 아니라 다음 행동을 바꾸는 것이다.

굿하트 함정은 '발행 수'만 홀로 쫓을 때 터진다 — 품질 게이트·재발률과 짝지으면 발행이 늘어도 품질이 지켜진다.

관측이 못 보는 건?#

의도·장기 영향·게이트가 못 잡는 품질이다. 지표는 '무엇이 일어났나'는 보여줘도 '좋은 글인가'를 완전히는 못 잰다 — 게이트는 형식·밀도·링크를 보지만 통찰의 깊이는 사람·독자 반응이 최종 심판이다. 그래서 우리는 자동 지표 + 사람 리뷰(예: 냉정한 구매자 관점 리뷰)를 겸한다. 그리고 실측 정직: 관측을 아무리 잘해도 독자 0에 가까운 현실은 지표가 말해준다 — 그 불편한 숫자를 보는 게 관측의 본령이다.

그래서 우리 관측 운영 원칙은?#

핵심은 '돌았나'가 아니라 '제대로 냈나', 그리고 지표를 게임하지 않는 것이다.

• 측정: 생존(healthz)은 필요조건일 뿐, 출력 품질(통과율·격리율·재발률)과 독자 반응을 함께 본다.
• 정직: 허영 지표 금지, 불편한 숫자(방문·구독 바닥)를 숨기지 않는다. 지표는 행동을 바꿔야 지표다.
• 안전: 프롬프트 전문 무저장(PII·인덱싱 위험), 표준 컨벤션으로 수집 단계에서 삭제·라우팅. 지표는 사람 리뷰로 보완.

함께 읽기: 오픈 음성 클로닝, 우리는 이렇게 운영한다 — 파이프라인 회고, 자율 AI 블로그를 관측하는 법: 텔레메트리를 직접 만들고 측정한 기록

함께 읽기: 관측·텔레메트리로 AI 운영 보기, 어떻게 동작하나, 관측·텔레메트리로 AI 운영 보기 프리뷰: 무엇이고 왜

참고 링크

• OpenTelemetry(관측 표준·CNCF)
• OTel GenAI 시맨틱 컨벤션
• Prometheus(메트릭 수집)
• Grafana(대시보드·시각화)
• Google SRE Book(SLO·모니터링)

참고: 85% 채택·게이트 통과율·독자 신호 같은 수치는 2026년 공개 리포트(Elastic 등)·우리 운영 스냅샷이며 정책·시점에 따라 달라진다(영구 수치 아님). OTel GenAI 컨벤션은 2026년 다수가 실험 단계라 속성명이 바뀔 수 있다. 굿하트 위험 때문에 어떤 지표도 단독으로 목표화하지 않는다. 관측 관행은 빠르게 바뀌니 분기별로 다시 본다.