429 Too Many Requests는 보낸 요청이 한도를 넘었을 때 서버가 돌려주는 응답입니다. 503과의 차이, 어느 계층이 돌려준 429인지 구분하는 법, 요청 수 한도와 토큰 한도의 차이, 확인 결과별로 고칠 곳과 지수 백오프 설계를 정리했습니다.

CPU 사용률 90%를 무엇이 채웠는지는 퍼센트 하나에 드러나지 않습니다. top으로 us·sy·wa·st를 나눠 방향을 정하고, 프로세스와 Java 스레드 덤프로 코드를 확인하고, vmstat·iostat로 디스크를, cgroup 지표로 컨테이너 스로틀링을 좁히는 순서입니다.

504 Gateway Timeout은 프록시 타임아웃만 늘려서는 사라지지 않습니다. 연결 실패인지 응답 지연인지 에러 로그로 구분하는 법과 주요 원인 4가지, 그리고 장애 중에 그대로 따라갈 수 있는 6단계 해결 순서를 정리했습니다.

API 응답이 느려졌을 때 짐작에 기대지 않고, 요청 경로를 따라 애플리케이션·데이터베이스·외부 호출·인프라·네트워크 순서로 원인 7가지를 좁혀 갑니다. 트레이스로 느린 구간부터 특정하는 진단 순서를 정리했습니다.

로그 레벨 순서는 TRACE부터 FATAL까지 여섯 단계이고, 설정한 레벨보다 심각한 것만 기록됩니다. ERROR와 WARN을 나누는 기준, Syslog·OpenTelemetry 대응, Spring Boot와 Logback의 레벨 처리, JSON 구조화 로깅을 정리했습니다.

LLM 프롬프트 로그에는 사용자가 입력한 이름과 연락처가 그대로 들어옵니다. 개인정보 마스킹과 비식별화는 어떻게 다른지, 어느 단계에서 지울지, 정규식과 개체명 인식이 각각 놓치는 값은 무엇인지, 로그 보관 기간을 어떻게 나눌지 정리했습니다.

사람이 답을 전수로 읽을 수 없게 되면 LLM 답변 품질 평가는 규칙으로 셀 수 있는 항목부터 시작합니다. 사실성과 톤은 LLM-as-a-Judge로 채점하고, 순서 편향과 자기 편애 같은 한계는 기준 표본과 사람 검토로 보완합니다.

LLM API 비용은 호출 하나에 담긴 토큰이 많아지거나 요청 하나가 여러 호출로 번질 때 늘어납니다. 대화 이력 누적, 캐시 적중률 하락, 재시도와 에이전트 루프를 나눠 보고 원인별 토큰 비용 절감 방법과 호출마다 기록할 값을 정리했습니다.

코드도 프롬프트도 안 바꿨는데 LLM 답변이 달라졌다면 원인은 두 가지입니다. 모델을 그대로 두었는데 품질이 떨어지는 모델 드리프트와, 제공사의 모델 교체는 증상이 같아 보입니다. 세부 버전과 출력 지표를 남겨야 어느 쪽인지 가려낼 수 있습니다.

AI 게이트웨이는 모델 호출을, MCP 게이트웨이는 에이전트의 도구·데이터 접근을 관리합니다. 요청 하나가 두 종류의 호출로 나뉘는 과정을 짚고, 기존 API 게이트웨이와 무엇이 다른지, 언제 각각 필요한지, 옵저버빌리티와 역할이 어떻게 다른지 정리했습니다.

모니터링 비용은 저장한 다음보다 저장하기 전에 줄이는 편이 효과가 큽니다. 텔레메트리 파이프라인에서 쓰는 속성 필터링, 로그 필터링, 보존 티어, 테일 샘플링, 집계 후 저장을 무엇을 잃는지와 되돌릴 수 있는지로 비교했습니다.

HTTP 상태 코드 100번대부터 511까지 전체 목록을 정의와 함께 정리했습니다. URL 모니터링에서 4xx·5xx 알림을 받았을 때 무엇을 뜻하는지 바로 확인할 수 있는 레퍼런스입니다.

메트릭 카디널리티는 메트릭 하나가 몇 개의 시계열로 저장되는지를 뜻합니다. 라벨 하나가 시계열을 1만 배로 늘리는 계산 구조와 고카디널리티가 실제로 문제가 되는 라벨 두 종류를 예시로 정리했습니다.

공공 정보시스템 예방점검, 어디까지가 의무인지 헷갈릴 때 보는 글입니다. 「정보시스템 안정성 고시」 별표 2에서 A1 ~ A4 등급별 필수 항목만 골라내는 방법과 예방점검 8개 항목의 필수·권고 구분, 일상점검 자동화 인정 조건을 정리했습니다.

SLO 에러예산 번레이트가 무엇인지 쉽게 정리했습니다. SLI SLO SLA 차이, 에러예산이 나오는 원리, 번레이트 알림이 정적 임계값보다 나은 이유, 첫 SLO 고르는 법까지.