AI 에이전트 운영
AI 에이전트의 로그·비용·평가를 함께 봅니다
Google Cloud가 BigQuery·Looker의 관측·평가 기능 확대를 발표했습니다. 대화 내용 저장은 별도 선택이며 일일 토큰 쿼터와 일부 평가는 프리뷰입니다.
이 글에서 다룰 내용
BigQuery·Looker 제공 범위, 대화 로그와 개인정보 경계, 쿼리·토큰 비용 통제, Prism 평가
AI 에이전트, 답변 뒤의 운영까지 살펴봅니다
AI 에이전트가 어떤 답을 냈는지뿐 아니라 얼마나 느렸고 토큰을 얼마나 썼는지도 확인하는 기능이 확대됩니다. Google Cloud는 BigQuery와 Looker에서 자체 데이터 에이전트와 ADK·LangGraph로 만든 사용자 정의 에이전트의 관측성과 평가를 강화한다고 발표했습니다.
공식 페이지의 게시일 표시는 2026년 11월 14일입니다. 관측성 확대는 운영 상태를 파악할 수단이 늘었다는 뜻이지, 답변의 정확성을 자동으로 보장한다는 의미는 아닙니다.
정식 제공과 프리뷰는 어디서 나뉠까요?
BigQuery의 대화 로깅과 BigQuery Studio의 사전 구성 모니터링 대시보드는 정식 제공인 GA입니다. 사용량과 활성 세션, 주요 지식 소스, 지연 시간을 확인하는 기능이 포함됩니다.
Looker System Activity 대시보드도 Looker Google Cloud core와 original에서 GA로 제공됩니다. 다만 사용자 평가와 Responses & feedback 탭의 쿼리 검토는 프리뷰이므로 대시보드 안의 모든 기능이 같은 제공 단계라고 보면 안 됩니다.
집계 지표와 대화 원문은 다르게 관리합니다
Cloud Monitoring은 요청량·지연·토큰 사용량 같은 집계 지표를 다룹니다. 정제된 Google 자체 에이전트의 Cloud Trace에는 사용자 프롬프트, 모델 응답, 내부 사고, 생성 SQL 같은 고객 핵심 내용이 제외됩니다.
반면 상세 대화 로그는 에이전트 소유자·편집자가 에이전트별로 선택해 켜는 방식입니다. 활성화하면 고객 소유 BigQuery의 agent_events 테이블에 프롬프트·응답·턴별 정보가 저장되므로 운영 지표를 보는 것과 대화 원문을 보관하는 것은 별도 결정입니다.
대화 응답에는 지식 소스에서 가져온 값이 포함될 수 있어 로그 테이블의 읽기 권한도 중요합니다. 원본 데이터 접근 권한만 확인하고 끝내지 말고 로그를 누가 읽으며 얼마나 보관할지도 함께 검토해야 합니다.
보호 조건이 있으면 로깅을 건너뜁니다
지식 소스에 행 수준 보안, 열 수준 정책 태그, 동적 데이터 마스킹이 있으면 매 턴의 확인 과정에서 대화 로깅을 건너뜁니다. 보호 설정을 확인할 수 없는 경우에도 기록하지 않는 fail-closed 방식입니다.
단, 공식 문서는 이 검사가 뷰 뒤의 원본 테이블까지 확인하지는 않는다고 설명합니다. 뷰를 사용한다면 원본 테이블의 보호 설정도 별도로 점검해야 합니다.
하지만 로깅에 오류가 나더라도 사용자 대화는 fail-open 방식으로 계속 진행됩니다. 기록을 멈추는 조건이지 에이전트 실행 자체를 차단하는 기능은 아니며 모든 민감정보의 보호를 보장한다고 해석해서도 안 됩니다.
Google 자체 에이전트의 대화 로깅에서는 저수준 도구 인자와 내부 SQL을 제거합니다. 사용자 정의 ADK·LangGraph 계측은 전체 도구 실행 트리를 기록할 수 있으므로 저장 내용과 접근 권한을 따로 살펴야 합니다.
토큰 비용과 쿼리 스캔 비용을 구분하세요
BigQuery 쿼리별 바이트 스캔 상한은 dry-run 추정치로 과도한 쿼리를 실행 전에 막는 장치입니다. 설정한 상한을 넘는 쿼리의 온디맨드 스캔 과금을 피하는 기능이지, 모든 추론·로깅·저장 비용을 차단하는 총예산 한도는 아닙니다.
이와 별개로 일일 입력·출력 토큰 쿼터는 프로젝트·사용자·에이전트 단위의 프리뷰로 발표됐습니다. 따라서 스캔 상한은 데이터 조회량, 토큰 쿼터는 모델 사용량을 관리한다는 차이를 기억하면 이해하기 쉽습니다.
관측 기능 자체에도 수집·저장 비용이 발생할 수 있습니다. 대화 로그를 BigQuery에 적재하고 보관하거나 분석하는 비용도 함께 살펴야 하며 여기서는 구체적인 가격 숫자는 다루지 않습니다.
Prism은 운영 로그와 평가 결과를 연결합니다
공개 평가 도구 Prism은 BigQuery·Looker에 근거한 Conversational Analytics 에이전트를 재사용 가능한 테스트로 평가합니다. 완료된 평가 결과를 BigQuery에 기록해 운영 agent_events 로그와 나란히 비교할 수 있습니다.
별도로 BigQuery 자체 에이전트의 네이티브 평가는 API·Colab을 통한 프리뷰입니다. 평가 도입은 변경 전후의 답변을 점검하는 수단이며 자동 정답 보장이나 특정 성능 향상률이 검증됐다는 뜻은 아닙니다.
도입 판단은 작은 업무부터 시작하면 좋습니다
일반적인 실무 권고로는 비민감한 작은 업무에서 비용·정확도·로그 저장 범위를 함께 점검하는 접근이 적절합니다. 확인할 질문은 간단합니다. “어떤 답을 내는가”와 함께 “무엇을 저장하고, 어디서 비용이 생기는가”를 보는 것입니다.
한 줄 요약: GA와 프리뷰, 집계 지표와 대화 로그, 스캔 상한과 토큰 쿼터를 구분하는 것이 이번 관측성 확대를 이해하는 핵심입니다.
참고 출처
2026년 11월 14일 Google Cloud 공식 발표와 관련 개발자 문서를 확인했습니다. Google News RSS는 공식 출처명과 발행일을 교차 확인하는 보조 자료입니다.
