프롬프트 캐싱(Prompt Caching)이란? AI API 비용과 응답 시간을 줄이는 방법 GlossaryBy 감자2026년 6월 24일프롬프트 캐싱은 반복되는 긴 입력을 AI 서비스가 재사용해 비용과 응답 시간을 줄이는 최적화 방식입니다. 컨텍스트 윈도우, 메모리, RAG와의 차이까지 쉽게 정리했습니다.
