지수 백오프(Exponential Backoff)란? AI API 재시도를 안전하게 늦추는 방법
지수 백오프는 API 요청이 실패했을 때 바로 반복하지 않고 재시도 사이의 대기 시간을 점점 늘려 과부하와 중복 실행을 줄이는 재시도 전략입니다.
지수 백오프는 API 요청이 실패했을 때 바로 반복하지 않고 재시도 사이의 대기 시간을 점점 늘려 과부하와 중복 실행을 줄이는 재시도 전략입니다.
프루닝은 AI 모델 안에서 덜 중요한 가중치나 연결을 줄여 모델을 더 희소하고 가볍게 만드는 모델 압축 방법입니다.
AI 오케스트레이션은 여러 모델, 도구, 단계, 에이전트가 어떤 순서로 움직일지 정하고 조율하는 설계 방식입니다. AI 에이전트와 자동화에서 왜 중요한지 초보자 눈높이로 정리했습니다.
스톱 시퀀스는 AI가 특정 문자나 문장 조각을 만나면 답변 생성을 멈추게 하는 종료 신호입니다. AI API 자동화, 목록 생성, 짧은 라벨 출력, 구조화 출력에서 왜 중요한지 초보자 눈높이로 정리했습니다.
분류 임계값은 AI 모델이 낸 점수나 확률을 실제 판정으로 바꿀 때 쓰는 기준선입니다. 스팸, 위험 콘텐츠, 고객 문의 분류, 사기 탐지처럼 실수 비용이 다른 업무에서 왜 중요한지 쉽게 정리했습니다.
차등 개인정보보호는 AI 데이터 분석이나 모델 학습 결과에서 특정 개인의 데이터 포함 여부가 드러나기 어렵게 만드는 수학적 개인정보 보호 방법입니다.
데이터 누수는 AI 모델이 실제 예측 시점에는 볼 수 없는 정보를 학습이나 평가 과정에서 미리 보게 되는 문제입니다.
손실 함수는 AI 모델의 예측이 정답과 얼마나 다른지 숫자로 계산하는 기준입니다.
OAuth는 사용자가 비밀번호를 직접 넘기지 않고도 앱이나 AI 도구에 제한된 접근 권한을 위임하게 해 주는 표준 권한 부여 흐름입니다.
체크포인트는 AI 모델이나 학습 작업의 현재 상태를 저장해 나중에 다시 불러올 수 있게 만든 중간 저장 기록입니다. 모델 가중치, 학습 재개, 저장된 모델과의 차이까지 쉽게 정리합니다.