지수 백오프(Exponential Backoff)란? AI API 재시도를 안전하게 늦추는 방법
지수 백오프는 API 요청이 실패했을 때 바로 반복하지 않고 재시도 사이의 대기 시간을 점점 늘려 과부하와 중복 실행을 줄이는 재시도 전략입니다.
지수 백오프는 API 요청이 실패했을 때 바로 반복하지 않고 재시도 사이의 대기 시간을 점점 늘려 과부하와 중복 실행을 줄이는 재시도 전략입니다.
멱등성은 같은 요청이나 작업을 여러 번 실행해도 실제 결과가 한 번 실행한 것과 같게 만드는 성질입니다.