OpenAI API가 오류 뒤 알아서 다시 요청하는 것을 끌 수 있나요? 초보자 max_retries 설정법

질문

OpenAI API가 오류 뒤 알아서 다시 요청하는 것을 끌 수 있나요?

답변

네. 공식 Python SDK에서 OpenAI(max_retries=0) 으로 클라이언트를 만들면 SDK의 자동 재시도를 끕니다. 특정 요청만 바꾸려면 client.with_options(max_retries=0) 을 사용하세요. 최초 요청까지 막는 설정은 아닙니다.

이 글은 SDK가 오류 뒤 같은 API 요청을 다시 보내는 횟수를 제어하는 방법입니다. 모델이 함수를 여러 번 부르는 현상, 화면의 재생성 버튼, 작업 큐의 재실행과는 구분합니다. 끈 뒤에는 실패를 앱에서 처리해야 합니다.

SDK·버전 확인 → 자동 재시도 위치 확인 → max_retries 지정 → 오류와 전송 기록 점검 순서로 시작하세요. 반복 요청의 원인을 찾는 연습에서는 SDK와 앱의 재시도를 따로 봅니다.

요약을 한 번 요청했는데 오류가 늦게 돌아온다고 해 보세요. 공식 Python 문서는 일부 오류를 기본적으로 두 번 재시도하며 짧은 지수 백오프를 둔다고 설명합니다. 앱의 호출 코드가 한 줄이어도 SDK 내부에서 다시 전송할 수 있습니다.

문서의 기본 대상은 연결 오류, HTTP 408·409·429와 500 이상 오류입니다. 요청 본문을 다시 보낼 수 있어야 재시도합니다. 하지만 본문을 재전송할 수 있다는 사실이 외부 저장·발송까지 한 번만 처리된다는 보장은 아닙니다.

Rate limits 가이드는 앱 수준에서 다시 시도할 때 SDK의 재시도도 고려하라고 안내합니다. 이미 큐가 복구를 맡는다면 SDK까지 같은 일을 반복하는지 먼저 살피세요. max_retries는 모델에게 보내는 프롬프트나 Responses 본문의 생성 옵션이 아니라 SDK 클라이언트 설정입니다.

한 줄 정리: SDK의 추가 전송과 앱의 재실행을 나눠 관리하고, 재시도를 껐다는 사실만으로 중복 처리가 해결됐다고 판단하지 마세요.

• 타임아웃은 재시도와 무엇이 다른가요?
• 지수 백오프는 재시도 간격을 어떻게 바꾸나요?
• OpenAI API 요청 ID는 어디서 확인하나요?