분위수 회귀(Quantile Regression)란? AI에서 평균 대신 조건별 예측 범위를 살피는 방법

TL;DR

분위수 회귀는 평균 예측값 하나 대신 입력이 주어졌을 때 결과가 놓일 위치를 분위수별로 추정하는 방법입니다. 낮은 분위수와 높은 분위수를 따로 학습하면 결과의 퍼짐이 조건에 따라 어떻게 달라지는지도 살필 수 있습니다. 다만 두 경계로 만든 범위가 새 데이터에서 원하는 비율을 덮는지는 별도로 검증해야 합니다. 모델의 형태와 데이터의 꼬리 부분도 함께 확인합니다.

핵심 3줄 요약

• 핵심 1
  평균이 아니라 위치를 맞춥니다. 같은 입력 조건에서도 중앙값, 낮은 값, 높은 값의 경향을 각각 추정합니다.
• 핵심 2
  핀볼 손실을 씁니다. 실제값을 낮게 예측한 오류와 높게 예측한 오류에 분위수별로 다른 비중을 둡니다.
• 핵심 3
  범위의 품질을 따로 확인합니다. 양끝 분위수를 학습했다고 원하는 실측 포함률이 자동 보장되지는 않습니다.

이 글에서 다룰 내용

분위수 회귀를 한 문장으로 정의하면 무엇인가요?

분위수 회귀는 입력 특징이 주어졌을 때 목표값의 조건부 분위수를 추정하는 회귀 방법입니다.

보통 회귀 모델은 조건이 같은 사례들의 평균에 가까운 값을 한 개 예측합니다. 분위수 회귀는 중앙값에 해당하는 0.5뿐 아니라 0.1이나 0.9처럼 아래쪽과 위쪽의 위치도 따로 학습합니다. 여기서 분위수는 전체 데이터에서 한 번 계산해 붙여 놓은 고정 숫자가 아닙니다. 새로운 입력값마다 조건에 맞는 예측값이 달라집니다.

예를 들어 입력이 배송 거리라면 짧은 거리와 긴 거리에서 예상 배송 시간의 중앙값이 다르고, 지연이 심한 쪽의 상단 값도 다를 수 있습니다. 이 차이를 평균선 하나에 억지로 눌러 담지 않고 조건별 경향으로 읽으려는 것이 핵심입니다.

한 줄 정리: 분위수 회귀는 평균 하나를 맞히는 대신 같은 조건의 결과 분포에서 특정 위치를 예측합니다.

쉬운 예시로 이해해 볼까요?

고객 상담을 마치는 데 걸리는 시간을 예측한다고 가정해 보겠습니다. 문의 종류와 글자 수가 같아도 어떤 상담은 빨리 끝나고, 자료 확인이 필요한 상담은 오래 걸립니다. 운영자는 전형적인 처리 시간뿐 아니라 늦어질 때 어느 정도까지 기다려야 하는지도 알고 싶습니다.

• 중앙값 예측: 비슷한 조건의 상담 가운데 절반 정도는 그 값 이하에서 끝나는 위치를 겨냥합니다.
• 상단 분위수 예측: 비슷한 조건의 상담 중 느린 편의 처리 시간을 따로 추정합니다.
• 하단 분위수 예측: 비교적 빨리 처리되는 상담의 경계를 살핍니다.

세 예측은 각각 다른 목표를 학습한 결과입니다. 상단 숫자를 모든 상담의 보장 마감 시각이라고 읽으면 안 됩니다. 새 상담의 종류가 달라지거나 긴 처리 사례가 부족하면 상단 추정이 흔들릴 수 있습니다. 숫자 자체보다 실제 새 상담이 그 경계 아래에 얼마나 들어왔는지 확인해야 합니다.

쉬운 예시: 평균 소요 시간 표 하나 대신, 보통일 때와 오래 걸릴 때의 별도 눈금을 만드는 셈입니다.

왜 AI에서 분위수 회귀가 중요한가요?

평균이 가리는 비대칭을 봅니다

처리 시간이나 비용처럼 큰 값이 드물게 나타나는 데이터에서는 평균과 중앙값이 달라집니다. 평균만 보면 실제로 자주 겪는 수준과 드물지만 부담이 큰 수준을 나눠 보기 어렵습니다. 분위수 회귀는 어느 쪽 결과에 관심이 있는지 목표 자체를 명시합니다.

평균이 틀렸다는 뜻은 아닙니다. 평균은 기대값을 묻는 질문에 알맞고, 분위수는 결과 분포의 특정 위치를 묻는 질문에 알맞습니다. 지표를 비교할 때도 무엇을 예측하도록 학습했는지 먼저 확인해야 합니다.

입력에 따라 달라지는 퍼짐을 살핍니다

일정한 폭의 오차 범위가 모든 입력에 맞지는 않습니다. 문의가 길어질수록 상담 시간의 변동 폭이 커진다면 낮은 분위수와 높은 분위수의 간격도 입력에 따라 넓어질 수 있습니다. scikit-learn의 예제는 분산이 일정하지 않은 자료에서 이런 차이를 시각화합니다.

두 경계를 따로 모델링하면 구간의 폭도 달라질 수 있지만, 훈련 결과가 항상 매끄러운 경계를 만들거나 구간 포함률을 보장하는 것은 아닙니다. 모델을 평가할 때 경계별 손실과 범위 안에 들어오는 실제 비율을 함께 확인합니다.

의사결정의 손실 방향을 나눕니다

예상보다 오래 걸리는 일이 특히 부담이라면 상단 분위수에 관심이 생깁니다. 반대로 너무 큰 값을 예측해 자원을 과하게 예약하는 것도 비용이라면 낮은 쪽 오류도 봐야 합니다. 핀볼 손실은 어느 쪽 오차를 더 무겁게 다룰지 분위수에 따라 달리 정합니다.

다만 특정 분위수가 곧 최적의 인력이나 예산이라는 뜻은 아닙니다. 실제 결정에는 운영 비용, 안전 여유, 품질 목표가 더해집니다. 회귀 출력과 실제 운영 기준을 같은 숫자로 혼동하지 마세요.

핵심 인사이트: 분위수는 같은 예측 문제를 평균 중심 질문에서 하단·중앙·상단의 서로 다른 질문으로 바꿉니다.

분위수 회귀는 어떻게 작동하나요?

먼저 예측할 분위수를 정합니다

scikit-learn의 QuantileRegressor는 quantile 값을 0보다 크고 1보다 작게 받습니다. 기본값 0.5는 중앙값을 목표로 합니다. 필요하다면 낮은 값과 높은 값에 별도 모델을 적합할 수 있습니다. 학습 데이터를 보기 전에 예측 목적과 평가 계획을 정해야 여러 분위수를 시험한 뒤 좋은 결과만 골라 보고하는 오류를 줄입니다.

statsmodels의 QuantReg.fit에서도 q가 대상 분위수를 뜻하며 0과 1 사이의 값을 받습니다. 이름이 비슷해도 라이브러리별 추정 절차와 규제 설정은 같지 않으므로 기본값과 학습 방식을 문서에서 따로 확인합니다.

핀볼 손실로 오차 방향을 구분합니다

잔차를 실제값에서 예측값을 뺀 것으로 두면 실제값이 예측값보다 클 때와 작을 때의 벌점 비중이 달라집니다. 높은 분위수를 목표로 하면 실제값보다 낮게 예측한 사례에 더 큰 비중을 둡니다. 낮은 분위수를 목표로 하면 반대 방향에 더 큰 비중을 둡니다. 이 비대칭 벌점을 평균 내어 줄이는 쪽으로 모델을 맞춥니다.

0.5 분위수에서는 양쪽 오류의 비중이 같습니다. scikit-learn 문서의 핀볼 손실은 이때 평균절대오차의 절반에 해당합니다. 따라서 평균제곱오차를 최소화하는 보통의 최소제곱 회귀와 목표가 다릅니다.

선형 가정과 규제 설정을 확인합니다

QuantileRegressor는 입력과 예측 분위수의 관계를 선형식으로 나타내며, scikit-learn 구현에서는 L1 규제의 강도를 alpha로 조절합니다. alpha는 분위수 자체가 아닙니다. 예시처럼 규제를 없앤 설정과 기본 규제를 둔 설정의 결과를 혼용해서 해석하면 안 됩니다.

선형 관계가 맞지 않으면 해당 모형만 고집할 이유가 없습니다. scikit-learn 문서는 핀볼 손실을 쓰는 다른 모델의 예로 분위수 그래디언트 부스팅도 안내합니다. 선택할 때는 복잡성보다 검증 데이터에서 실제로 필요한 분위수를 잘 예측하는지 살펴봅니다.

실전 팁: 같은 데이터를 쓰더라도 분위수와 모델 종류가 바뀌면 예측 목표와 오차의 해석이 달라집니다.

분위수 회귀와 헷갈리는 용어는 무엇이 다른가요?

평균 회귀와 분위수 회귀의 차이

최소제곱 기반 평균 회귀는 조건부 평균을 겨냥합니다. 분위수 회귀는 조건부 중앙값이나 선택한 분위수를 겨냥합니다. 평균과 중앙값이 비슷한 데이터라면 두 결과가 가까울 수 있으나, 꼬리가 길거나 비대칭인 자료에서는 차이가 생깁니다. 평균 회귀에서 쓰던 제곱오차만으로 분위수 모델을 평가하지 않습니다.

후버 회귀와 분위수 회귀의 차이

후버 회귀는 작은 오차에 제곱 손실을, 큰 오차에 선형 손실을 적용해 이상치의 영향을 줄이는 강건 회귀입니다. 분위수 회귀는 핀볼 손실의 비대칭을 이용해 결과 분포의 원하는 위치를 목표로 합니다. 둘 다 큰 오차에 덜 휘둘릴 수 있다는 공통점만으로 같은 목표값을 예측한다고 생각하면 안 됩니다.

분위수 변환과 분위수 회귀의 차이

분위수 변환은 입력 특징값을 학습 데이터의 순위에 따라 다시 배치하는 전처리입니다. 분위수 회귀는 입력 조건에 따른 목표값의 하단·중앙·상단 위치를 추정하는 예측 모델입니다. 두 작업은 같은 분위수라는 말을 쓰지만 바꾸는 대상과 결과가 다릅니다.

컨포멀 예측과 분위수 회귀의 차이

분위수 회귀로 하단과 상단의 후보 경계를 만들 수 있습니다. 그러나 이 경계를 둘렀다는 사실만으로 새 데이터의 목표 포함률이 보장되지는 않습니다. 컨포멀 예측은 별도 보정 데이터의 오차 순위를 이용해 조건을 만족할 때 주변적 포함률을 다루는 방법입니다. 예측 경계와 보정 절차를 구별해야 합니다.

비교 정리: 평균은 기대값, 분위수는 조건부 분포의 위치, 분위수 변환은 입력의 전처리, 컨포멀 예측은 보정에 관한 질문입니다.

실전에서는 어디에 쓰이나요?

처리 시간의 하단과 상단 추정

문의 접수나 작업 완료 시간을 예측할 때 보통 걸리는 시간과 오래 걸리는 시간을 따로 보여 줄 수 있습니다. 운영 화면에서 단일 예측값만 제시하는 것보다 가능한 변동을 드러내지만, 드문 유형의 문의와 새 업무 조건에서는 검증 자료가 부족할 수 있습니다.

수요와 자원 계획의 범위 점검

방문량이나 요청량의 낮은 쪽과 높은 쪽을 예측해 계획 후보를 세울 수 있습니다. 단, 상단 예측을 자동으로 확보해야 할 용량으로 해석하지 말고 예산과 장애 허용 수준을 따로 고려합니다. 시간 순서를 가진 데이터라면 훈련과 검증도 시간에 맞춰 분리합니다.

조건에 따른 변동성 확인

같은 변수의 값이 커질수록 상단 분위수가 중앙값보다 빠르게 늘어난다면 결과의 퍼짐이 조건에 따라 커질 수 있습니다. 그래프에서 여러 분위수 곡선을 함께 보되, 표본이 적은 구간이나 극단값 근처의 기울기는 과도하게 일반화하지 않습니다.

실전 팁: 비용이나 시간을 쓰는 결정에 앞서 원래 업무 단위로 예측값을 되돌려 확인합니다.

분위수 회귀를 적용할 때 어떤 순서로 확인하나요?

1. 예측값의 단위와 목표를 적습니다

예측 대상이 비용인지 시간인지 먼저 명시합니다. 낮은 값, 중앙값, 높은 값 가운데 어떤 질문에 답하려는지도 정합니다. 지표 이름을 쓰기 전에 해당 수치가 어떤 업무 결정을 돕는지 적어 두면 나중에 평균과 분위수를 섞어 발표하는 실수를 줄입니다.

2. 훈련과 검증을 분리합니다

입력 특징이나 전처리의 통계를 전체 데이터에서 미리 계산하면 검증 결과가 낙관적으로 바뀔 수 있습니다. 실제 배포에서 모를 정보는 입력에서 빼고, 시간 데이터라면 과거로 학습해 이후 기간으로 검사합니다. 희귀 사례가 검증에서 사라지지 않았는지도 살핍니다.

3. 선택한 분위수마다 따로 평가합니다

각 분위수의 예측과 실제값을 같은 행으로 맞춰 핀볼 손실을 확인합니다. 0.5만 잘 맞는다고 높은 분위수까지 맞는 것은 아닙니다. 평균절대오차와 제곱오차도 참고할 수 있으나 목표가 다른 모델을 비교할 때는 지표가 어떤 질문에 답하는지 밝혀야 합니다.

4. 경계로 만든 범위의 실제 포함률을 셉니다

양끝 분위수를 이용했다면 검증 목표값이 두 경계 사이에 들어온 비율을 계산합니다. 전체 비율뿐 아니라 주요 입력 구간별 비율과 범위 폭도 함께 봅니다. 한쪽 경계가 반대편을 넘어서는 교차가 없는지도 확인합니다. 새 데이터의 포함률은 훈련 결과만으로 단정하지 않습니다.

5. 모델을 바꿀 때 기준을 다시 비교합니다

특징을 추가하거나 규제 강도, 학습 기간, 모델 계열을 바꾸면 분위수 예측도 달라집니다. 이전 모델과 같은 검증 구간에서 핀볼 손실·실측 포함률·범위 폭을 비교하세요. 운영 중 자료의 종류가 바뀌면 정기적으로 다시 확인합니다.

한 줄 정리: 목표 분위수를 정하고 분리된 자료에서 손실과 범위 포함률을 각각 검사합니다.

사용할 때 무엇을 주의해야 하나요?

극단 분위수에는 자료가 적습니다. 상단이나 하단 끝에 가까운 분위수는 해당 영역의 표본이 적어 추정이 불안정할 수 있습니다. scikit-learn 예제도 극단 분위수가 소수 사례의 영향을 더 받는다고 설명합니다. 데이터를 늘리지 못한다면 확신하는 표현보다 검증 구간의 실제 오차를 보여 주는 편이 낫습니다.

조건부 보장과 전체 포함률을 혼동하지 않습니다. 실측값이 범위에 들어온 비율은 전체 평균으로 좋아 보이면서도 일부 입력 그룹에서 크게 낮을 수 있습니다. 관심 있는 하위 그룹에서 직접 확인하고, 별도 보정 절차 없이 새로운 모든 상황에 동일한 포함률을 약속하지 않습니다.

서로 따로 학습한 경계가 엇갈릴 수 있습니다. 낮은 분위수의 예측값이 높은 분위수보다 커지는 일이 생기면 범위로 바로 표시할 수 없습니다. 검증 자료에서 순서를 점검하고 원인과 모델 제약을 살피세요. 경계를 조용히 뒤집어 놓으면 원래의 예측 오류가 가려집니다.

라이브러리 설정을 그대로 옮기지 않습니다. scikit-learn의 quantile과 alpha, statsmodels의 q는 문서상의 역할을 확인해 구분합니다. 특히 alpha라는 글자는 모델마다 규제 강도 또는 분위수 수준을 뜻할 수 있습니다. 예제 숫자만 복사하지 말고 해당 API의 정의를 읽어야 합니다.

개인정보와 결정 책임을 분리합니다. 상담이나 고객 단위 데이터를 쓰면 개인을 알아볼 수 있는 항목을 최소화합니다. 예측된 상단 값은 특정 개인에 대한 확정적인 지연 판정이 아닙니다. 영향이 큰 결정은 자료 품질과 실제 오류를 사람도 검토해야 합니다.

주의: 선택한 분위수의 숫자와 새로운 데이터에서 관찰되는 실제 포함 비율은 같은 말이 아닙니다.

자주 묻는 질문

Q1. 분위수 회귀는 평균 대신 언제 쓰나요?

평균 비용만으로는 부족하고 보통 수준이나 큰 비용이 드문 편에서 어떻게 달라지는지 알고 싶을 때 사용합니다. 예측 목표가 평균이면 평균 회귀가 여전히 알맞습니다. 어떤 값을 의사결정에 쓸지 먼저 정합니다.

Q2. 0.5 분위수는 정확히 무엇을 겨냥하나요?

주어진 입력 조건에서 목표값의 중앙값을 겨냥합니다. scikit-learn의 QuantileRegressor 기본 분위수도 0.5입니다. 학습 표본의 단순 중앙값을 모든 입력에 동일하게 반환한다는 뜻은 아닙니다.

Q3. 0.1과 0.9를 학습하면 80% 예측 범위가 보장되나요?

두 경계는 가운데 80%에 대응하는 후보를 만듭니다. 그러나 모델 오차나 자료 변화가 있으면 실제 새 데이터가 그 안에 들어올 비율은 달라집니다. 검증 자료의 실측 포함률을 재고 필요하다면 별도 보정 방법을 검토하세요.

Q4. 핀볼 손실이 작으면 모든 분위수가 잘 맞나요?

아닙니다. 어떤 분위수와 어떤 검증 데이터에서 계산했는지에 따라 뜻이 달라집니다. 낮은 분위수와 높은 분위수를 각각 평가하고, 구간 경계가 필요한 경우 포함률과 폭도 따로 살펴야 합니다.

Q5. 후버 회귀와 분위수 회귀를 같은 모델로 볼 수 있나요?

둘 다 큰 오차에 대한 대응을 논의할 수 있으나 학습 목표가 다릅니다. 후버 회귀는 오차 크기에 따른 제곱·선형 손실의 전환이 핵심이고, 분위수 회귀는 어느 쪽 오차를 더 크게 다룰지를 목표 분위수로 정합니다.

Q6. 분위수 변환을 하면 분위수 회귀가 자동으로 되나요?

그렇지 않습니다. 분위수 변환은 입력 특징을 순위 기반으로 다시 배치하는 전처리이고, 분위수 회귀는 목표값의 조건부 분위수를 추정하는 모델입니다. 둘을 함께 쓸 수는 있지만 같은 연산은 아닙니다.

출처

마무리

분위수 회귀는 평균 수치 하나가 가리는 결과의 아래쪽·중앙·위쪽 경향을 입력 조건별로 읽는 방법입니다. 핀볼 손실을 바꾸어 서로 다른 위치를 학습하므로 같은 자료를 써도 모델이 답하려는 질문이 달라집니다.

처음 적용한다면 예측 단위와 분위수를 먼저 정하고, 검증 자료에서 각 분위수의 손실을 확인하세요. 두 경계로 범위를 만들었다면 실제값이 그 안에 들어오는 비율과 범위의 폭까지 보고 결정하는 편이 안전합니다.