RANSAC이란? AI에서 이상치에 덜 흔들리며 모델을 맞추는 방법

TL;DR

RANSAC은 무작위로 뽑은 작은 표본에 모델을 맞추고, 그 모델에 동의하는 데이터가 얼마나 많은지 반복해서 확인하는 추정 방법입니다. 이상치가 섞인 자료에서 일관된 관계를 찾고 선택한 합의 집합으로 최종 모델을 다시 맞춥니다. 잔차 임계값·표본 수·반복 한도가 결과를 바꾸며, 제외된 데이터가 곧 잘못된 데이터라는 뜻은 아닙니다.

핵심 3줄 요약

• 핵심 1
  작은 표본으로 후보를 만듭니다. 전체 데이터를 처음부터 한꺼번에 맞추지 않고 서로 다른 부분 표본에서 모델을 시험합니다.
• 핵심 2
  합의하는 데이터를 찾습니다. 정한 오차 기준 안에 들어오는 인라이어를 모아 후보 모델을 비교합니다.
• 핵심 3
  설정과 제외 이유를 검토합니다. 높은 합의 비율이나 반복 종료만으로 모델의 정확성과 데이터 품질을 확정하지 않습니다.

이 글에서 다룰 내용

RANSAC을 한 문장으로 정의하면 무엇인가요?

RANSAC(Random Sample Consensus)은 무작위 부분 표본으로 만든 모델 후보를 전체 데이터의 합의 정도로 비교해, 이상치에 덜 민감하게 모델 파라미터를 추정하는 알고리즘입니다.

합의는 사람들이 투표한다는 뜻이 아닙니다. 후보 모델이 예측한 값과 관측값의 차이가 정한 기준 안에 들어오면 그 데이터가 모델에 동의한다고 봅니다. 이렇게 모인 표본을 합의 집합이라고 부릅니다.

모델에 충분히 맞는 표본은 인라이어, 기준 밖의 표본은 아웃라이어로 구분합니다. 인라이어에도 작은 측정 잡음이 있을 수 있습니다. 잡음이 전혀 없는 점만 골라야 한다는 의미는 아닙니다.

한 줄 정리: RANSAC은 일부 점으로 가설을 세운 뒤 나머지 점들이 얼마나 지지하는지 확인하고, 잘 맞는 집합으로 모델을 다시 추정합니다.

쉬운 예시로 이해해 볼까요?

감자나라ai님이 센서 입력값과 실제 측정값의 관계를 직선으로 나타낸다고 가정해 보겠습니다. 대부분의 점은 한 직선 주변에 모여 있지만 장비의 일시적인 오류 때문에 일부 점이 멀리 떨어져 있습니다. 이 예시는 작동 원리를 설명하기 위한 가정입니다.

모든 점의 제곱 오차를 한꺼번에 줄이면 멀리 떨어진 점이 직선을 크게 끌어당길 수 있습니다. RANSAC은 작은 표본으로 임시 직선을 만들고 전체 점 가운데 그 직선과 오차가 작은 점을 셉니다.

다른 표본에서도 같은 과정을 반복합니다. 엉뚱한 점으로 만든 직선은 지지하는 점이 적고, 일관된 관계를 잘 잡은 직선은 더 큰 합의 집합을 얻을 수 있습니다. 마지막에는 선택된 집합의 점들을 함께 사용해 직선을 다시 맞춥니다.

원래 데이터 행을 자동으로 지우는 과정은 아닙니다. 모델 적합에 사용할 집합과 검토할 집합을 나누는 것입니다. 제외된 점이 실제 고장 기록인지, 다른 정상 운전 모드인지 판단하려면 원본을 확인해야 합니다.

쉬운 예시: 몇 개의 점으로 그은 선을 후보로 내고, 그 선 주변에 충분한 점이 모이는지 살펴보는 과정이라고 이해하면 쉽습니다.

왜 AI에서 RANSAC이 중요한가요?

일부 큰 오류가 모델을 흔드는 상황을 다룹니다

실제 데이터에는 작은 잡음과 함께 잘못 연결된 이미지 특징점이나 크게 어긋난 센서값이 섞입니다. scikit-learn의 공식 예제는 이런 자료에서 일반 선형 회귀와 RANSAC의 적합 결과가 어떻게 달라지는지 보여 줍니다. 예제의 개선 폭을 다른 데이터의 성능으로 일반화해서는 안 됩니다.

모델과 맞지 않는 표본을 함께 확인합니다

최종 예측값뿐 아니라 어떤 학습 표본이 합의 집합에 들어갔는지도 읽습니다. 이 정보는 수집 오류나 다른 패턴을 조사하는 단서입니다. 제외 비율만 낮추는 것보다 제외된 사례의 공통점을 찾는 편이 모델 가정을 점검하는 데 도움이 됩니다.

기하 추정에도 같은 아이디어를 씁니다

RANSAC은 신경망 구조나 특정 회귀식 하나의 이름이 아닙니다. OpenCV는 두 이미지의 대응점에서 평면 사이의 변환을 찾을 때 RANSAC을 사용하는 예제를 제공합니다. 무엇을 모델로 맞추는지에 따라 최소 표본 수와 오차 계산도 달라집니다.

RANSAC은 어떤 순서로 작동하나요?

부분 표본을 뽑고 유효성을 확인합니다

전체 자료에서 작은 표본을 무작위로 선택합니다. 그 표본만으로 원하는 모델을 계산할 수 있어야 합니다. 같은 점이 반복되거나 모델을 결정하기 어려운 배치라면 유효성 검사로 건너뛰도록 구현할 수 있습니다.

후보 모델을 맞추고 전체 잔차를 계산합니다

뽑은 표본으로 임시 모델을 적합한 다음 전체 데이터의 예측 오차를 구합니다. scikit-learn의 기본 절대 오차 손실에서는 실제값과 예측값 차이의 절댓값을 임계값과 비교합니다. 기준과 같은 값도 인라이어에 포함합니다.

합의 집합이 더 좋은 후보를 보관합니다

scikit-learn은 인라이어 수가 더 많은 후보를 우선합니다. 수가 같으면 기본 추정기의 점수로 후보를 비교합니다. 후보를 여러 번 만든다고 모델들의 예측을 모두 평균하는 것은 아닙니다. 가장 좋은 합의 집합을 선택하는 과정입니다.

반복을 멈추고 선택된 집합으로 다시 맞춥니다

반복 한도나 정해 둔 종료 조건에 닿으면 선택한 인라이어 전체로 최종 모델을 적합합니다. 작은 표본으로 만든 임시 모델과 이 최종 모델은 구분합니다. 학습이 끝난 뒤 새 입력을 예측할 때는 최종 모델을 사용합니다.

임계값과 주요 설정은 무엇을 뜻하나요?

residual_threshold는 허용 오차의 경계입니다

임계값이 너무 작으면 정상적인 잡음까지 제외하고, 너무 크면 크게 어긋난 점도 합의 집합에 넣을 수 있습니다. scikit-learn은 값을 지정하지 않으면 목표값 y의 중앙값 절대 편차인 MAD를 사용합니다. 이는 초기 모델 잔차에서 구한 MAD와 다릅니다.

손실을 loss="squared_error" 로 바꾸면 제곱 오차와 임계값을 비교합니다. 절대 오차에서 쓰던 숫자를 같은 의미라고 생각해 그대로 옮기면 안 됩니다. 사용자 정의 손실도 표본별 반환값이 무엇인지 먼저 확인합니다.

min_samples는 후보 하나를 만들 표본 수입니다

모델을 결정하는 데 필요한 수보다 적으면 유효한 후보를 만들기 어렵습니다. scikit-learn의 기본 선형 회귀에서는 특징 수에 하나를 더한 수를 기본값으로 사용합니다. 다른 추정기를 넣는다면 그 모델에 맞는 값을 지정합니다.

표본 수를 크게 잡는다고 항상 안전해지는 것은 아닙니다. 한 번 뽑은 묶음 전체에 아웃라이어가 없을 가능성이 낮아질 수 있기 때문입니다. 모델을 추정할 최소 조건과 표본 추출의 성공 가능성을 함께 봅니다.

max_trials와 stop_probability는 종료를 조절합니다

max_trials 는 무작위 표본 선택의 최대 반복 횟수입니다. stop_probability 는 이상치 없는 표본 묶음을 적어도 한 번 뽑을 목표 확률을 뜻하며 추정한 인라이어 비율 등을 이용해 필요한 반복 수를 판단합니다. 모델이 정답일 확률이나 예측 정확도가 아닙니다.

실제 반복 수는 n_trials_ 로 확인합니다. 반복을 많이 해도 잘못된 모델 가정이나 임계값까지 해결되지는 않습니다. random_state 를 기록하면 같은 조건에서 결과를 비교하기 쉽지만 여러 시드에서의 안정성도 따로 살펴봅니다.

핵심 인사이트: 합의 집합의 크기, 예측 오차, 반복 종료는 서로 다른 정보입니다. 셋 중 하나만 좋아졌다고 모델 전체가 좋아졌다고 결론 내리지 않습니다.

RANSAC과 헷갈리는 용어는 무엇이 다른가요?

회귀와 RANSAC의 차이

회귀는 입력으로 수치를 예측하는 작업입니다. RANSAC은 이상치가 섞인 자료에서 모델을 추정하는 방법이며 회귀에도 사용합니다. 기본 선형 모델을 감싸서 쓸 수 있지만 모든 회귀가 RANSAC을 쓰는 것은 아닙니다.

아이솔레이션 포레스트와의 차이

아이솔레이션 포레스트는 무작위 분할에서 고립되기 쉬운 정도로 이상 점수를 계산합니다. RANSAC은 정해 둔 모델과 관측값이 얼마나 맞는지 봅니다. 회귀용 RANSACRegressor는 학습에 입력 X와 목표값 y를 사용하므로 라벨 없는 이상치 탐지기와 같은 입력 계약이 아닙니다.

앙상블과의 차이

랜덤 포레스트처럼 여러 모델의 예측을 결합하는 방식과 구분합니다. RANSAC은 여러 후보를 시험하지만 보통 선택한 합의 집합으로 하나의 최종 모델을 맞춥니다. 무작위 표본을 반복해서 쓴다는 공통점만으로 배깅이나 부스팅과 같다고 볼 수 없습니다.

인라이어와 실제 정상 데이터의 차이

인라이어는 현재 모델과 임계값에 잘 맞는다는 계산상의 구분입니다. 잘못된 패턴이 큰 집합을 이루면 그 집합이 선택될 수도 있습니다. 드물지만 중요한 정상 사례가 아웃라이어가 될 수도 있으므로 모델의 판정과 업무상의 정상 여부를 따로 기록합니다.

실전에서는 어디에 쓰이나요?

이미지의 대응점에서 변환을 추정합니다

두 이미지에서 비슷한 특징점을 연결하면 잘못 짝지어진 점이 섞일 수 있습니다. OpenCV의 findHomography 예제는 RANSAC으로 변환을 구하고 반환된 마스크로 인라이어 대응점을 표시합니다. 매칭 결과의 개수뿐 아니라 위치 배치와 변환 결과도 확인합니다.

센서 관계를 보정하는 후보로 검토합니다

입력과 측정값 사이에 대체로 일관된 관계가 있고 일부 큰 측정 오류가 섞인 경우에 검토합니다. 온도 변화나 장비 교체로 관계 자체가 달라졌다면 제외만으로 해결하기 어렵습니다. 이런 상황에서는 운전 조건별로 모델을 나눌지 먼저 판단합니다.

강건한 회귀의 비교 기준을 만듭니다

같은 훈련·평가 분할에서 일반 회귀와 결과를 비교합니다. 전체 평가 오차, 확인된 정상 구간의 오차, 제외된 표본의 구성을 함께 남깁니다. 합의 집합 안에서만 오차가 작다고 실제 사용할 전체 범위에서도 더 좋은 모델이라고 말할 수는 없습니다.

RANSAC을 적용할 때 어떤 순서로 확인하나요?

1. 모델과 오차의 의미부터 정합니다

직선 관계를 맞출지 이미지 좌표 변환을 맞출지 정합니다. 회귀 오차와 영상의 재투영 오차는 같은 숫자로 비교할 수 없습니다. 목표값의 단위, 손실 정의, 표본 하나의 의미를 문서에 남깁니다.

2. 데이터 분리와 표본 조건을 확인합니다

평가용 자료를 먼저 분리하고 훈련 자료에서 후보 설정을 정합니다. 시간이나 장비별로 묶인 데이터라면 평가 분할에도 그 구조를 반영합니다. 결측값·중복 좌표·모델을 결정할 수 없는 표본 조합도 점검합니다.

3. 임계값과 반복 조건을 비교합니다

측정 오차의 규모를 근거로 임계값 후보를 정하고, 최소 표본 수와 반복 예산을 함께 비교합니다. 제외 비율을 원하는 숫자에 맞추려고 경계를 바꾸지 않습니다. 설정별 예측값과 인라이어 구성, 계산 시간을 기록합니다.

4. 마스크와 최종 예측을 따로 보관합니다

scikit-learn의 inlier_mask_ 는 학습 자료에서 선택된 합의 집합을 나타내고 estimator_ 는 그 집합으로 다시 맞춘 모델입니다. 원본 행 식별자와 마스크를 함께 저장합니다. 새 데이터의 이상 여부까지 자동 반환하는 마스크로 오해하지 않습니다.

사용할 때 무엇을 주의해야 하나요?

모델 형태가 맞는지 먼저 확인합니다. 실제 관계가 곡선인데 직선만 허용하면 올바른 점들도 많이 제외될 수 있습니다. 아웃라이어가 많다는 결과를 보기 전에 입력과 목표값의 그림, 구간별 잔차, 수집 조건을 살펴봅니다.

여러 정상 패턴을 하나로 밀어 넣지 않습니다. 서로 다른 운전 상태가 각각 타당한 관계를 만들면 가장 큰 집합 하나만 선택하는 방식이 목적에 맞지 않을 수 있습니다. 적은 집단의 오차와 제외율도 확인해 중요한 사례를 놓치지 않습니다.

라이브러리마다 지원 범위를 확인합니다. RANSAC이라는 아이디어는 넓게 쓰이지만 scikit-learn의 RANSACRegressor는 회귀 추정기를 지원합니다. 이미지 변환용 함수나 다른 구현에 같은 설정명과 기본값이 있을 것이라고 가정하지 않습니다.

유효한 합의 집합을 못 찾는 경우도 남깁니다. 표본이나 모델 유효성 검사 때문에 후보를 계속 건너뛰면 적합이 실패할 수 있습니다. 경고·예외·건너뛴 횟수를 기록하고 데이터 배치와 모델 조건을 확인합니다. 반복 한도를 늘리는 것만이 해결책은 아닙니다.

주의: 아웃라이어라는 이유로 원본을 삭제하지 마세요. 큰 오차는 잘못된 기록, 다른 정상 상태, 실제 중요한 사건 중 어느 것일 수도 있습니다.

자주 묻는 질문

Q1. RANSAC은 이상치를 자동으로 삭제하나요?

모델 적합에 사용할 인라이어 집합을 고르는 것이 기본 역할입니다. 원본 파일의 행을 자동 삭제하는 뜻은 아닙니다. 제외된 표본과 이유를 보존하고 데이터 오류 여부는 별도로 확인합니다.

Q2. 인라이어 비율이 높으면 정확한 모델인가요?

그것만으로는 판단할 수 없습니다. 임계값을 크게 잡으면 잘 맞지 않는 표본도 들어옵니다. 같은 평가 자료에서 예측 오차와 잔차 분포를 비교하고 중요한 소수 집단이 빠지지 않았는지 봅니다.

Q3. 반복 횟수를 늘리면 항상 해결되나요?

좋은 부분 표본을 찾을 기회는 늘지만 계산 비용도 커집니다. 모델 형태나 오차 기준이 틀렸다면 반복을 늘려도 목적에 맞는 관계를 찾지 못할 수 있습니다. 유효성 검사에서 건너뛴 후보도 확인합니다.

Q4. stop_probability는 예측의 정답 확률인가요?

아닙니다. 이상치 없는 부분 표본을 뽑는 데 필요한 반복을 정하는 확률 설정입니다. 개별 예측의 신뢰구간이나 정답 확률을 반환하는 기능으로 읽으면 안 됩니다.

Q5. 새 입력에도 인라이어 마스크를 바로 쓰나요?

학습 때 저장한 마스크는 당시 입력 행에 대응합니다. 새 입력은 최종 모델로 예측하며, 새 표본의 잔차를 판단하려면 실제 관측값과 별도의 판정 절차가 필요합니다. 기존 마스크를 새 행 순서에 붙이지 않습니다.

출처

마무리

RANSAC은 작은 무작위 표본으로 만든 가설을 전체 데이터와 비교하고, 잘 맞는 합의 집합으로 모델을 다시 추정합니다. 큰 오류가 섞인 자료에서 관계를 찾는 데 유용하지만 인라이어와 아웃라이어는 현재 모델의 가정에 따른 구분입니다.

처음에는 모델 형태, 잔차 임계값, 최소 표본 수를 함께 보세요. 최종 예측과 선택된 표본을 따로 저장하고 학습 밖의 자료에서 결과를 비교하면, 단순히 점을 많이 제외한 모델과 실제로 더 쓸 만한 모델을 구분하기 쉬워집니다.