머신 언러닝(Machine Unlearning)이란? AI가 학습 데이터의 영향을 지우는 기술

TL;DR

머신 언러닝(Machine Unlearning)은 이미 학습된 머신러닝 모델에서 지정한 학습 데이터의 영향을 선택적으로 제거하는 기술입니다. 저장소에서 원본 파일을 지우는 것만으로는 이미 학습된 모델의 파라미터에 남은 영향까지 사라졌다고 볼 수 없습니다. 가장 분명한 기준은 해당 데이터를 뺀 채 모델을 처음부터 다시 학습한 결과지만 대규모 모델에서는 비용이 커서 더 빠른 근사 언러닝도 연구됩니다. 중요한 점은 한두 개 답변만 보고 성공을 선언하지 않고 망각 정도·남겨야 할 성능·개인정보 누출 위험을 함께 평가하는 것입니다.

핵심 3줄 요약

• 핵심 1
  머신 언러닝은 파일 삭제가 아니라 모델에 남은 학습 데이터의 영향을 다룹니다. 삭제할 데이터 묶음을 정하고 그 영향이 줄어든 새 모델 상태를 만듭니다.
• 핵심 2
  처음부터 다시 학습하는 방법과 빠르게 근사하는 방법이 있습니다. 근사 방식은 비용을 줄일 수 있지만 정말 잊었는지 별도 검증이 필요합니다.
• 핵심 3
  망각과 모델 성능을 함께 봐야 합니다. 지정한 데이터는 잊으면서 유지할 데이터에서의 정확도와 유용성은 크게 훼손하지 않아야 합니다.

이 글에서 다룰 내용

머신 언러닝을 한 문장으로 정의하면 무엇인가요?

머신 언러닝은 이미 학습된 머신러닝 모델에서 특정 학습 데이터가 만든 영향을 선택적으로 제거해, 그 데이터를 제외하고 학습한 모델에 가까운 상태를 만드는 기술입니다.

NIST 용어집은 머신 언러닝을 학습을 마친 모델에서 특정 학습 데이터 포인트의 영향을 선택적으로 제거하는 기술로 정의합니다. 개인정보 기록을 모델에서 제거하라는 요청이나, 파운데이션 모델에서 원하지 않는 지식·기능의 영향을 줄이는 상황을 예로 듭니다.

Google Research는 제거 대상으로 지정한 학습 사례 묶음을 forget set, 계속 유지할 사례를 retain set으로 설명합니다. 이상적인 언러닝 결과는 forget set을 처음부터 빼고 다시 학습한 모델과 구분하기 어려워야 합니다. 현실에서는 전체 재학습 비용이 커서 기존 모델을 출발점으로 삼아 파라미터를 조정하는 근사 방법도 사용합니다.

여기서 잊는다는 말은 사람처럼 기억 한 조각을 꺼내 버린다는 뜻이 아닙니다. 모델은 수많은 학습 사례의 패턴을 파라미터에 분산해 담습니다. 그래서 특정 문장을 더는 그대로 출력하지 않는다는 사실만으로 그 데이터의 영향이 완전히 사라졌다고 단정할 수 없습니다.

한 줄 정리: 머신 언러닝은 원본 데이터를 삭제하는 절차를 넘어, 그 데이터가 이미 학습된 모델에 남긴 영향까지 줄이거나 제거하는 작업입니다.

쉬운 예시로 이해해 볼까요?

감자나라ai님이 농산물 사진으로 품질 등급을 분류하는 모델을 운영한다고 가정해 보겠습니다. 나중에 확인해 보니 특정 농가에서 받은 사진 500장이 잘못된 라벨로 학습 데이터에 들어갔습니다. 저장소에서 사진 500장을 지워도 이미 학습된 모델의 판단 기준은 자동으로 되돌아가지 않습니다.

가장 확실한 방법은 잘못된 사진 500장을 제외한 데이터로 모델을 처음부터 다시 학습하는 것입니다. 이 결과는 비교 기준이 되지만 데이터와 모델이 크면 시간과 연산 비용이 많이 듭니다.

머신 언러닝은 기존 모델과 제거 대상 사진, 남겨야 할 데이터를 바탕으로 새 모델 상태를 만듭니다. 목표는 잘못된 사진이 만든 영향을 줄이면서 정상 사진에 대한 분류 성능은 유지하는 것입니다.

검증도 두 방향으로 나뉩니다. 제거 대상 사진이나 그와 매우 비슷한 입력에서 남은 흔적을 점검하고 동시에 정상 검증 데이터의 정확도와 오류 유형을 비교합니다. 제거는 잘됐지만 전체 분류 성능이 크게 무너졌다면 운영에 쓸 만한 언러닝이라고 보기 어렵습니다.

쉬운 예시: 원본 사진 삭제는 잘못된 교재를 창고에서 버리는 일이고 머신 언러닝은 이미 그 교재로 배운 모델의 판단 습관까지 고치는 일에 가깝습니다.

머신 언러닝은 어떤 순서로 진행하나요?

1. 제거할 데이터를 정확히 식별합니다

삭제 요청이나 오류 신고가 들어오면 어떤 학습 사례가 대상인지 찾습니다. 사용자 ID, 데이터 버전, 수집 시점, 파일 해시, 라벨과 학습 실행 기록이 연결되어 있어야 합니다. 대상이 불분명하면 무엇을 잊었는지 검증할 수도 없습니다.

2. forget set과 retain set을 나눕니다

forget set은 모델에서 영향을 제거할 데이터 묶음입니다. retain set은 계속 학습 효과를 유지해야 할 데이터입니다. 두 묶음이 겹치거나 파생 데이터가 빠지지 않도록 데이터 리니지와 전처리 기록을 확인합니다.

3. 기준 모델과 평가 항목을 정합니다

가능하다면 제거 대상 없이 처음부터 재학습한 모델을 기준으로 둡니다. 망각 정도, 정상 데이터 성능, 개인정보 누출 위험, 처리 시간과 반복 요청 처리 능력을 어떻게 잴지도 먼저 정합니다.

4. 전체 재학습이나 언러닝 방법을 적용합니다

데이터와 비용이 감당할 수 있다면 전체 재학습이 가장 직접적인 기준입니다. 재학습이 지나치게 비싸면 기존 모델의 파라미터를 조정하는 근사 언러닝을 검토합니다. 방법마다 속도, 망각 품질과 성능 보존의 균형이 다릅니다.

5. 망각과 유용성을 함께 평가합니다

제거 대상에 대한 암기와 지식 흔적, 개인정보 누출 가능성을 살핍니다. 동시에 retain set과 별도 검증 데이터에서 정확도, 안전성, 편향과 업무 지표가 유지되는지 확인합니다. Google Research의 MUSE 연구는 언어 모델 언러닝을 평가할 때 문자 그대로의 암기, 지식 암기, 개인정보 누출, 일반 유용성, 확장성과 반복 요청 지속성을 함께 보자고 제안합니다.

6. 새 모델로 버전을 올리고 기록을 남깁니다

검증을 통과한 모델은 새 버전으로 등록합니다. 어떤 데이터와 모델 버전이 대상이었는지, 어떤 방법과 코드가 쓰였는지, 평가 결과와 승인자는 누구인지 남깁니다. 기존 체크포인트, 복제본과 캐시의 처리 범위도 별도로 관리해야 합니다.

실전 팁: 삭제 요청 ID, forget set 해시, 원본 모델 버전, 언러닝 방법, 평가 결과, 배포 모델 버전을 한 기록으로 묶으면 나중에 처리 범위와 결과를 다시 확인하기 쉽습니다.

전체 재학습과 근사 언러닝은 무엇이 다른가요?

전체 재학습

제거할 데이터를 학습 데이터셋에서 뺀 뒤 모델을 처음부터 다시 학습합니다. 목표 상태를 가장 직접적으로 만들 수 있어 언러닝 방법을 비교할 때 기준으로 쓰입니다. 하지만 대규모 모델은 학습 시간, GPU 비용, 데이터 준비와 검증 부담이 큽니다.

근사 언러닝

기존 모델에서 시작해 특정 데이터의 영향을 빠르게 줄이도록 파라미터를 조정합니다. 전체 재학습보다 효율적일 수 있지만 결과가 기준 모델과 같다는 보장은 없습니다. 제거 대상의 흔적이 남거나, 관련 없는 능력까지 손상되거나, 반복 삭제 요청이 쌓이면서 성능이 흔들릴 수 있습니다.

2025년 공개된 MUSE 연구는 7B 파라미터 언어 모델에서 여러 언러닝 알고리즘을 여섯 가지 기준으로 평가했습니다. 연구진은 조사한 방법들이 암기 억제, 개인정보 누출, 일반 유용성, 큰 삭제 요청과 연속 요청을 모두 만족하는 데 한계가 있었다고 보고했습니다.

2026년 Google Research의 감사 연구도 간단한 출력 비교 하나로 언러닝 성공을 판단하기 어렵다고 설명합니다. 재학습 기준 모델과 원래 모델, 언러닝 모델의 출력 분포를 함께 비교하는 통계 검사를 제안했으며 실험한 단순 구현에서는 여러 근사 방식이 대상 정보를 충분히 잊지 못했습니다.

핵심 인사이트: 빠른 언러닝은 처리 시간만으로 평가하지 않습니다. 무엇을 얼마나 잊었는지와 남겨야 할 능력을 얼마나 보존했는지를 같은 실험에서 확인해야 합니다.

헷갈리는 용어와 무엇이 다른가요?

원본 데이터 삭제와 머신 언러닝

원본 데이터 삭제는 파일, 데이터베이스 행이나 저장 객체를 없애는 작업입니다. 머신 언러닝은 그 데이터가 이미 학습된 모델에 남긴 영향을 다룹니다. Google Research는 저장소에서 데이터를 지우는 것만으로 학습된 모델 같은 파생 산출물의 영향까지 사라지지는 않는다고 설명합니다.

옵트아웃과 머신 언러닝

옵트아웃은 앞으로 특정 데이터를 학습이나 서비스 개선에 사용하지 않도록 선택하는 통제 방식입니다. 머신 언러닝은 이미 학습에 사용된 데이터의 영향을 제거하는 기술 문제입니다. 서비스의 옵트아웃 설정이나 대화 삭제가 과거 모델 학습분에 어떤 영향을 주는지는 해당 제품의 정책과 처리 범위를 따로 확인해야 합니다.

전체 재학습과 머신 언러닝

전체 재학습은 제거 대상 없이 모델을 처음부터 다시 만드는 방법입니다. 머신 언러닝 연구에서는 이 모델을 이상적인 비교 기준으로 자주 사용합니다. 근사 언러닝은 기존 모델을 고쳐 비용을 줄이려는 접근이지만 검증 부담이 더 큽니다.

파인튜닝·모델 편집과 머신 언러닝

파인튜닝은 새 데이터와 목적에 맞게 모델 능력이나 행동을 조정하는 넓은 학습 방식입니다. 모델 편집은 특정 사실이나 행동을 바꾸는 데 초점을 둘 수 있습니다. 머신 언러닝은 지정한 학습 데이터가 모델에 미친 영향을 제거하고 그 성공을 검증하는 목표가 중심입니다. 단순히 반대 내용으로 다시 학습하거나 답변을 막았다고 해서 언러닝이 끝났다고 볼 수 없습니다.

차등 개인정보보호와 머신 언러닝

차등 개인정보보호는 학습이나 통계 처리 단계에서 개별 데이터 하나의 영향이 지나치게 커지지 않도록 수학적 보장을 설계합니다. 머신 언러닝은 나중에 지정된 forget set의 영향을 제거하는 데 초점을 둡니다. Google Research는 차등 개인정보보호가 모든 개별 학습 사례의 영향에 한계를 두는 더 강한 사전 목표이고 언러닝은 지정한 대상의 영향을 사후에 지우는 문제라고 구분합니다.

비교 정리: 데이터 삭제는 저장본, 옵트아웃은 향후 사용 선택, 파인튜닝은 모델 적응, 차등 개인정보보호는 개별 데이터 영향 제한, 머신 언러닝은 이미 학습된 모델에서 지정한 데이터의 영향 제거를 다룹니다.

AI 제품과 개발에서는 어디에서 만나나요?

개인정보 삭제 요청을 처리할 때

사용자가 자신의 기록 삭제를 요청했다면 원본 저장소뿐 아니라 학습 데이터셋과 파생 모델에 미친 영향의 처리 범위를 검토해야 합니다. 머신 언러닝은 이 가운데 모델에 남은 영향을 다루는 기술적 선택지입니다. 실제 법적 의무 충족 여부는 적용 법률, 데이터 흐름과 시스템 설계에 따라 별도 판단이 필요합니다.

잘못된 라벨과 오염 데이터를 발견했을 때

학습 뒤에 잘못된 라벨, 중복, 유해 데이터나 조작된 사례를 발견할 수 있습니다. Google Research는 부정확하거나 오래된 정보, 유해하거나 조작된 데이터, 이상치를 제거하는 상황도 언러닝의 활용 예로 듭니다.

저작권이나 라이선스 범위를 다시 점검할 때

특정 자료가 학습 데이터에 들어간 경로와 사용 권한을 재검토할 수 있습니다. 제거 요청이 확정되면 어떤 원본과 파생 데이터를 없애고 어떤 모델 버전을 다시 만들지 추적해야 합니다. 머신 언러닝은 기술적 제거 수단일 수 있지만 권리 판단이나 계약 검토를 대신하지는 않습니다.

파운데이션 모델의 원하지 않는 지식을 줄일 때

NIST 정의는 원하지 않는 기능이나 지식을 파운데이션 모델에서 제거하는 상황도 언급합니다. 다만 개념 하나가 수많은 데이터와 파라미터에 퍼져 있을 수 있어 특정 샘플 삭제보다 범위를 정하고 검증하기가 더 어렵습니다.

연속적인 삭제 요청을 운영할 때

한 번의 실험이 아니라 여러 요청을 순서대로 처리해야 하는 서비스가 있습니다. 요청이 누적될수록 모델 유용성이 떨어지거나 이전에 지운 영향이 다시 드러나지 않는지 확인해야 합니다. MUSE 연구는 연속 요청을 안정적으로 처리하는 능력을 별도 평가 항목으로 봅니다.

AI 사용자와 운영자는 무엇을 확인해야 하나요?

첫째, 삭제의 대상을 구분합니다. 대화 기록 삭제, 계정 데이터 삭제, 향후 학습 옵트아웃과 이미 학습된 모델의 영향 제거는 같은 작업이 아닙니다.

둘째, 서비스 설명의 범위를 읽습니다. 삭제가 원본 저장소, 로그, 백업, 학습 데이터셋, 이미 배포된 모델 가운데 어디까지 적용되는지 확인합니다. 설명이 없다면 모델이 과거 학습 영향을 제거했다고 추정하지 않습니다.

셋째, 개발팀은 데이터 리니지를 확보합니다. 어떤 학습 실행에 어떤 데이터 버전이 들어갔는지 모르면 forget set을 만들기 어렵습니다. 체크포인트와 평가 데이터, 파생 파일의 연결도 함께 추적합니다.

넷째, 성공 기준을 요청 전에 정합니다. 제거 대상에 대한 출력 한두 개가 바뀌는지만 보지 말고 암기, 지식, 개인정보 누출, 정상 성능과 안전성 지표를 함께 둡니다.

다섯째, 새 모델 버전과 이전 복제본을 관리합니다. 언러닝한 모델을 배포해도 오래된 체크포인트나 캐시가 다시 사용되면 처리 결과가 되돌아갈 수 있습니다. 접근 권한과 보존 정책을 함께 정리합니다.

여섯째, 사용자에게 과도한 보장을 하지 않습니다. 근사 언러닝 결과는 방법과 모델에 따라 다릅니다. 처리 방식, 검증 범위와 남은 한계를 구체적으로 설명하는 편이 안전합니다.

실전 점검: 무엇을 지울지, 어떤 모델 버전에 들어갔는지, 전체 재학습과 근사 방식 중 무엇을 쓸지, 망각과 유용성을 어떻게 검증할지, 이전 복제본을 어떻게 처리할지 순서대로 확인하세요.

사용할 때 무엇을 주의해야 하나요?

첫째, 답변이 달라졌다고 완전히 잊었다고 단정하지 않습니다. 프롬프트 표현을 바꾸거나 공격적 질의를 쓰면 흔적이 다시 나타날 수 있습니다. 여러 입력과 통계 검사를 사용해야 합니다.

둘째, 특정 문장을 출력하지 않도록 막는 것과 학습 영향 제거를 구분합니다. 필터나 시스템 프롬프트는 출력 경로를 제한할 수 있지만 모델 파라미터에 남은 영향을 없앴다는 증거는 아닙니다.

셋째, forget set만 평가하지 않습니다. 제거 대상 점수만 낮추려고 모델을 크게 훼손하면 정상 업무에서도 쓸 수 없습니다. retain set과 별도 검증 데이터의 품질을 함께 측정합니다.

넷째, 개인정보 누출 위험을 따로 봅니다. 겉으로 정답을 말하지 않아도 공격이나 반복 질의로 학습 포함 여부나 민감 정보가 추론될 수 있습니다. MUSE 연구도 개인정보 누출을 독립된 평가 축으로 둡니다.

다섯째, 파생 산출물을 빠뜨리지 않습니다. 전처리 데이터, 임베딩, 체크포인트, 모델 복제본, 평가 캐시와 백업은 서로 다른 보존 정책을 가질 수 있습니다. 모델 언러닝 하나가 이 모든 저장본을 자동으로 삭제하지는 않습니다.

여섯째, 근사 방식의 한계를 기록합니다. 사용한 알고리즘과 구현, 대상 범위, 비교 기준, 실패 사례, 성능 변화와 반복 요청 결과를 남깁니다. 같은 머신 언러닝이라는 이름 아래에서도 보장 수준은 다를 수 있습니다.

일곱째, 법률 준수와 기술 성공을 같은 말로 쓰지 않습니다. 언러닝은 데이터 권리 요청을 지원할 수 있는 기술이지만 적용 법률의 삭제 의무를 자동으로 충족했다는 증명은 아닙니다. 법무·개인정보·보안 담당자의 검토가 따로 필요합니다.

주의: 머신 언러닝은 모델에 삭제 명령 한 줄을 보내는 기능이 아닙니다. 대상 데이터 식별, 모델 수정, 다면 평가, 새 버전 배포와 이전 산출물 관리가 이어지는 운영 절차입니다.

자주 묻는 질문

Q1. 챗GPT 대화를 삭제하면 머신 언러닝이 되나요?

대화 삭제와 머신 언러닝은 같은 말이 아닙니다. 대화 삭제는 제품의 저장 기록 처리이고 머신 언러닝은 이미 학습된 모델에서 특정 데이터의 영향을 제거하는 기술입니다. 삭제와 학습 사용 중지의 적용 범위는 해당 제품의 최신 데이터 정책에서 확인해야 합니다.

Q2. 전체 재학습이 가장 좋은 머신 언러닝인가요?

제거 대상을 뺀 전체 재학습은 가장 분명한 기준 모델을 만들 수 있습니다. 하지만 대규모 모델에서는 비용과 시간이 커서 항상 실용적이지 않습니다. 근사 언러닝을 쓴다면 재학습 기준과의 차이, 망각 정도와 정상 성능을 함께 검증해야 합니다.

Q3. 특정 질문에 답하지 못하면 언러닝에 성공한 것인가요?

그 사실만으로는 부족합니다. 출력 필터나 프롬프트 설정 때문에 답을 피했을 수도 있습니다. 표현을 바꾼 질의, 암기 검사, 개인정보 누출 검사와 정상 데이터 성능 평가를 함께 해야 합니다.

Q4. 머신 언러닝과 차등 개인정보보호는 무엇이 더 좋은가요?

목표가 다릅니다. 차등 개인정보보호는 학습 단계에서 개별 데이터의 영향에 한계를 두는 사전 보호 방식이고 머신 언러닝은 나중에 지정한 데이터의 영향을 제거하는 방식입니다. 시스템 요구에 따라 함께 고려할 수 있습니다.

Q5. 일반 사용자도 이 용어를 알아야 하나요?

AI 서비스의 데이터 삭제와 학습 옵트아웃 설명을 읽을 때 유용합니다. 삭제 버튼이 원본 기록만 지우는지, 향후 학습 사용을 막는지, 이미 학습된 모델의 영향까지 처리하는지는 서로 다른 질문이라는 점을 구분할 수 있습니다.

출처

마무리

머신 언러닝은 이미 학습된 AI 모델에서 지정한 학습 데이터의 영향을 선택적으로 제거하는 기술입니다. 원본 파일 삭제나 향후 학습 옵트아웃과는 범위가 다르며 전체 재학습은 중요한 비교 기준이 됩니다. 근사 방법을 쓴다면 망각 정도, 개인정보 누출 위험과 남겨야 할 모델 성능을 함께 검증해야 합니다.

감자나라ai님이 AI 제품의 데이터 삭제 설명을 볼 때는 세 가지를 나눠 확인해 보세요. 저장된 원본 기록을 지우는지, 앞으로 학습에 쓰지 않는지, 이미 학습된 모델의 영향까지 처리하는지입니다. 이 구분을 알면 삭제와 학습 통제에 관한 설명을 훨씬 정확하게 읽을 수 있습니다.