앤트로픽 보고서, 클로드 무단 증류 약 2억 건 포착: AI 모델 보안의 경고

이 글에서 다룰 내용

AI 모델 증류의 의미, 앤트로픽이 공개한 약 2억 건의 규모, 알리바바·문샷AI·딥시크 관련 정황, 증류 공격이 AI 보안에 미치는 영향

약 2억 건의 클로드 대화가 표적이 됐다

앤트로픽이 공개한 위협 인텔리전스 보고서가 AI 업계에 큰 파장을 일으키고 있습니다. 회사 측은 중국계 AI 연구소들과 연관된 복수 캠페인에서 클로드와의 대화 약 2억 건이 무단 증류에 활용된 정황을 포착했다고 밝혔습니다.

보고서에 따르면 공격자들은 정상적인 개인 사용자가 아니었습니다. 다수의 가짜 계정과 해외 중개망을 동원해 접속 제한과 탐지 시스템을 우회하고, 대량의 질문을 클로드에 반복적으로 전달한 것으로 조사됐습니다.

목표도 일반적인 답변 수집에 그치지 않았습니다. 에이전트형 작업 수행, 도구 사용, 코딩, 데이터 분석, 논리적 추론처럼 클로드의 핵심 경쟁력으로 꼽히는 능력이 집중적인 수집 대상이 됐습니다.

다만 이번 수치와 기업별 귀속 판단은 앤트로픽의 자체 조사 결과입니다. 관련 기업들의 입장과 독립적인 검증 결과를 함께 확인할 필요가 있다는 점도 기억해야 합니다.

AI 모델 증류와 증류 공격은 무엇이 다를까

AI 모델 증류는 크고 성능이 높은 교사 모델의 출력을 활용해 더 작고 효율적인 학생 모델을 훈련하는 기술입니다. 비용을 줄이면서도 상당한 성능을 유지할 수 있어 업계에서 널리 사용되는 정상적인 개발 방식입니다.

문제는 허가 여부입니다. 자사가 보유한 모델이나 정식 계약을 맺은 모델을 활용하면 일반적인 기술 개발이지만, 경쟁사의 서비스를 속이거나 이용 약관을 위반해 출력을 대량 수집하면 이야기가 달라집니다.

이처럼 타사 모델의 능력을 몰래 복제하려는 행위를 증류 공격이라고 부릅니다. 단순히 답변 문장을 모으는 것이 아니라 문제 해결 과정과 평가 기준, 도구 호출 방식까지 훈련 데이터로 바꾸려 한다는 점에서 위험성이 큽니다.

특히 수천 개의 계정을 분산 운영하면 각각은 평범한 이용자처럼 보일 수 있습니다. 따라서 기존의 로그인 차단이나 요청 횟수 제한만으로는 조직적인 AI 모델 증류를 찾아내기 어렵습니다.

알리바바·문샷AI·딥시크는 어떻게 지목됐나

앤트로픽은 알리바바와 관련된 캠페인에서 2026년 5월부터 7월까지 1억5,100만 건이 넘는 대화를 확인했다고 주장했습니다. 하루 요청량이 약 300만 건까지 치솟았으며, 3,500여 개 계정에서 동일한 추출용 프롬프트가 발견됐다는 설명입니다.

앤트로픽은 이 활동이 알리바바의 큐원 계열 모델을 위한 학습 자료 생성과 연관됐다고 판단했습니다. 전체 약 2억 건 가운데 상당 부분을 차지하는 만큼, 회사가 지금까지 관찰한 사례 중 가장 큰 규모의 조직적 증류 캠페인으로 평가했습니다.

문샷AI 관련 활동은 다른 방식으로 이뤄졌다고 합니다. 자체 AI 서비스인 키미에 입력된 일부 사용자 요청을 고지 없이 클로드로 전달하고, 클로드가 만든 답변을 키미의 결과처럼 보여준 정황이 있다는 것입니다.

문샷AI와 연관된 것으로 분류된 대화는 5월부터 7월까지 2,300만 건을 넘었습니다. 특정 열흘 동안에는 5,380개의 부정 계정을 통해 약 30만 건의 요청이 전달됐으며, 고성능 클로드 오퍼스 모델이 주로 표적이 됐다고 앤트로픽은 설명했습니다.

딥시크와 관련해서는 2026년 7월의 14일 동안 1,200만 건이 넘는 활동이 관찰됐습니다. 이용자에게 알리지 않고 요청을 클로드로 중계한 뒤 그 결과를 확보하는 수법이 문샷AI 사례와 유사했다는 분석입니다.

이번 사건이 AI 보안에 던진 경고

첫 번째 위험은 지식재산과 개발 비용의 무단 이전입니다. 최첨단 모델을 만들기 위해 투입한 연구와 컴퓨팅 자원이 대량의 API 호출만으로 경쟁 모델에 흡수된다면, 기업 간 공정한 경쟁 자체가 흔들릴 수 있습니다.

두 번째는 개인정보와 기밀 유출 가능성입니다. 사용자가 한 AI 서비스에 입력한 질문이 동의 없이 다른 회사의 모델로 전달되면 업무 문서, 인증 정보, 내부 데이터가 제3자 시스템을 거칠 수 있습니다.

세 번째는 안전장치의 분리입니다. 클로드의 유용한 능력만 추출하고 유해 요청 차단이나 정책 준수 기능을 충분히 학습하지 않으면, 원본보다 통제하기 어려운 모델이 만들어질 가능성이 있습니다.

따라서 AI 보안은 서버를 해킹으로부터 지키는 문제에만 머물러서는 안 됩니다. 비정상적인 대화 패턴, 반복 프롬프트, 계정 간 행동 유사성, 프록시 기반 우회 접속을 함께 분석하는 모델 중심 보안 체계가 필요합니다.

AI 기업들도 계정 생성 단계의 검증을 강화하고, 대규모 자동 요청을 조기에 식별해야 합니다. 동시에 클라우드 사업자와 모델 개발사 사이에서 공격 지표를 공유해야 여러 플랫폼을 옮겨 다니는 증류 공격을 막을 수 있습니다.

성능 경쟁만큼 보호 기술이 중요해졌다

이번 앤트로픽 보고서는 AI 시대의 핵심 자산이 모델 파일에만 존재하지 않는다는 사실을 보여줍니다. 서비스가 생성하는 답변과 추론 패턴, 도구 사용 방식까지 모두 복제 대상이 될 수 있습니다.

앞으로의 경쟁은 누가 더 뛰어난 모델을 먼저 만드느냐에 그치지 않을 것입니다. 누가 자신의 모델과 사용자의 데이터를 안전하게 지키고, 의심스러운 AI 모델 증류를 빠르게 찾아내느냐도 중요한 평가 기준이 됩니다.

무단 증류를 둘러싼 기술적·법적 기준은 아직 완전히 정리되지 않았습니다. 그럼에도 가짜 계정과 우회망을 이용해 경쟁 모델의 능력을 대량 추출하는 행위가 AI 생태계의 신뢰를 훼손한다는 점은 분명합니다.

약 2억 건의 클로드 대화를 둘러싼 이번 논란은 모델 성능 경쟁이 곧 AI 보안 경쟁이라는 사실을 보여준 사건입니다.

참고 출처

• 앤트로픽 2026년 9월 위협 인텔리전스 보고서 — 2026년 9월 10일 공개
• TechCrunch의 증류 캠페인 보도 — 약 2억 건과 주요 캠페인 수치 보강
• The Hacker News의 증류 공격 분석 — 7개 연구소와 대응 조치 보강
• Google News RSS에서 확인하기 — TechCrunch 출처명·제목·최근 발행일 확인