AI 허위정보 대응
OpenAI가 차단한 러시아발 AI 영향공작의 구조
OpenAI가 러시아발 계정 클러스터를 차단했습니다. IBI의 복제 학술 콘텐츠와 AI 생성 홍보 게시물이 어떻게 결합됐는지 살펴봅니다.
이 글에서 다룰 내용
IBI의 권위 위장 수법, ChatGPT 활용 범위, 실제 영향, 검증 포인트
OpenAI가 포착한 새로운 정보전
OpenAI는 러시아에서 시작됐을 가능성이 매우 높은 ChatGPT 계정 클러스터를 차단했다고 2026년 8월 25일 밝혔습니다. 주목할 점은 이번 활동이 단순한 스팸 생산을 넘어, 그럴듯한 연구기관의 외형을 갖춘 AI 영향공작이었다는 사실입니다.
이 과정에서 등장한 이름이 International Burke Institute, 줄여서 IBI입니다. IBI는 이스라엘에 기반을 둔 전문가 공동체라고 소개했지만, OpenAI 조사에서는 운영자의 러시아 출신을 감추려는 정황과 복제·오인용된 학술 콘텐츠가 확인됐습니다.
이 글에서 다룰 내용
IBI가 신뢰를 꾸민 방식, 생성형 AI가 사용된 지점, 러시아 정보전의 변화, 이용자가 확인해야 할 신호, AI 거버넌스의 과제
가짜 싱크탱크는 어떻게 신뢰를 만들었나
허위정보는 내용만 그럴듯하다고 널리 퍼지지 않습니다. 사람들이 믿을 만하다고 느끼는 이름과 형식, 반복적으로 인용할 수 있는 출처가 함께 필요합니다.
IBI는 바로 이 지점을 공략했습니다. OpenAI가 2025년 9월부터 2026년 5월 사이 게시된 표본 36건을 검토한 결과, 34건이 인터넷의 다른 글을 복제한 것으로 나타났고 일부는 저자까지 잘못 표시됐습니다.
일반 이용자가 검색 결과나 소셜미디어 게시물만 보고 해당 기관의 실체를 확인하기는 쉽지 않습니다. 낯선 기관이라도 로고와 홈페이지, 분석 보고서가 갖춰져 있으면 무심코 신뢰할 수 있기 때문입니다.
기관의 외형 자체를 증거처럼 활용한 것이 이번 수법의 중요한 특징입니다. 허위 주장을 직접 외치는 대신, 먼저 인용 가능한 출처를 만든 뒤 그 출처를 여러 채널에서 되풀이하는 방식입니다.
생성형 AI는 어디에 활용됐나
OpenAI의 조치는 생성형 AI가 정보전의 모든 과정을 자동으로 수행했다는 의미가 아닙니다. 공식 조사에서 ChatGPT의 주된 역할은 IBI 웹사이트 글을 홍보하는 소셜미디어 게시물과 댓글을 만드는 것이었으며, IBI 사이트의 기사 자체는 OpenAI 모델로 생성되지 않았습니다.
운영자들은 러시아어로 지시해 주로 영어 게시물을 만들고, Substack·Telegram·X·Facebook·LinkedIn에 올렸습니다. 러시아 출신임을 드러낼 언어적 단서를 숨기라고 요청했고, 러시아에서는 OpenAI 모델 접근이 허용되지 않아 VPN을 사용했습니다.
일부 운영자는 독일어 Telegram 게시물을 생성했고, 다른 운영자는 독일·미국·프랑스·폴란드·튀르키예를 겨냥한 여러 Telegram 채널의 로고를 만들었습니다. 다만 이것이 각 국가에서 실제로 큰 영향력을 확보했다는 뜻은 아닙니다.
OpenAI는 일반적인 소셜 게시물의 조회 수와 IBI 공식 계정 구독자 수가 낮았다고 평가했습니다. Telegram 채널은 대체로 1만~2만 명의 구독자를 모았지만, 전체 영향은 Brookings Breakout Scale의 Category Three 하단으로 평가됐습니다.
러시아 정보전은 무엇이 달라졌나
OpenAI가 이번 사건에서 특히 주목한 부분은 IBI가 만든 이른바 ‘주권 지수’입니다. 이 지수는 러시아를 유리하게 평가하고 서방 국가를 비판하는 서사를 뒷받침하는 장치로 활용됐습니다.
특히 이번 사례는 가짜 권위를 먼저 만든 뒤 그 권위에서 나온 분석처럼 허위정보를 유통하는 구조를 보여줍니다. 노골적인 선전보다 정상적인 정책 토론이나 국제 문제 분석처럼 보이게 만드는 방식입니다.
OpenAI는 러시아 연계 영향공작 가운데 이처럼 정교한 외형을 구축한 사례를 자사가 차단한 것은 처음이라고 설명했습니다. 다만 IBI와 이스라엘의 일부 실제 인물, 러시아 운영자 사이의 관계는 OpenAI도 확정하지 못했다고 밝혔습니다.
이용자가 확인해야 할 위험 신호
처음 보는 연구기관의 콘텐츠를 접했다면 기관 이름보다 활동 이력을 먼저 살펴보는 것이 좋습니다. 설립 시점, 실제 주소, 연구진 경력, 이전 보고서, 외부 학술기관의 인용 여부를 확인하면 됩니다.
작성자의 사진과 약력이 지나치게 일반적이거나 다른 사이트에서 동일한 표현이 발견되는지도 살펴봐야 합니다. 보고서에 인용된 자료가 실제로 존재하는지, 링크가 원래 주장을 뒷받침하는지도 중요합니다.
문장이 자연스럽다는 이유만으로 사람이 직접 조사한 글이라고 판단해서는 안 됩니다. 생성형 AI 보안의 핵심은 문체 판별이 아니라 출처와 유통 경로의 검증에 있습니다.
여러 계정이 짧은 시간 안에 비슷한 문장과 링크를 반복한다면 조직적 확산 가능성도 의심해 볼 수 있습니다. 공유하기 전에 기관명과 핵심 문장을 별도로 검색하는 작은 습관이 도움이 됩니다.
차단만으로 끝낼 수 없는 이유
OpenAI가 악용 계정을 탐지하고 차단한 것은 의미 있는 대응입니다. 하지만 한 기업의 서비스에서 계정을 막더라도 다른 AI 모델이나 플랫폼으로 이동할 가능성은 남아 있습니다.
따라서 AI 기업은 비정상적인 계정 행동, 반복되는 콘텐츠 생성 패턴, 외부 사이트와의 연계 신호를 함께 분석해야 합니다. 플랫폼 간 위협 정보를 공유하되 이용자의 정상적인 창작과 표현을 과도하게 제한하지 않는 기준도 필요합니다.
정부와 언론, 연구기관 역시 가짜 싱크탱크와 위장 매체의 실체를 빠르게 확인할 수 있는 체계를 마련해야 합니다. 투명한 공개와 독립적인 검증이 함께 작동해야 차단 조치의 신뢰도도 높아집니다.
이것이 AI 거버넌스가 기술 규제를 넘어 정보 생태계 전체의 문제로 다뤄져야 하는 이유입니다.
결국 중요한 것은 출처입니다
IBI 사례가 보여주는 가장 큰 교훈은 AI가 거짓말을 새로 발명했다는 데 있지 않습니다. 기존의 러시아 정보전 수법에 생성형 AI의 속도와 확장성이 더해졌다는 점이 핵심입니다.
앞으로는 잘 쓰인 글보다 누가, 어떤 근거로, 어떤 경로를 통해 말하고 있는지를 확인해야 합니다. 익숙하지 않은 기관의 보고서라면 한 번 더 검색하고 원문과 인용 자료를 교차 검증하는 습관이 필요합니다.
OpenAI의 차단은 중요한 출발점이지만 완전한 해결책은 아닙니다. 기술 기업의 탐지와 투명성, 플랫폼의 대응, 이용자의 검증 습관이 함께 움직여야 AI 영향공작의 효과를 줄일 수 있습니다.
한 줄 요약: 생성형 AI 시대의 허위정보를 막는 가장 강력한 방어선은 그럴듯한 문장이 아니라 출처와 유통 경로를 확인하는 습관입니다.
