AI 행동 원칙·인간 감독
AI가 무엇을 할지, 사람은 어떻게 통제할지
오픈AI는 10월 29일 Model Spec을 5대 가치 중심으로 개정했습니다. 지향하는 행동을 설명하는 문서이며 현재 모델이 모든 원칙을 완전히 반영한다는 의미는 아닙니다.
이 글에서 다룰 내용
Model Spec 개정 배경, 5대 가치, 맥락과 기억 활용, 문체 지침 변화, 실제 모델과의 차이
답을 얼마나 잘하느냐에서, 어떻게 행동하느냐로
AI가 글을 써주는 일을 넘어 도구를 사용하고 여러 단계의 작업을 맡게 되면 질문도 달라집니다. “답이 맞을까?”뿐 아니라 “어디까지 알아서 해도 될까?”, “내 선택을 대신하고 있지는 않을까?”도 중요해지죠.
오픈AI는 10월29일 공개한 Model Spec 개정판에서 모델의 행동을 설명하는 원칙과 예제를 다섯 가지 핵심 가치로 묶었습니다. 개별 지침을 따로 읽는 데서 나아가 어떤 가치를 중심으로 AI의 행동을 이해할지 보여주는 구성입니다.
Model Spec은 모델이 지향하는 행동을 설명하는 공개 문서입니다. 챗GPT의 새 기능이나 요금제 발표가 아니며 문서 자체도 현행 생산 모델이 이 기준을 아직 완전히 반영하지 않는다고 밝힙니다.
다섯 가지 가치가 말하는 좋은 AI의 조건
첫째는 인간의 의도에 충실함입니다. 사용자의 문장을 기계적으로 따르는 데 그치지 않고 목적과 상황을 고려하되 지시의 권한 체계와 승인된 자율성 범위 안에서 움직인다는 뜻입니다.
둘째는 피해 최소화입니다. 요청을 수행하는 과정에서 생길 수 있는 위험과 영향을 고려하는 가치입니다. 사용자가 원한다는 이유만으로 다른 안전 기준까지 사라지는 것은 아닙니다.
셋째는 정직과 투명성입니다. 사실과 증거뿐 아니라 불확실성, 자신의 능력, 실제로 한 행동도 진실하게 설명해야 한다는 의미입니다. 자신 있게 말하는 것보다 무엇을 알고 무엇을 모르는지 정확하게 드러내는 태도에 가깝습니다.
넷째는 인간의 판단권과 주도권 지원입니다. 사용자가 정보를 살펴보고 자신의 관점을 만들며 선택하고 행동하도록 돕는 것이 핵심입니다. 숨은 조종으로 사용자의 판단을 대신하는 방향과는 구별됩니다.
다섯째는 배려입니다. 대화 상대만이 아니라 작업의 영향을 받는 사람도 고려한다는 뜻입니다. 결과물이 누구에게 전달되고 어떤 영향을 줄지까지 살피는 가치로 읽을 수 있습니다.
이 다섯 가지는 따로 떨어진 구호가 아닙니다. 개정판은 개인의 요청과 사회 전체의 이익, 당장의 명시적 지시와 불확실한 장기 목표 사이에 긴장이 생길 수 있다는 점도 다룹니다.
AI 에이전트의 자율성과 사람의 통제는 함께 갑니다
문서는 자율성을 허용하되 사람의 통제를 돕는다는 방향을 제시합니다. 문서에는 인간의 감독과 수정을 지원하고 정지나 교체에 협력하며 승인된 범위 안에서 행동한다는 원칙이 담겨 있습니다.
AI 에이전트가 여러 단계를 이어서 처리할수록 최종 답변만큼 중간 행동도 중요해집니다. 무엇을 바꾸었는지 어떤 부작용이 생길 수 있는지 통제하고 알리는 원칙도 이런 맥락에서 이해할 수 있습니다.
다만 행동 기준을 문서에 적었다고 해서 실제 실행이 언제나 보장되는 것은 아닙니다. 사람의 통제를 지향한다는 설명과 모든 상황에서 통제가 완벽하게 작동한다는 주장은 다릅니다.
맞춤형 AI는 말투보다 맥락을 다루는 방식이 중요합니다
개정판은 문체와 성격, 상호작용의 많은 세부를 일부러 고정하지 않고 사용자 선호가 그 빈틈을 채운다고 설명합니다. 맞춤형 AI를 생각할 때 친근한 말투나 답변 길이뿐 아니라 사용자의 맥락을 어떻게 반영하는지도 함께 볼 수 있는 대목입니다.
맥락과 기억은 관련된 만큼 비례적으로 사용해야 합니다. 출처와 범위, 시의성, 사생활, 답변을 읽을 사람을 고려하고 사용자가 그 활용을 이해하고 통제할 수 있게 한다는 지침도 있습니다.
이는 모든 과거 대화를 저장한다거나 메모리가 기본 활성화된다는 제품 발표가 아닙니다. 사용자 선호를 반영한다는 설명 역시 특정 말투의 일괄 폐지나 모든 안전 규칙의 해제를 뜻하지 않습니다.
실무에서는 요청 범위와 승인 조건을 더 분명하게
여기서부터는 문서의 내용을 바탕으로 한 실무 해석입니다. 콘텐츠 제작자라면 AI에 초안을 맡길 때 “확인된 사실과 추정을 나눠 달라”, “근거가 부족한 부분은 불확실하다고 표시해 달라”고 요청할 수 있습니다.
작업을 맡길 때도 결과물의 조건과 행동의 허용 범위를 함께 정하는 방식을 생각해볼 수 있습니다. 예를 들어 초안 작성과 수정은 맡기되 외부 발행이나 삭제처럼 되돌리기 어려운 행동은 별도 승인 뒤에 하도록 조건을 명확히 하는 것입니다.
이런 예시는 새로운 제품 기능이 아니라 일반적인 활용 권고입니다. 요청에 승인 조건을 적는 것과 실제 도구의 권한이나 안전장치가 설정되는 것은 구별해야 합니다.
이번 개정을 읽는 핵심은 “이제 AI의 환각이나 위험이 해결됐다”가 아닙니다. 능력이 커지는 AI가 무엇을 기준으로 행동해야 하고 그 과정에서 사용자의 통제를 어떻게 지원해야 하는지 살펴볼 수 있는 문서입니다.
한 줄 요약: 10월29일 개정판 Model Spec은 더 유능한 AI의 행동 기준을 다섯 가지 가치로 묶고 그 중심에서 사람의 판단과 통제를 함께 살피게 하는 문서입니다.
참고 출처
오픈AI가 2026년 10월 29일 공개한 개정판을 기준으로 정리했습니다. 발표의 제목·날짜는 공식 RSS에서, 상세 원칙은 날짜가 고정된 공식 문서에서 확인했습니다. 발표 페이지 직접 요청은 403이었으며 문서와 공식 RSS는 200으로 확인했습니다.
감자나라 AI 강의보기 5,000 
