AI 모델 선택 가이드
GPT-5.6 Sol·Terra·Luna가 Amazon Bedrock에 들어왔습니다
AWS 공식 발표 기준으로 세 모델이 정식 제공됩니다. Sol은 깊은 추론, Terra는 균형, Luna는 대량·저지연 처리에 맞춰 선택할 수 있습니다.
이 글에서 다룰 내용
세 모델의 선택 기준, bedrock-mantle 연결, 프롬프트 캐싱, Codex 운영 포인트
OpenAI GPT-5.6 3종은 무엇이 다를까
OpenAI GPT-5.6을 Amazon Bedrock에서 사용하려고 보면 가장 먼저 Sol, Terra, Luna라는 세 가지 선택지가 눈에 들어옵니다. 이름만 보면 차이를 짐작하기 어렵지만, 실제 선택 기준은 비교적 단순합니다.
GPT-5.6 Sol은 정확도와 복잡한 추론이 중요한 작업에 우선 고려할 모델입니다. 여러 조건을 한꺼번에 분석하거나, 긴 문서를 검토하거나, Codex 기반의 코드 작성과 디버깅을 수행할 때 잘 어울립니다.
GPT-5.6 Terra는 성능과 처리 비용 사이의 균형을 원하는 경우에 적합합니다. 블로그 초안 작성, 고객 문의 분류, 사내 문서 요약처럼 품질은 중요하지만 최고 수준의 추론이 매번 필요하지 않은 작업에 활용하기 좋습니다.
GPT-5.6 Luna는 응답 속도와 처리량을 우선할 때 선택할 수 있습니다. 짧은 텍스트 분류, 제목 생성, 태그 추천, 정형화된 답변처럼 반복 호출이 많은 서비스에 유리합니다.
이 글에서 다룰 내용
세 모델의 선택 기준, Amazon Bedrock 연결 순서, bedrock-mantle 활용법, 프롬프트 캐싱 설정, Codex 작업에 맞는 모델 조합
작업별로 Sol·Terra·Luna 고르는 법
모델을 고를 때는 “어떤 모델이 가장 좋은가”보다 “이 작업에 어느 정도의 추론이 필요한가”를 먼저 물어야 합니다. 무조건 가장 강력한 모델을 사용하면 품질은 높아질 수 있지만, 응답 시간과 비용까지 최적화되지는 않습니다.
코드 저장소를 분석하고 여러 파일을 수정해야 한다면 GPT-5.6 Sol이 우선입니다. 특히 Codex를 이용한 기능 구현, 테스트 실패 원인 추적, 대규모 리팩터링처럼 앞뒤 맥락을 오래 유지해야 하는 작업에 적합합니다.
콘텐츠 작성이나 일반적인 업무 자동화에는 GPT-5.6 Terra부터 검토하는 편이 실용적입니다. 결과가 부족한 일부 요청만 Sol로 올리는 방식으로 구성하면 품질과 비용을 함께 관리할 수 있습니다.
대량 분류나 짧은 문장 생성은 GPT-5.6 Luna에 맡길 수 있습니다. Luna가 만든 결과 중 신뢰도가 낮거나 조건이 복잡한 항목만 Terra 또는 Sol로 다시 보내는 단계형 구조도 효과적입니다.
정리하면 Sol은 깊이, Terra는 균형, Luna는 속도에 초점을 맞춘 선택입니다. 실제 운영에서는 한 모델만 고정하기보다 작업 난이도에 따라 자동 분기하는 방식이 더 효율적입니다.
Amazon Bedrock에서 사용하는 순서
AWS 공식 글 기준으로 세 모델은 Amazon Bedrock에서 정식 제공됩니다. 모두 텍스트·이미지 입력과 텍스트 출력, 272K 토큰 컨텍스트, OpenAI Responses API를 지원합니다. 이 수치는 Amazon Bedrock 제공 사양 기준입니다.
기본 URL은
https://bedrock-mantle.{region}.api.aws
이며 Responses API 경로는
/openai/v1/responses
입니다. 기존 OpenAI SDK 애플리케이션은 기본 URL을 이 엔드포인트로 바꾸고 Amazon Bedrock 모델 ID를 지정한 뒤, Amazon Bedrock API 키 또는 AWS 자격증명으로 인증합니다.
Python에서는 OpenAI SDK 2.45.0 이상을 사용합니다. 예를 들어 Terra 모델 ID는
openai.gpt-5.6-terra
이며, Sol과 Luna도 AWS 콘솔·문서에 표시된 정확한 ID를 사용해야 합니다.
권한은 AWS 공식 예시의
AmazonBedrockMantleInferenceAccess
정책처럼
bedrock-mantle
추론 호출에 필요한 범위로 제한합니다. 모델 호출은 IAM 정책 아래에서 처리되고 CloudTrail에 기록되며, 지정한 리전 안에서 처리하는 방식도 지원합니다.
AWS는 프롬프트와 응답을 모델 학습에 사용하지 않고 모델 제공자와 공유하지 않는다고 설명합니다. 다만 분류기가 표시한 트래픽은 자동 오용 탐지를 위해 AWS에 최대 30일 보관될 수 있으므로 실제 운영 전 데이터 보존 모드와 내부 정책을 함께 확인해야 합니다.
bedrock-mantle은 언제 활용할까
bedrock-mantle
은 별도 제3자 호환 계층이 아니라 AWS가 GPT-5.6 호출에 제공하는 공식 엔드포인트입니다. OpenAI Python·TypeScript SDK의 Responses API 형식을 유지하면서 기본 URL, 모델 ID, 인증만 Amazon Bedrock 방식으로 바꿀 수 있습니다.
세 모델은 도구 호출과
none
부터
max
까지의 추론 강도를 지원합니다. 복잡한 Codex 작업은 Sol, 일반 프로덕션 업무는 Terra, 대량·저지연 처리는 Luna처럼 배치하되 실제 평가 결과와 비용을 기준으로 조정해야 합니다.
AWS 공식 글은 Codex CLI, Visual Studio Code·JetBrains 확장, ChatGPT 데스크톱 앱의 모델 추론을 Amazon Bedrock으로 라우팅하는 구성도 안내합니다. 운영 환경에서는 지원 리전, 토큰 할당량, HTTP 429 재시도 정책을 함께 검증해야 합니다.
프롬프트 캐싱으로 비용과 지연 줄이기
프롬프트 캐싱은 매번 반복되는 긴 입력을 다시 처리하는 부담을 줄이는 기능입니다. 시스템 지침, 코딩 규칙, 제품 설명서, 공통 문서처럼 여러 요청에서 동일하게 사용되는 내용을 캐시 대상으로 두면 효과가 큽니다.
특히 Codex 작업에서 저장소 규칙이나 긴 기술 문서를 계속 전달한다면 캐싱 이점이 커집니다. 반대로 요청할 때마다 내용이 달라지는 짧은 프롬프트는 캐시 관리 비용에 비해 절감 효과가 작을 수 있습니다.
AWS 공식 글에 따르면 캐시 읽기는 미캐시 입력 토큰 대비 90% 할인, 캐시 쓰기는 미캐시 입력 요금의 1.25배입니다. 캐시 콘텐츠는 최소 30분 재사용할 수 있고, 명시적 캐시 중단점은 최소 1,024토큰 접두사와 요청당 최대 4개 체크포인트 조건이 있습니다.
캐시 적용 전후에는
cached_tokens
와
cache_write_tokens
, 응답 시간, 총비용을 함께 비교해야 합니다. 단순히 캐시가 활성화됐다는 사실보다 실제 캐시 적중률과 총비용이 개선됐는지를 확인하는 것이 중요합니다.
어떤 모델부터 시작하면 좋을까
품질을 먼저 검증해야 한다면 GPT-5.6 Sol로 기준 결과를 만든 뒤 Terra와 Luna를 비교해 보세요. 같은 평가 문항을 세 모델에 전달하고 정확도, 응답 시간, 비용을 기록하면 감으로 선택하는 실수를 줄일 수 있습니다.
일반적인 운영 환경에서는 Terra를 기본값으로 두고, 고난도 요청은 Sol로 올리며, 반복적인 경량 작업은 Luna로 보내는 구성이 무난합니다. Amazon Bedrock의 사용량 지표와 애플리케이션 로그를 함께 보면 모델 분기 기준도 계속 다듬을 수 있습니다.
결국 중요한 것은 가장 강한 모델을 고르는 일이 아니라 작업마다 알맞은 모델을 배치하는 일입니다. OpenAI GPT-5.6 3종과 bedrock-mantle, 프롬프트 캐싱을 함께 활용하면 품질과 속도, 비용을 현실적으로 조정할 수 있습니다.
한 줄 요약: 깊은 추론은 Sol, 균형 잡힌 실무는 Terra, 빠른 대량 처리는 Luna로 시작하세요.
