헌법적 AI(Constitutional AI)란? AI가 원칙으로 답변을 고치는 방법
헌법적 AI는 명시한 원칙 목록을 기준으로 AI가 응답을 비평·수정하고 AI 피드백을 학습에 활용하는 정렬 접근입니다. RLHF·RLAIF·시스템 프롬프트·가드레일과의 차이, 실제 활용과 한계를 설명합니다.
헌법적 AI는 명시한 원칙 목록을 기준으로 AI가 응답을 비평·수정하고 AI 피드백을 학습에 활용하는 정렬 접근입니다. RLHF·RLAIF·시스템 프롬프트·가드레일과의 차이, 실제 활용과 한계를 설명합니다.