배치 처리(Batch Processing)란? AI 요청을 한꺼번에 처리하는 방법
배치 처리는 즉시 응답이 필요 없는 여러 AI 요청을 한 번에 제출하고 비동기 방식으로 처리한 뒤 결과를 받는 대량 처리 방식입니다.
배치 처리는 즉시 응답이 필요 없는 여러 AI 요청을 한 번에 제출하고 비동기 방식으로 처리한 뒤 결과를 받는 대량 처리 방식입니다.
도구 호출은 AI 모델이 필요한 외부 기능을 선택하고 입력값을 만들어 애플리케이션이 실행하도록 연결하는 방식입니다.
API 키는 AI API를 호출하는 앱이나 스크립트가 자신을 식별하고 요청 권한을 확인받기 위해 사용하는 긴 문자열 형태의 인증 정보입니다.
AI 워터마크는 생성형 AI가 만든 이미지, 영상, 음성, 텍스트 등에 식별 신호를 넣어 나중에 AI 생성 여부를 확인할 수 있게 돕는 표시 기술입니다.
휴먼 인 더 루프는 AI 자동화 과정 중간에 사람이 검토, 수정, 승인, 중단할 수 있는 단계를 넣어 위험한 실수를 줄이는 운영 방식입니다.
그라운딩은 AI가 답변을 만들 때 검증 가능한 외부 자료, 검색 결과, 문서 같은 근거 정보에 연결해 답변을 특정 출처와 맥락에 묶는 방법입니다.
데이터 라벨링은 이미지, 문장, 음성, 영상 같은 원자료에 AI가 배울 수 있는 정답이나 의미 정보를 붙이는 데이터 준비 과정입니다.
시스템 프롬프트는 AI가 사용자 질문에 답하기 전에 먼저 따라야 하는 상위 지시문으로, 역할과 말투, 형식, 안전 경계를 정합니다.
Temperature는 AI가 답변을 생성할 때 얼마나 안정적으로 또는 다양하게 다음 토큰을 고를지 조절하는 생성 설정값입니다.
프롬프트 인젝션은 AI가 사용자나 외부 자료 속 지시를 잘못 따라 원래 의도와 다른 답변이나 행동을 하게 만드는 공격입니다.