인퍼런스(Inference)란? AI 모델이 답을 만들어 내는 실행 단계
인퍼런스는 학습이 끝난 AI 모델에 새 입력을 넣고 실제 답, 예측, 분류, 요약 같은 결과를 얻는 실행 단계입니다.
인퍼런스는 학습이 끝난 AI 모델에 새 입력을 넣고 실제 답, 예측, 분류, 요약 같은 결과를 얻는 실행 단계입니다.
PII는 이름, 이메일, 전화번호, 위치, 얼굴, 계정 ID처럼 단독으로 또는 다른 정보와 결합해 특정 개인을 식별하거나 추적할 수 있는 정보입니다.
퓨샷 프롬프팅은 AI에게 몇 개의 입력-출력 예시를 보여 주어 원하는 답변 형식과 판단 기준을 따라 하게 만드는 프롬프트 작성 방식입니다.
AI 레드팀은 AI 시스템을 공격자나 악의적 사용자 관점에서 시험해 보안 취약점, 유해 출력, 데이터 유출, 정책 우회, 자동화 오작동 가능성을 미리 찾는 안전 평가 활동입니다.
파운데이션 모델은 넓은 데이터로 미리 학습되어 챗봇, 검색, 요약, 이미지 이해, 업무 자동화 같은 여러 작업의 기반이 되는 AI 모델입니다.
컴퓨터 비전은 이미지와 영상에서 사물, 글자, 장면, 패턴을 찾아 AI가 해석할 수 있게 하는 기술입니다.
레이턴시는 사용자가 AI에 요청을 보낸 뒤 의미 있는 응답을 받기까지 걸리는 지연 시간입니다.
임베딩은 텍스트, 이미지, 문서 같은 데이터를 AI가 비교할 수 있는 숫자 벡터로 바꾸는 표현 방식입니다.
로그프로브는 AI가 생성한 출력 토큰을 얼마나 그럴듯한 선택으로 봤는지 나타내는 로그 확률 점수입니다.