어텐션(Attention)이란? AI가 문맥에서 중요한 정보를 고르는 방식
어텐션은 AI 모델이 입력 안에서 중요한 정보에 더 큰 비중을 두는 메커니즘입니다. 셀프 어텐션, 트랜스포머, 컨텍스트 윈도우와의 차이까지 쉽게 정리했습니다.
어텐션은 AI 모델이 입력 안에서 중요한 정보에 더 큰 비중을 두는 메커니즘입니다. 셀프 어텐션, 트랜스포머, 컨텍스트 윈도우와의 차이까지 쉽게 정리했습니다.
양자화는 AI 모델의 숫자 표현을 더 낮은 정밀도로 바꿔 모델 크기와 메모리 사용량을 줄이는 최적화 방법입니다.
모델 드리프트는 AI 모델이 배포된 뒤 현실 데이터나 사용자 행동이 바뀌면서 예전처럼 잘 맞지 않게 되는 현상입니다.
AI 벤치마크는 여러 AI 모델이나 시스템을 같은 시험 조건에서 비교하기 위한 표준 테스트입니다.
인퍼런스는 학습이 끝난 AI 모델에 새 입력을 넣고 실제 답, 예측, 분류, 요약 같은 결과를 얻는 실행 단계입니다.
PII는 이름, 이메일, 전화번호, 위치, 얼굴, 계정 ID처럼 단독으로 또는 다른 정보와 결합해 특정 개인을 식별하거나 추적할 수 있는 정보입니다.
퓨샷 프롬프팅은 AI에게 몇 개의 입력-출력 예시를 보여 주어 원하는 답변 형식과 판단 기준을 따라 하게 만드는 프롬프트 작성 방식입니다.
AI 레드팀은 AI 시스템을 공격자나 악의적 사용자 관점에서 시험해 보안 취약점, 유해 출력, 데이터 유출, 정책 우회, 자동화 오작동 가능성을 미리 찾는 안전 평가 활동입니다.
파운데이션 모델은 넓은 데이터로 미리 학습되어 챗봇, 검색, 요약, 이미지 이해, 업무 자동화 같은 여러 작업의 기반이 되는 AI 모델입니다.
컴퓨터 비전은 이미지와 영상에서 사물, 글자, 장면, 패턴을 찾아 AI가 해석할 수 있게 하는 기술입니다.