트랜스포머(Transformer)란? 생성형 AI를 이해하는 핵심 모델 구조
트랜스포머는 입력 안의 단어, 토큰, 이미지 조각 같은 요소들이 서로 어떤 관계를 갖는지 셀프 어텐션으로 계산하는 현대 생성형 AI의 핵심 모델 구조입니다.
트랜스포머는 입력 안의 단어, 토큰, 이미지 조각 같은 요소들이 서로 어떤 관계를 갖는지 셀프 어텐션으로 계산하는 현대 생성형 AI의 핵심 모델 구조입니다.
관측 가능성은 로그, 지표, 트레이스 같은 신호로 AI 에이전트와 자동화의 내부 상태와 문제 원인을 추적할 수 있게 하는 운영 개념입니다.
코사인 유사도는 두 벡터가 같은 방향을 향하는 정도를 계산해 AI 검색에서 질문과 문서의 의미적 가까움을 비교하는 방법입니다.
LoRA는 큰 AI 모델 전체를 다시 학습하지 않고 작은 추가 가중치만 학습해 특정 작업에 맞게 조정하는 파라미터 효율 튜닝 방법입니다.
자동화 편향은 AI나 자동화 시스템의 답을 사람이 과하게 믿고 원문 확인과 사람 검토를 줄이는 판단 오류입니다.
옵트아웃은 AI 제품에서 내 대화나 작업 내용이 모델 개선과 학습에 쓰이는지 제외해 달라고 선택하는 데이터 통제 방식입니다.
멱등성은 같은 요청이나 작업을 여러 번 실행해도 실제 결과가 한 번 실행한 것과 같게 만드는 성질입니다.
지도학습은 입력 데이터와 정답 라벨을 함께 보여 주며 AI 모델이 새 데이터의 결과를 예측하도록 훈련하는 머신러닝 방식입니다.
멀티턴 대화는 사용자와 AI가 이전 질문과 답변을 이어 받아 여러 차례 주고받는 대화 구조입니다.