처리량(Throughput)이란? AI가 일정 시간에 처리하는 작업량
처리량은 AI 시스템이 일정 시간 동안 처리하는 요청이나 토큰의 전체 양입니다. 레이턴시·동시성·레이트 리밋·배치 처리와의 차이, 측정 단위와 실전 점검법을 설명합니다.
처리량은 AI 시스템이 일정 시간 동안 처리하는 요청이나 토큰의 전체 양입니다. 레이턴시·동시성·레이트 리밋·배치 처리와의 차이, 측정 단위와 실전 점검법을 설명합니다.
프롬프트 체이닝은 복잡한 작업을 여러 프롬프트로 나누고 앞 단계 출력을 다음 단계 입력으로 넘기는 방식입니다. 긴 프롬프트·체인 오브 쏘트·워크플로·AI 에이전트와의 차이, 실전 연결 순서와 주의점을 설명합니다.
학습률은 AI 모델이 학습할 때 가중치와 편향을 한 번에 얼마나 크게 바꿀지 정하는 값입니다. 값이 너무 크거나 작을 때 생기는 문제, 하이퍼파라미터·손실 함수·옵티마이저·에폭과의 차이, 실전 확인법을 설명합니다.
데이터 포이즈닝은 공격자가 AI 학습 데이터에 악의적인 정보를 넣어 모델의 판단이나 성능을 바꾸려는 공격입니다. 프롬프트 인젝션·데이터 드리프트·데이터 누수와의 차이, 쉬운 예시, 점검 순서를 설명합니다.
AI 게이트웨이는 앱과 여러 AI 모델·도구 사이에 놓여 인증, 사용량 제한, 모델 선택, 기록을 한곳에서 관리하는 중간 계층입니다. API 게이트웨이·모델 라우팅·정책 엔진과의 차이와 안전한 도입 순서를 쉽게 설명합니다.
대규모 언어 모델(LLM)은 많은 텍스트를 학습해 다음에 올 단어와 문장을 예측하는 AI 모델입니다. 챗GPT 같은 생성형 AI와의 관계, 작은 언어 모델·추론 모델과의 차이, 안전하게 쓰는 방법을 초보자 눈높이로 정리합니다.
메타데이터는 문서·파일·이미지 같은 데이터에 붙는 제목, 날짜, 작성자, 출처, 권한, 주제 같은 설명 정보입니다. AI 검색과 RAG에서 왜 중요한지, 일반 파일 내용·태그·콘텐츠 자격 증명과 무엇이 다른지 쉽게 정리합니다.
정책 엔진은 누가 어떤 AI 도구를 어떤 조건에서 실행할 수 있는지 규칙으로 판정하는 장치입니다. 가드레일, 인증, 기능 플래그와의 차이까지 쉽게 정리합니다.
기능 플래그는 새 AI 기능을 다시 배포하지 않고도 켜거나 끄고, 일부 사용자에게만 보이게 하는 제어 장치입니다. 카나리 배포·A/B 테스트와의 차이와 안전하게 쓰는 기준을 초보자 눈높이로 정리합니다.
AI 리터러시는 AI의 기회와 한계, 위험을 이해하고 상황에 맞게 판단하며 사용하는 역량입니다. 챗GPT 같은 도구를 업무에 쓸 때 무엇을 확인해야 하는지 쉬운 예시와 함께 정리합니다.