자동화 편향(Automation Bias)이란? AI 답변을 너무 쉽게 믿는 오류
자동화 편향은 AI나 자동화 시스템의 답을 사람이 과하게 믿고 원문 확인과 사람 검토를 줄이는 판단 오류입니다.
자동화 편향은 AI나 자동화 시스템의 답을 사람이 과하게 믿고 원문 확인과 사람 검토를 줄이는 판단 오류입니다.
옵트아웃은 AI 제품에서 내 대화나 작업 내용이 모델 개선과 학습에 쓰이는지 제외해 달라고 선택하는 데이터 통제 방식입니다.
멱등성은 같은 요청이나 작업을 여러 번 실행해도 실제 결과가 한 번 실행한 것과 같게 만드는 성질입니다.
지도학습은 입력 데이터와 정답 라벨을 함께 보여 주며 AI 모델이 새 데이터의 결과를 예측하도록 훈련하는 머신러닝 방식입니다.
멀티턴 대화는 사용자와 AI가 이전 질문과 답변을 이어 받아 여러 차례 주고받는 대화 구조입니다.
서비스 계정은 사람이 직접 로그인하는 계정이 아니라, 서버·앱·자동화 작업이 API와 클라우드 리소스에 접근할 때 쓰는 권한이 붙은 시스템 계정입니다.
모더레이션은 AI 입력과 출력이 안전 정책에 어긋나는지 검사하고 차단, 경고, 사람 검토 같은 조치로 연결하는 콘텐츠 안전 점검 과정입니다.
합성 데이터는 실제 데이터를 그대로 복사하지 않고 알고리즘, 시뮬레이션, 생성형 AI로 만든 인공 데이터입니다. AI 학습, 테스트, 개인정보 보호에 쓰이지만 품질과 재식별 위험 검증이 필요합니다.
시드는 AI가 답변이나 이미지를 생성할 때 쓰는 무작위 선택의 출발값입니다. 같은 조건에서 결과를 더 비슷하게 반복하도록 돕지만, 완전한 동일 출력을 보장하지는 않습니다.
활성화 함수는 신경망이 단순한 직선 관계를 넘어 복잡한 패턴을 배울 수 있게 각 뉴런의 출력값을 바꾸는 계산식입니다. ReLU, 시그모이드, 소프트맥스와의 차이까지 초보자 눈높이로 정리했습니다.