FLOPS란? AI 하드웨어의 연산 성능 숫자를 읽는 법
FLOPS는 컴퓨터가 1초에 처리할 수 있는 부동소수점 연산 수를 나타내는 성능 단위입니다. FLOP·TFLOPS의 뜻, 숫자 정밀도와 이론 최고치, 실제 AI 속도와 다른 이유를 쉽게 설명합니다.
NVIDIA AI 모델 공동설계, 장문맥 추론을 바꾸는 어텐션 4가지 원칙
NVIDIA는 장문맥 추론에서 어텐션 병목을 줄이기 위한 그룹 크기, 헤드 차원, KV 상태, GPU 병렬화 4가지 공동설계 원칙을 공개했습니다. AI 에이전트 추론 속도와 처리량을 높이는 핵심을 정리합니다.
