헤센베르크 분해(Hessenberg Decomposition)란? AI 행렬을 거의 삼각행렬로 바꾸는 방법

TL;DR

헤센베르크 분해(Hessenberg Decomposition)는 정사각행렬 A를 직교·유니터리 행렬 Q와 위 헤센베르크 행렬 H로 바꾸는 분해입니다. A=QHQᴴ로 나타내며 H는 첫째 부분대각선 아래의 원소가 모두 0인 거의 위 삼각형 구조입니다. 고유값을 바꾸지 않은 채 불필요한 아래쪽 원소를 없애므로 QR 알고리즘과 슈어 분해 전에 쓰입니다. 다만 H의 대각선만 고유값으로 읽으면 안 되며, 재구성 오차와 Q의 직교성도 확인해야 합니다.

핵심 3줄 요약

• 핵심 1
  첫째 부분대각선 아래를 0으로 만듭니다. 위 삼각행렬보다 한 줄을 더 남긴 거의 삼각형 구조입니다.
• 핵심 2
  직교 닮음변환으로 고유값을 보존합니다. 실수 행렬은 A=QHQᵀ, 복소수 행렬은 A=QHQᴴ로 나타냅니다.
• 핵심 3
  고유값 계산의 준비 단계입니다. 하우스홀더 반사로 H를 만든 뒤 QR 반복을 적용하면 일반 행렬을 더 효율적으로 다룰 수 있습니다.

이 글에서 다룰 내용

헤센베르크 분해를 한 문장으로 정의하면 무엇인가요?

헤센베르크 분해는 정사각행렬 A를 직교 또는 유니터리 닮음변환으로 첫째 부분대각선 아래가 0인 행렬 H로 바꾸는 행렬 분해입니다.

실수 행렬에서는 A=QHQᵀ로 씁니다. Q는 QᵀQ=I를 만족하는 직교행렬입니다. 복소수 행렬에서는 켤레전치 Qᴴ를 사용하며 QᴴQ=I인 유니터리 행렬이 됩니다. 두 경우 모두 H는 A와 닮은 행렬이므로 같은 고유값을 가집니다.

위 헤센베르크 행렬은 주대각선 위쪽 원소와 첫째 부분대각선 원소를 남깁니다. 그보다 더 아래에 있는 원소만 0입니다. 완전한 위 삼각행렬은 부분대각선까지 0이므로 헤센베르크 형태가 한 단계 덜 줄어든 구조입니다.

이 분해는 정사각행렬에 적용합니다. 직사각행렬을 두 직교 인수와 대각 특이값으로 나누는 SVD와 목적이 다릅니다. 라이브러리에 행렬을 넘기기 전에 마지막 두 축의 크기가 같은지 확인해야 합니다.

한 줄 정리: 헤센베르크 분해는 고유값은 그대로 두고 행렬 아래쪽을 정리해, 뒤의 고유값 알고리즘이 다루기 쉬운 모양으로 바꾸는 방법입니다.

쉬운 예시로 이해해 볼까요?

4×4 행렬을 칸이 16개인 표라고 생각해 보겠습니다. 위 헤센베르크 형태에서는 첫째 열의 셋째·넷째 칸과 둘째 열의 넷째 칸이 0이 됩니다. 주대각선 바로 아래에 있는 둘째 행 첫째 열, 셋째 행 둘째 열, 넷째 행 셋째 열은 남을 수 있습니다.

• 첫째 행: 네 칸 모두 값이 있을 수 있습니다.
• 둘째 행: 네 칸 모두 값이 있을 수 있습니다.
• 셋째 행: 첫째 칸은 0이고 나머지 칸은 값이 있을 수 있습니다.
• 넷째 행: 첫째·둘째 칸은 0이고 나머지 칸은 값이 있을 수 있습니다.

원래 행렬에서 특정 값을 억지로 지우는 것이 아닙니다. 왼쪽과 오른쪽에 Q의 전치·켤레전치를 곱하는 좌표 변환을 함께 적용해 같은 선형 변환을 다른 좌표계로 표현합니다. 그래서 H만 보고 원래 A의 원소와 일대일로 비교하지 않습니다.

Q와 H를 모두 받았다면 QHQᵀ 또는 QHQᴴ를 계산해 A와 가까운지 확인할 수 있습니다. SciPy 문서의 예시도 QHQᴴ와 A의 차이가 0에 가까운지 검사합니다. 이 재구성 검사가 단순히 0의 위치만 보는 것보다 중요합니다.

쉬운 예시: 헤센베르크 형태는 위 삼각형 아래에 얇은 한 줄을 더 남긴 모양입니다. 완전한 삼각형은 아니지만 대부분의 아래쪽 칸을 비웁니다.

왜 AI에서 헤센베르크 분해가 중요한가요?

일반 행렬의 고유값 계산을 준비합니다

AI 시스템의 수치 연산에는 대칭이 아닌 가중치 행렬, 상태 전이 행렬과 선형 연산자가 나타날 수 있습니다. 이런 정사각행렬의 고유값을 구할 때 곧바로 반복 계산을 시작하기보다 먼저 헤센베르크 형태로 줄이면 뒤 단계가 이미 0인 원소를 반복해서 처리하지 않아도 됩니다.

반복 동역학의 진단에 쓰이는 계산을 돕습니다

순환 구조나 선형 상태공간의 전이 행렬을 분석할 때 고유값은 신호가 반복되며 커지거나 줄어드는 성질을 살피는 단서가 됩니다. 헤센베르크 분해가 안정성을 직접 판정하는 것은 아니지만 고유값과 슈어 형식을 계산하는 수치 절차의 준비 단계로 활용됩니다.

검증 가능한 중간 표현을 제공합니다

H에는 명확한 0 구조가 있고 Q에는 직교·유니터리 조건이 있습니다. A 재구성, H의 아래쪽 0, Q의 직교성을 따로 측정할 수 있어 수치 파이프라인의 어느 단계에서 오차가 커졌는지 찾기 쉽습니다. 모델 성능 지표와 행렬 계산 검증을 분리하는 데도 도움이 됩니다.

핵심 인사이트: 헤센베르크 분해는 AI를 학습시키는 기법이 아니라, AI 계산에 등장하는 일반 정사각행렬의 고유값 문제를 준비하고 검증하는 수치 선형대수 도구입니다.

헤센베르크 분해는 어떻게 작동하나요?

1. 입력의 모양과 자료형을 확인합니다

A가 N×N 정사각행렬인지 확인합니다. 실수 입력에는 직교변환을, 복소수 입력에는 유니터리 변환을 사용합니다. SciPy는 NaN이나 무한대 검사를 끌 수 있지만 비유한 값이 들어오면 충돌하거나 계산이 끝나지 않을 수 있다고 경고하므로 입력 검사를 먼저 하는 편이 안전합니다.

2. 한 열의 없앨 구간을 고릅니다

첫째 열에서는 셋째 행 아래의 값을 없애고, 둘째 열에서는 넷째 행 아래의 값을 없애는 식으로 왼쪽에서 오른쪽으로 진행합니다. 각 단계에서는 주대각선 바로 아래의 값은 남기고 그 아래쪽 벡터를 하나의 방향으로 모읍니다.

3. 하우스홀더 반사를 양쪽에 적용합니다

LAPACK DGEHRD는 Q를 여러 기본 반사행렬의 곱으로 나타냅니다. 반사를 A의 왼쪽과 오른쪽에 짝으로 적용하면 닮음변환이 되어 고유값을 유지하면서 목표 위치의 원소를 0으로 만듭니다. 실수 반사행렬은 전치가 역행렬입니다.

4. H와 필요할 때 Q를 구성합니다

모든 열을 처리하면 첫째 부분대각선 아래가 0인 H가 남습니다. 구현은 메모리를 아끼려고 H의 유효 부분과 Q를 재구성할 하우스홀더 벡터를 같은 배열에 압축해 저장하기도 합니다. 사용자는 라이브러리 함수가 반환한 H와 Q를 통해 논리적인 분해 결과를 확인합니다.

실전 팁: LAPACK의 내부 배열은 H와 반사 벡터를 함께 담을 수 있습니다. 내부 저장 배열 전체를 곧바로 완성된 H로 해석하지 말고 해당 라이브러리의 결과 생성 함수를 사용하세요.

H·Q와 헤센베르크 구조는 무엇을 뜻하나요?

H는 거의 위 삼각행렬입니다

H의 원소 hᵢⱼ는 i가 j+1보다 클 때 0입니다. 말하자면 주대각선에서 두 줄 이상 아래에 있는 원소가 사라집니다. 첫째 부분대각선은 0일 수도 있고 아닐 수도 있으므로 위 삼각행렬이라고 부르면 범위를 지나치게 좁힙니다.

Q는 길이와 각도를 보존합니다

실수 Q는 QᵀQ=I이고 복소수 Q는 QᴴQ=I입니다. 역행렬을 직접 계산하지 않고 전치나 켤레전치로 좌표를 되돌릴 수 있습니다. 유한 정밀도 계산에서는 정확한 0보다 단위행렬과의 차이가 허용 오차 안인지 봅니다.

대칭·에르미트 행렬은 삼중대각 형태가 됩니다

MathWorks 문서는 입력이 대칭 또는 에르미트 행렬이면 헤센베르크 형태가 삼중대각행렬이 된다고 설명합니다. 대칭성이 보존되므로 주대각선과 바로 위·아래 대각선만 남습니다. 일반 비대칭 행렬에는 이 더 강한 구조를 기대하면 안 됩니다.

H와 A는 같은 고유값을 가집니다

H=QᵀAQ 또는 H=QᴴAQ는 닮음변환입니다. 따라서 H의 고유값은 A의 고유값과 같습니다. 하지만 H가 위 삼각행렬은 아니므로 대각 원소만 읽어 고유값이라고 부를 수는 없습니다. 뒤의 QR 또는 슈어 계산이 더 필요합니다.

헤센베르크 분해와 헷갈리는 용어는 무엇이 다른가요?

슈어 분해와 헤센베르크 분해의 차이

슈어 분해는 일반 행렬을 위 삼각 또는 1×1·2×2 블록을 가진 준삼각 형태까지 줄입니다. 헤센베르크 분해는 첫째 부분대각선을 남겨 둔 더 넓은 형태입니다. 슈어 계산 과정에서 헤센베르크 축소를 먼저 수행할 수 있지만 두 결과는 같지 않습니다.

QR 분해와 헤센베르크 분해의 차이

QR 분해는 행렬 A 자체를 Q와 위 삼각행렬 R의 곱 A=QR로 나눕니다. 헤센베르크 분해는 A=QHQᴴ라는 닮음변환이며 H가 위 삼각행렬일 필요가 없습니다. QR 알고리즘은 헤센베르크 H에 반복 적용해 슈어 형식과 고유값을 찾는 데 쓰일 수 있습니다.

삼중대각화와 헤센베르크 분해의 차이

삼중대각화는 주대각선과 바로 위·아래 대각선만 남깁니다. 대칭·에르미트 행렬에 헤센베르크 축소를 적용하면 이 구조가 자연스럽게 나타납니다. 일반 비대칭 행렬은 위쪽 원소가 넓게 남으므로 헤센베르크라고 부릅니다.

LU 분해와 헤센베르크 분해의 차이

LU 분해는 행렬을 아래 삼각행렬 L과 위 삼각행렬 U의 곱으로 나눠 선형방정식 풀이에 사용합니다. 헤센베르크 분해는 직교 닮음변환으로 고유값을 보존하는 구조를 만듭니다. 입력과 출력의 모양이 비슷해 보여도 목표가 다릅니다.

SVD와 헤센베르크 분해의 차이

SVD는 직사각행렬도 두 직교·유니터리 방향과 음이 아닌 특이값으로 나눕니다. 저랭크 근사와 조건 수 분석에 직접 쓰입니다. 헤센베르크 분해는 정사각행렬의 고유값 계산을 준비하며 특이값이나 저랭크 근사를 반환하지 않습니다.

비교 정리: 헤센베르크는 고유값 계산의 준비 구조, 슈어는 삼각·준삼각 결과, QR은 두 인수의 곱, 삼중대각화는 대칭 구조, LU는 선형방정식, SVD는 특이값을 다룹니다.

실전에서는 어디에 쓰이나요?

비대칭 행렬의 고유값 계산

일반 실수 정사각행렬의 고유값을 구하는 라이브러리는 헤센베르크 축소 뒤 QR 계열 반복을 수행할 수 있습니다. 사용자가 직접 H를 요구하지 않더라도 eig 또는 Schur 루틴의 내부 단계에서 같은 구조가 등장합니다. 실제 구현 경로는 사용 중인 라이브러리 문서로 확인합니다.

슈어 분해의 전처리

슈어 형식은 헤센베르크보다 더 많은 원소를 0으로 만들어야 합니다. 조밀한 A를 먼저 H로 줄여 두면 후속 반복은 제한된 띠 구조를 활용할 수 있습니다. 헤센베르크와 슈어를 연속 단계로 이해하면 결과 행렬의 차이를 구분하기 쉽습니다.

상태 전이와 선형 연산자 분석

상태공간 모델이나 반복 갱신의 정사각 전이 행렬을 분석할 때 고유값 계산이 필요할 수 있습니다. 헤센베르크 형태는 이 계산의 중간 표현으로 사용됩니다. H 자체를 모델의 설명 가능한 특징으로 과장하지 말고 최종 분석 목적과 고유값 검증을 함께 기록합니다.

여러 이동값을 쓰는 선형계산

Julia 문서는 같은 A에 여러 μ를 더한 (A+μI)x=b 형태의 시스템을 반복해서 풀 때 헤센베르크 인수분해가 도움이 될 수 있다고 안내합니다. 이동값이 바뀌어도 구조를 재사용하는 경우입니다. 다만 실제 성능은 행렬 크기와 사용 함수에 따라 확인해야 합니다.

실전 팁: 최종 목표가 고유값뿐이라면 검증된 전용 함수를 먼저 쓰세요. H를 직접 받는 이유는 중간 구조를 재사용하거나 재구성·직교성을 따로 검사할 때 분명해집니다.

구현할 때 어떤 순서로 확인하나요?

1. 정사각형과 유한값을 확인합니다

입력 A의 행과 열이 같은지, NaN과 무한대가 없는지 검사합니다. 배치 축을 지원하는 함수는 앞쪽 차원을 여러 행렬 묶음으로 처리할 수 있지만 버전과 API마다 지원 방식이 다릅니다. 핵심 N×N 축을 명시적으로 확인합니다.

2. Q가 필요한지 옵션을 정합니다

H만 필요하면 변환행렬 생성을 생략할 수 있는 API가 있습니다. SciPy에서는 calc_q=True일 때 Q를 함께 반환합니다. 재구성이나 좌표 변환이 필요하다면 Q를 받아야 하므로 기본값에 기대지 말고 옵션을 코드에 적습니다.

3. H의 0 구조를 검사합니다

첫째 부분대각선 아래의 원소가 허용 오차 안에서 0인지 봅니다. 부동소수점 계산에서는 아주 작은 값이 남을 수 있으므로 정확한 동등 비교보다 행렬 크기와 자료형에 맞춘 허용 오차를 사용합니다. 첫째 부분대각선까지 지우려 하지 않습니다.

4. 재구성과 직교성을 측정합니다

실수 입력은 QHQᵀ, 복소수 입력은 QHQᴴ와 A의 차이를 계산합니다. QᵀQ 또는 QᴴQ가 단위행렬에 가까운지도 별도로 봅니다. A의 노름으로 나눈 상대 잔차를 함께 기록하면 크기가 다른 행렬끼리 결과를 비교하기 쉽습니다.

5. 고유값과 후속 알고리즘을 확인합니다

A와 H의 고유값을 같은 허용 오차로 비교하고, 목적이 슈어 형식이라면 후속 QR 반복의 수렴 상태까지 확인합니다. 분해 결과가 다른 라이브러리와 원소별로 같지 않아도 재구성·직교성·고유값이 맞으면 유효할 수 있습니다.

한 줄 정리: 정사각형, 유한값, Q 옵션, H의 띠 구조, 재구성, 직교성, 고유값을 차례로 확인하면 모양만 그럴듯한 결과를 걸러낼 수 있습니다.

사용할 때 무엇을 주의해야 하나요?

첫째, H를 위 삼각행렬로 단정하지 않습니다. 첫째 부분대각선은 남을 수 있습니다. 대각선 아래에 값이 하나 보인다는 이유만으로 실패라고 판단하지 말고 그 위치가 허용된 띠 안인지 확인합니다.

둘째, H의 대각선을 고유값으로 읽지 않습니다. 위 삼각 슈어 형식과 달리 일반 헤센베르크 H는 대각선만으로 고유값을 알려 주지 않습니다. eigvals나 후속 슈어·QR 계산으로 확인합니다.

셋째, 내부 압축 저장을 완성된 H와 혼동하지 않습니다. LAPACK DGEHRD는 H의 아래쪽 저장 공간에 Q를 만드는 반사 벡터 정보를 보관합니다. H와 Q를 구성하는 공식 API를 거쳐야 합니다.

넷째, 분해 원소의 부호가 다르다고 오류로 단정하지 않습니다. 직교 기저는 부호나 복소 위상이 달라질 수 있고 MathWorks도 생성 코드가 다른 유효한 헤센베르크 분해를 반환할 수 있다고 안내합니다. 불변 조건으로 비교합니다.

다섯째, 수치 검증을 AI 성능 평가로 바꾸지 않습니다. 작은 재구성 오차는 행렬 분해가 잘됐다는 뜻입니다. 예측 정확도, 생성 품질, 일반화와 서비스 안정성은 별도의 평가 데이터와 지표로 확인합니다.

주의: 헤센베르크 분해는 행렬 구조를 단순하게 만들 뿐, 잘못된 데이터나 불안정한 모델 설계를 고치지는 않습니다. 행렬 검증과 모델 평가를 분리하세요.

자주 묻는 질문

Q1. Hessenberg는 한국어로 어떻게 읽나요?

보통 헤센베르크라고 읽습니다. 문서에 따라 헤센버그라고 적기도 하지만 같은 Hessenberg form을 가리킵니다. 검색할 때는 Hessenberg decomposition, Hessenberg reduction, Hessenberg form도 함께 확인하면 좋습니다.

Q2. 헤센베르크 분해는 모든 행렬에 사용할 수 있나요?

기본 정의는 정사각행렬을 대상으로 합니다. 실수 행렬은 직교 Q, 복소수 행렬은 유니터리 Q를 사용합니다. 직사각행렬에는 그대로 적용하지 말고 QR이나 SVD처럼 목적에 맞는 분해를 선택합니다.

Q3. H의 첫째 부분대각선이 0이 아니어도 정상인가요?

정상입니다. 위 헤센베르크 행렬은 첫째 부분대각선을 허용하고 그보다 아래쪽만 0으로 만듭니다. 첫째 부분대각선까지 모두 0이면 위 삼각행렬이라는 더 특별한 경우입니다.

Q4. 헤센베르크 분해만으로 고유값을 알 수 있나요?

H는 A와 같은 고유값을 갖지만 대각선에서 바로 읽을 수 있는 것은 아닙니다. 보통 H에 QR 계열 반복을 적용해 슈어 형식으로 더 줄이거나 고유값 전용 함수를 사용합니다.

Q5. 대칭행렬에 적용하면 무엇이 달라지나요?

대칭 또는 에르미트 행렬은 헤센베르크 축소 뒤 삼중대각 형태가 됩니다. 대칭성이 유지되어 주대각선과 바로 위·아래 대각선만 남습니다. 일반 비대칭 입력에는 이 결과를 기대하지 않습니다.

Q6. Q를 꼭 저장해야 하나요?

H만 후속 고유값 계산에 쓴다면 Q를 생략할 수 있습니다. 원래 좌표계로 벡터를 되돌리거나 A 재구성, 직교성 검증이 필요하면 Q를 받아야 합니다. 목적과 메모리 비용을 보고 옵션을 정합니다.

출처

마무리

헤센베르크 분해는 정사각행렬을 직교·유니터리 좌표계 Q와 거의 위 삼각형인 H로 바꾸는 방법입니다. 첫째 부분대각선 아래를 0으로 만들면서 고유값을 보존해 일반 행렬의 QR 반복과 슈어 분해를 준비합니다.

초보자라면 다섯 가지를 기억하면 충분합니다. 입력은 정사각행렬이어야 합니다. 첫째 부분대각선은 남을 수 있습니다. H의 대각선을 곧바로 고유값으로 읽지 마세요. 내부 압축 저장과 완성된 H를 구분해야 합니다. 마지막으로 H의 구조, A 재구성, Q의 직교성과 후속 계산의 수렴을 따로 확인하면 결과를 더 안전하게 사용할 수 있습니다.