AI바라기의 인공지능

개념정리 : 고유값, 고유벡터 본문

인공지능

개념정리 : 고유값, 고유벡터

AI바라기 2026. 4. 1. 14:46

 

이번 설명에서는 딱 하나만 계속 붙잡고 가시면 됩니다.

“행렬은 화살표를 움직이는 기계다.”

고유값과 고유벡터는, 그 기계가 화살표를 움직일 때 나타나는 아주 특별한 방향을 말합니다.


1. 먼저: 행렬을 숫자표로 보지 말고 “변형 기계”로 보셔야 합니다

평면 위에 화살표 하나가 있다고 생각해보겠습니다.

예를 들어

$$\begin{bmatrix}1\\0\end{bmatrix}$$

이건 오른쪽을 가리키는 화살표이고,

$$\begin{bmatrix}0\\1\end{bmatrix}$$

이건 위쪽을 가리키는 화살표입니다.

이제 행렬 $A$ 가 있다고 하면,

이 행렬은 화살표를 받아서 다른 화살표로 바꾸는 기계라고 생각하시면 됩니다.

즉,

$$x \mapsto Ax$$

이 뜻은

“화살표 $x$ 를 기계 $A$ 에 넣었더니 새 화살표 $Ax$ 가 나왔다”

라는 뜻입니다.

보통은 이 기계가 화살표를 바꾸면

  • 길이도 바뀌고
  • 방향도 바뀝니다.

그런데 아주 가끔, 어떤 특별한 화살표는 방향이 안 바뀝니다.

정확히 말하면,

완전히 같은 화살표가 되는 건 아니고,

같은 직선 위에만 남습니다.

이게 핵심입니다.


2. 고유벡터는 “방향이 안 깨지는 화살표”입니다

예를 들어 어떤 화살표 $v$ 가 있는데, 행렬을 곱한 뒤에도

$$Av$$

$v$같은 직선 위에 있다고 해보겠습니다.

그럼 $Av$ 는 결국 $v$ 의 몇 배 꼴이어야 합니다.

즉,

$$Av = \lambda v$$

가 됩니다.

바로 이 식이 고유값/고유벡터의 정의입니다.

여기서

  • $v$: 고유벡터
  • $\lambda$: 고유값

입니다.

이 식을 직관적으로 읽으면

“행렬 $A$ 는 벡터 $v$ 를 다른 방향으로 비틀지 못하고, 그냥 $\lambda$배만 한다”

는 뜻입니다.


3. 가장 쉬운 예시부터 보겠습니다

다음 행렬을 보겠습니다.

$$A=\begin{bmatrix}2 & 0\\0 & 3\end{bmatrix}$$

이 행렬은 무슨 일을 하냐면,

  • x방향 성분은 2배
  • y방향 성분은 3배

합니다.

이제 벡터

$$\begin{bmatrix}1\\0\end{bmatrix}$$

를 넣어보겠습니다.

$$A\begin{bmatrix}1\\0\end{bmatrix} = \begin{bmatrix}2\\0\end{bmatrix} = 2\begin{bmatrix}1\\0\end{bmatrix}$$

입니다.

즉, 이 벡터는 방향은 그대로이고 길이만 2배가 되었습니다.

그러면

$$\begin{bmatrix}1\\0\end{bmatrix}$$

은 고유벡터이고, 고유값은 $2$ 입니다.

이번에는

$$\begin{bmatrix}0\\1\end{bmatrix}$$

를 넣어보겠습니다.

$$A\begin{bmatrix}0\\1\end{bmatrix} = \begin{bmatrix}0\\3\end{bmatrix} = 3\begin{bmatrix}0\\1\end{bmatrix}$$

이것도 방향 그대로이고 길이만 3배가 됩니다.

즉,

$$\begin{bmatrix}0\\1\end{bmatrix}$$

도 고유벡터이고, 고유값은 $3$ 입니다.


4. 여기서 진짜 중요한 포인트 하나

고유벡터는 사실 “벡터 하나”라기보다 방향이라고 생각하시는 게 더 정확합니다.

왜냐하면

$$\begin{bmatrix}1\\0\end{bmatrix}, \quad \begin{bmatrix}2\\0\end{bmatrix}, \quad \begin{bmatrix}-5\\0\end{bmatrix}$$

이 세 개는 전부 x축 방향이기 때문입니다.

즉, x축 위의 0이 아닌 모든 벡터는 다 고유벡터입니다.

마찬가지로 y축 위의 0이 아닌 모든 벡터도 고유벡터입니다.

그래서 고유벡터를 볼 때는

“특별한 화살표 한 개”

보다

“특별한 방향 하나”

라고 생각하시는 게 훨씬 좋습니다.


5. 그런데 진짜 재미있는 건, 특별한 방향이 x축/ y축이 아닐 수도 있다는 점입니다

아까 예시는 너무 쉬웠습니다.

왜냐하면 행렬이 그냥 축 방향으로만 늘렸기 때문입니다.

이제 조금 더 진짜 같은 예시를 보겠습니다.

$$A=\begin{bmatrix}2 & 1\\1 & 2\end{bmatrix}$$

이 행렬은 x성분과 y성분을 서로 섞습니다.

그래서 x축 방향 벡터

$$\begin{bmatrix}1\\0\end{bmatrix}$$

를 넣으면

$$A\begin{bmatrix}1\\0\end{bmatrix} = \begin{bmatrix}2\\1\end{bmatrix}$$

이 됩니다.

이건 원래 벡터와 같은 방향이 아닙니다.

즉, x축 방향은 고유방향이 아닙니다.

y축 방향도 마찬가지입니다.

$$A\begin{bmatrix}0\\1\end{bmatrix} = \begin{bmatrix}1\\2\end{bmatrix}$$

이것도 같은 방향이 아닙니다.

그런데 대각선 방향을 한 번 넣어보겠습니다.

$$v_1=\begin{bmatrix}1\\1\end{bmatrix}$$

그러면

$$Av_1 = \begin{bmatrix}2 & 1\\1 & 2\end{bmatrix}\begin{bmatrix}1\\1\end{bmatrix} = \begin{bmatrix}3\\3\end{bmatrix} = 3\begin{bmatrix}1\\1\end{bmatrix}$$

입니다.

오, 이건 같은 방향입니다.

즉,

$$\begin{bmatrix}1\\1\end{bmatrix}$$

은 고유벡터이고 고유값은 $3$ 입니다.

이번에는 반대 대각선 방향

$$v_2=\begin{bmatrix}1\\-1\end{bmatrix}$$

를 넣어보겠습니다.

$$Av_2 = \begin{bmatrix}2 & 1\\1 & 2\end{bmatrix}\begin{bmatrix}1\\-1\end{bmatrix} = \begin{bmatrix}1\\-1\end{bmatrix} = 1\begin{bmatrix}1\\-1\end{bmatrix}$$

입니다.

이것도 같은 방향입니다.

즉,

$$\begin{bmatrix}1\\-1\end{bmatrix}$$

도 고유벡터이고 고유값은 $1$ 입니다.


6. 여기서 감각을 꼭 잡으셔야 합니다

이 행렬은 x축, y축 기준으로 보면 좀 복잡합니다.

왜냐하면 x와 y를 서로 섞기 때문입니다.

그런데 다른 방향으로 보면 갑자기 단순해집니다.

  • $\begin{bmatrix}1\\1\end{bmatrix}$ 방향에서는 3배
  • $\begin{bmatrix}1\\-1\end{bmatrix}$ 방향에서는 1배

즉, 이 행렬은 사실 복잡한 게 아니라,

“올바른 방향을 못 잡아서 복잡해 보였던 것” 입니다.

이게 고유값/고유벡터를 배우는 가장 중요한 이유입니다.

행렬에는 겉으로 보이는 축 말고,

그 행렬이 스스로 좋아하는 숨은 방향이 있습니다.

그 숨은 방향이 고유벡터입니다.


7. 식 $Av=\lambda v$ 는 왜 자연스러운가

이제 이 식을 다시 보겠습니다.

$$Av=\lambda v$$

이걸 억지 공식으로 보지 마시고, 그냥 이렇게 읽으시면 됩니다.

  • $v$: 원래 화살표
  • $Av$: 행렬을 거친 뒤의 화살표
  • $\lambda v$: 원래 화살표의 $\lambda$

즉,

“행렬을 거친 결과가 원래 화살표의 몇 배면, 그 화살표는 특별하다”

이 뜻입니다.

그래서 고유벡터는

행렬이 방향을 못 바꾸는 벡터이고,

고유값은

그 벡터를 몇 배로 만드는 숫자입니다.


8. 고유값의 부호와 크기는 무슨 뜻인가

$$Av=\lambda v$$

에서 $\lambda$ 는 단순한 숫자가 아니라, 그 방향에서 행렬이 어떻게 작용하는지를 알려줍니다.

$\lambda>1$

같은 방향으로 길어집니다.

예를 들어 $\lambda=3$ 이면 3배 늘어납니다.

$0<\lambda<1$

같은 방향으로 짧아집니다.

예를 들어 $\lambda=\frac{1}{2}$ 이면 반으로 줄어듭니다.

$\lambda=1$

그 방향은 그대로 유지됩니다.

$\lambda=0$

그 방향은 원점으로 찌그러집니다.

즉, 그 방향의 정보가 사라집니다.

$\lambda<0$

같은 직선 위에는 남지만 반대쪽으로 뒤집힙니다.

예를 들어 $\lambda=-2$ 라면

길이는 2배가 되는데 방향은 반대로 갑니다.

그래서 “같은 방향”이라고 할 때는 엄밀히는

같은 직선 위에 남는다

라고 이해하시면 더 정확합니다.


9. 왜 이게 중요한가: 복잡한 벡터도 “특별한 방향들의 합”으로 볼 수 있기 때문입니다

아까 예시에서

$$v_1=\begin{bmatrix}1\\1\end{bmatrix}, \qquad v_2=\begin{bmatrix}1\\-1\end{bmatrix}$$

이 두 방향이 특별하다고 했습니다.

그런데 벡터

$$x=\begin{bmatrix}2\\0\end{bmatrix}$$

를 보겠습니다.

이 벡터는 사실 이렇게 쓸 수 있습니다.

$$\begin{bmatrix}2\\0\end{bmatrix} = \begin{bmatrix}1\\1\end{bmatrix} + \begin{bmatrix}1\\-1\end{bmatrix}$$

즉,

$$x=v_1+v_2$$

입니다.

그럼 행렬을 곱하면

$$Ax=A(v_1+v_2)=Av_1+Av_2$$

이고, 이미

$$Av_1=3v_1, \qquad Av_2=1v_2$$

를 알고 있으므로

$$Ax=3v_1+1v_2$$

가 됩니다.

실제로 계산해보면

$$Ax = 3\begin{bmatrix}1\\1\end{bmatrix} + \begin{bmatrix}1\\-1\end{bmatrix} = \begin{bmatrix}4\\2\end{bmatrix}$$

입니다.

직접 행렬곱을 해봐도

$$A\begin{bmatrix}2\\0\end{bmatrix} = \begin{bmatrix}2 & 1\\1 & 2\end{bmatrix}\begin{bmatrix}2\\0\end{bmatrix} = \begin{bmatrix}4\\2\end{bmatrix}$$

로 같습니다.

이게 왜 중요하냐면,

원래는 $A$ 가 복잡해 보였는데,

고유벡터 기준으로 보면 그냥

  • 한 방향은 3배
  • 다른 방향은 1배

만 하면 되기 때문입니다.

즉, 행렬의 복잡한 작용이 “방향별 확대/축소”로 단순화됩니다.


10. 그래서 고유벡터는 행렬의 “숨은 축”이라고 볼 수 있습니다

대각행렬에서는 x축, y축이 그대로 축입니다.

하지만 일반 행렬에서는 그 축이 기울어져 숨어 있을 수 있습니다.

고유벡터를 찾는다는 말은 결국

“이 행렬이 가장 단순하게 작동하는 방향축을 찾는다”

는 뜻입니다.

그래서 고유값/고유벡터를 이해하면

행렬을 그냥 숫자 덩어리로 보는 게 아니라,

“어느 방향을 얼마나 늘리고 줄이는가”

로 읽게 됩니다.


11. 이제 실제 계산식이 왜 나오는지 보겠습니다

정의는

$$Av=\lambda v$$

입니다.

이걸 한쪽으로 모으면

$$Av-\lambda v=0$$

입니다.

여기서 $v$ 앞에 행렬처럼 묶고 싶은데,

$\lambda v$ 는 사실 $\lambda Iv$ 와 같습니다.

여기서 $I$ 는 단위행렬입니다.

예를 들어 2차원에서는

$$I=\begin{bmatrix}1 & 0\\0 & 1\end{bmatrix}$$

입니다.

그래서

$$Av-\lambda Iv=0$$

즉,

$$(A-\lambda I)v=0$$

가 됩니다.

이 식은 아주 중요합니다.

왜냐하면 이 식은

“행렬 $A$$\lambda I$ 의 차이가, 어떤 0이 아닌 벡터 $v$ 를 0으로 만든다”

는 뜻이기 때문입니다.

조금 쉽게 말하면,

“어떤 특별한 방향에서는 $A$ 가 그냥 $\lambda$배 하는 것과 똑같이 행동한다”

는 뜻입니다.


12. 왜 $\det(A-\lambda I)=0$ 을 푸는가

이 부분이 제일 걸리시는 분들이 많습니다.

그래서 직관부터 말씀드리겠습니다.

우리는

$$(A-\lambda I)v=0$$

에서 $v \neq 0$ 인 해를 원합니다.

즉, 0이 아닌 어떤 화살표를 넣었는데 0으로 보내는 상황을 원합니다.

2차원에서 어떤 행렬이 0이 아닌 방향 하나를 0으로 보낸다는 건,

평면을 눌러서 찌그러뜨려 버렸다는 뜻입니다.

원래 2차원 넓이가 있었는데, 그걸 선분이나 점으로 눌러버린 겁니다.

이런 일이 일어날 때 행렬식이 0입니다.

그래서

$$\det(A-\lambda I)=0$$

을 풀게 됩니다.

정리하면:

  • 고유값을 찾으려면을 푼다
  • $$\det(A-\lambda I)=0$$
  • 그 다음 그 $\lambda$ 를 다시 넣어서을 풀면 고유벡터가 나온다
  • $$(A-\lambda I)v=0$$

이 순서입니다.


13. 실제로 한 번 계산해보겠습니다

다시

$$A=\begin{bmatrix}2 & 1\\1 & 2\end{bmatrix}$$

를 보겠습니다.

1단계: 고유값 찾기

$$A-\lambda I = \begin{bmatrix}2-\lambda & 1\\1 & 2-\lambda\end{bmatrix}$$

행렬식을 구하면

$$\det(A-\lambda I) = (2-\lambda)(2-\lambda)-1$$
$$=(2-\lambda)^2-1$$
$$=4-4\lambda+\lambda^2-1$$
$$=\lambda^2-4\lambda+3$$

그래서

$$\lambda^2-4\lambda+3=0$$

이고 인수분해하면

$$(\lambda-1)(\lambda-3)=0$$

따라서 고유값은

$$\lambda=1, \quad \lambda=3$$

입니다.


2단계: $\lambda=3$ 일 때 고유벡터 찾기

$$A-3I=\begin{bmatrix}-1 & 1\\1 & -1\end{bmatrix}$$

이제

$$(A-3I)v=0$$

을 풀어야 합니다.

벡터를

$$v=\begin{bmatrix}x\\y\end{bmatrix}$$

라고 두면

$$\begin{bmatrix}-1 & 1\\1 & -1\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix} = \begin{bmatrix}0\\0\end{bmatrix}$$

이므로 식은

$$-x+y=0$$

즉,

$$y=x$$

입니다.

따라서

$$v = \begin{bmatrix}x\\x\end{bmatrix} = x\begin{bmatrix}1\\1\end{bmatrix}$$

이 됩니다.

즉, 0이 아닌 모든

$$t\begin{bmatrix}1\\1\end{bmatrix}$$

가 고유벡터입니다.


3단계: $\lambda=1$ 일 때 고유벡터 찾기

$$A-I=\begin{bmatrix}1 & 1\\1 & 1\end{bmatrix}$$

이제

$$(A-I)v=0$$

을 풀면

$$x+y=0$$

즉,

$$y=-x$$

입니다.

따라서

$$v=\begin{bmatrix}x\\-x\end{bmatrix} = x\begin{bmatrix}1\\-1\end{bmatrix}$$

이 됩니다.

즉, 0이 아닌 모든

$$t\begin{bmatrix}1\\-1\end{bmatrix}$$

가 고유벡터입니다.


14. 방금 계산이 의미하는 바를 말로 해석하면

이 행렬

$$\begin{bmatrix}2 & 1\\1 & 2\end{bmatrix}$$

는 겉으로 보면 그냥 숫자 4개짜리 표입니다.

하지만 고유값/고유벡터를 통해 읽으면,

“이 행렬은 $(1,1)$ 방향은 3배 늘리고, $(1,-1)$ 방향은 그대로 둔다”

라는 뜻이 됩니다.

즉, 행렬의 성격을 아주 압축해서 말해주는 정보가

바로 고유값/고유벡터입니다.


15. 한 가지 더: 왜 반복할 때 더 중요해지는가

만약

$$Av=\lambda v$$

이면,

$$A^2v=A(Av)=A(\lambda v)=\lambda Av=\lambda^2v$$

입니다.

마찬가지로

$$A^nv=\lambda^n v$$

가 됩니다.

즉, 고유벡터 방향에서는 행렬을 여러 번 적용해도 계산이 아주 쉽습니다.

그냥 고유값을 계속 곱하면 됩니다.

그래서 고유값/고유벡터는

  • 여러 번 변환할 때
  • 시간이 지날수록 어떻게 되는지 볼 때
  • 어떤 방향이 결국 지배적인지 볼 때

아주 중요합니다.


16. 헷갈리지 않으셔야 할 점 몇 개만 정리하겠습니다

1) 고유벡터는 0벡터가 아닙니다

$$v\neq 0$$

이어야 합니다.

0벡터까지 허용하면 아무 행렬이나 다 성립해버려서 의미가 없어집니다.

2) 고유벡터는 “한 점”이 아니라 “한 방향”입니다

$$v, \; 2v, \; -3v$$

는 사실 같은 고유방향입니다.

3) 모든 행렬이 실수 고유벡터를 가지는 것은 아닙니다

예를 들어 90도 회전은 모든 화살표를 꺾어버리기 때문에

실수 평면에서는 방향이 보존되는 화살표가 없습니다.

이 말은 곧, 고유벡터라는 개념은

“항상 당연히 있는 것”이라기보다

있으면 행렬을 아주 잘 설명해주는 특별한 구조라는 뜻입니다.


17. 이번 설명에서 꼭 남기실 핵심 두 문장

첫째,

행렬은 화살표를 움직이는 기계입니다.

둘째,

고유벡터는 그 기계가 방향을 바꾸지 못하는 특별한 방향이고, 고유값은 그 방향에서 몇 배로 만드는 숫자입니다.

이 두 문장이 머릿속에 제대로 남으면,

그 다음 계산식들은 전부 그 그림을 수식으로 적어놓은 것에 불과합니다.


18. 마지막으로 아주 짧게 압축하면

$$Av=\lambda v$$

“행렬 $A$ 가 벡터 $v$ 를 비틀지 못하고, 그냥 $\lambda$배만 한다”

는 뜻입니다.

그래서

  • 고유벡터 = 안 깨지는 방향
  • 고유값 = 그 방향에서의 배율

입니다.