본문 바로가기

수업 정리(개인용)/선형대수(주재걸 교수님)

인공지능을 위한 선형대수(주재걸 교수님) Least Squares Problem 소개, Least Squares와 그 기하학적 의미

Check

- Over-determined system이란? 해가 있는가?

- 내적을 행렬 곱으로 표현할 수 있는가?

- 내적의 4가지 성질

- 내적은 선형 변환인가? 이유는?

- Norm, unit vector, distance of vector, 벡터 간 각도 구하기, orthogonal vector를 이해하였는가?

 - Least Square의 기하학적 의미는?

- Normal equation을 유도할 수 있는가?

방정식의 개수가 미지수의 개수보다 많으면 over-determined linear system이라고 하고, 해가 없을 확률이 높다. 주어진 벡터의 개수가 적어서, 그 벡터들의 span이 주어진 벡터의 dimension을 커버하지 못하기 때문이다. 여기서 근사해를 찾기 위해 least square를 사용한다.