[TIL]11.Vector and Matrix

목표

• 데이터사이언스와 선형대수
• 벡터에 대한 기본 계산
• 매트릭스에 대한 기본 계산
• 단위행렬같은 특별한 매트릭스를 이해하고, 행렬식(determinant)나 역행렬(inverse)를 계산
• Numpy를 사용하여 기본 선형대수 계산

개요

 

위의 내용은 linear regression으로 풀 수 있다.
numpy, pandas, scikitlearn 등과 같은 라이브러리를 통해 계산할 수 있다.

그렇다면 과연 데이터를 어떻게 python에서 표현하고, 저장하고, 계산할 것인가

Data Structure(데이터를 담는 구조)

1D(1-dimension) 벡터

데이터의 순서(order)는 유지되어야한다.
list가 대표적이며 순서가 상관없는 경우는 set가 있다.

2D(2-dimension) 매트릭스

우리가 자주 쓰는 형태는 pandas의 DataFrame이다.
이는 list안에 list를 담는 구조이다. 칼럼 하나가 1차원 벡터와 같다.

Matrix Calculation

Matrix multiplication

Determinant(매트릭스를 하나의 숫자로 표현해보겠다! 느낌)(중요)

• 2X2
  
  
• 3X3
  
  

중간 팁 벡터를 뒤집는 법 ex) shape이 (5,) 엄밀히는 (1,5)인 경우의 벡터를 Transpose 하는 법

# 보통 dataframe에서 칼럼을 가져오면 series니까 그거로 예시
df['a'].values.reshape(-1,1) # values로 값들에 대한 어레이를 만들어주고 그 뒤에 row에 들어간 '-1'은 뒤에 column 숫자에 맞게 알아서 행을 주겠다는 뜻, 즉 뒤에 칼럼을 '1'로 주면 세로로 1열로 알아서 행 갯수를 맞춰준다는 의미. 즉 transpose 된다.
np.array([df['a']]).T # 어레이로 만들고 한번 더 []로 감싸줘야 Transpose 함수가 적용된다.

스칼라, 벡터

• 스칼라 : 단순히 변수로 저장되어있는 숫자
• 벡터 파이썬에서는 주로 list의 형태이며, 데이터프레임에서의 하나의 행 혹은 열로 사용
• 매트릭스는 벡터의 모음으로 간주될 수 있기 때문에 벡터를 잘 이해해야한다.스칼라(크기를 표현)

벡터(크기와 방향)

예시

\begin{align}
\vec{a} =
\begin{bmatrix}
8\
9
\end{bmatrix}
\qquad
\vec{b} =
\begin{bmatrix}
-4\
7\
1
\end{bmatrix}
\qquad
\vec{c} =
\begin{bmatrix}
5.5332
\end{bmatrix}
\qquad
\vec{d} =
\begin{bmatrix}
Pl\
x\
y\
\frac{2}{3}
\end{bmatrix}
\end{align}

위의 벡터들은 각각 2, 3, 1, 4차원(길이)을 가지고 있다.

벡터의 크기(Magnitude, Norm, Length)

벡터의 크기를 표현 할때는 || 를 사용

v = [1,2,3,4]

$$|v| = \sqrt{ 1^2 + 2^2 + 3^2 + 4^2 }$$

$$|v| =\sqrt{30}$$

벡터의 내적(Dot Product)

두 벡터 $$\vec{a}$$ 와 $$\vec{b}$$ 의 내적은, 각 구성요소를 곱한 뒤 합한 값과 같습니다.

v = [1, 2, 3, 4]

x = [5, 6, 7, 8]

v $$\cdot$$ x = 1 * 5 + 2 * 6 + 3 * 7 + 4 * 8

= 70

• 내적은 교환법칙이 적용: $$ a \cdot b = b \cdot a$$
• 내적은 분배법칙이 적용: $$a \cdot (b + c) = a \cdot b + a \cdot c$$
• 벡터의 내적을 위해서는 두 벡터의 길이(차원)가 반드시 동일해야 한다.

매트릭스

차원

2x2, 3x3 등의 표현(행의 수 x 열의 수)

Transpose(전치)

행과 열을 바꾸는 것(뒤집기)

정사각 매트릭스(square matrix ;정방 매트릭스)

행과 열의 수가 같은 정사각형 모양 행렬

Determinant

행렬식은 모든 정사각 매트릭스가 갖는 속성으로, $$det(A)$$ 혹은 $$|A|$$로 표기

2x2 매트릭스를 기준으로, 행렬식은 다음과 같이 (ad-bc) 계산 할 수 있습니다

3x3 매트릭스의 경우,

np.linalg.det() # numpy에서 line algebra(선형대수) 에서 determinant를 구하라는 의미

Inverse

역행렬 구하는 식은 알 것이라 믿는다 나 자신아

행렬식이 0인 경우(determinant가 0인 경우)

• 행렬식이 0인 정사각 매트릭스는 "특이" (singular) 매트릭스라고 불리기도 합니다. 이들은 2개의 행 혹은 열이 선형의 관계를 (M[,i]= M[,j] * N) 이루고 있을때 발생합니다. -> 즉, 표현만 다르지 같은 정보를 갖는 로우나 칼럼이 있다는 뜻
• 이를 표현하는 다른 방법은, 매트릭스의 행과 열이 선형의 의존 관계가 있는 경우 매트릭스의 행렬식은 0이다. 라고 표현 할 수 있습니다.

np.array([[1,2],
          [3,6]])

위와 같은 경우 행과 열에 따라 결국 벡터가 배수된 것으로 서로 선형 의존. 따라서 det 값이 0이 된다.

Numpy를 이용한 선형대수

파이썬의 list와 Numpy의 array 차이

2개 list 더하기

a = [1, 2, 3]
b = [4, 5, 6]

a + b

[1, 2, 3, 4, 5, 6]

2개 array 더하기

import numpy as np

a_np = np.array(a)
b_np = np.array(b)

a_np + b_np

array([5, 7, 9])

array의 내적

(a_np * b_np).sum() # a 와 b 벡터의 내적 계산

np.dot(a_np, b_np) # 이미 dot함수로 내적 기능이 있다. 위와 결국 같은 값

1D array VS 2D array(개인적으로 아주 중요한 개념이라 생각)

a_np = np.array([1,2,3])

array([1, 2, 3])

a_np.shape

(3,)

a_np.T.shape # Transpose 이후에도 구분 되지 않음

(3,) # Transpose가 안됨

행과 열의 명확한 구분을 위해서는 2D array를 사용해야한다!!!

c = np.array([[1,2,3]])

c.shape

(1, 3) # 즉, 한번더 []를 해줘야 이전엔 백터형태였다면 이제 매트릭스 꼴이 되는 것

d = np.array([[4],
              [5],
              [6]])

d.shape

(3,1)