Vector quantization

AutoEncoder

 

16개의 숫자를 2개의 숫자로 표현 => 2개의 숫자를 다시 16개의 숫자로 복원

 

Encoder => 정보를 더 적은 숫자로 표현

Decoder => 적은 숫자로 표현한 정보를 다시 복원

 

Vector quantization

 

Vector Quantization => VQ => 줄이고 또 줄인다.

(Encoding 숫자를 쓰느게 아니라 미리 정해놓은 유한 개의 vectors중 제일 가까운 하나로 대충 퉁치는 방식)

 

왜곡

 

왜곡이 발생함에도

VQ를 왜 쓰는가?

 

Encoding 덩어리 생성

 

인코딩 덩어리를 잘 만들기 위해서

그림을 잘 만들기 위해서

generative model로 잘 만들기 위해서

정수 숫자의 나열을 잘 만든다.

장점 : 인코딩 수가 유한함

 

https://www.youtube.com/watch?v=mypBS6tPPUA

Vector quantization