워드 임베딩(Word Embedding)

https://wikidocs.net/60852

02. 워드 임베딩(Word Embedding)

워드 임베딩(Word Embeddng)은 단어를 벡터로 표현하는 것이다.

1. 희소 표현(Sparse Representation)

벡터 또는 행렬의 값이 대부분이 0으로 표현되는 방법을 희소 표현(sparse representation)이라고 한다.

원-핫 벡터는 희소 벡터이다.

 

이러한 희소 벡터의 문제점은 단어의 개수가 늘어나면 벡터의 차원이 한없이 커진다는 점이다.

이 표현은 공간적 낭비를 불러일으킨다.

또한 벡터간 유사도를 표현할 수 없다는 점도 단점이다.

2. 밀집 표현(Dense Representation)

밀집 표현은 벡터의 차원을 단어 집합의 크기로 상정하지 않는다.

사용자가 설정한 값으로 모든 단어의 벡터 표현의 차원을 맞춘다.

이 과정에서 0과 1만 가진 값이 아니라 실수값을 가지게 된다. 

3. 워드 임베딩(Word Embedding)

단어를 밀집 벡터의 형태로 표현하는 방법을 워드 임베딩(Word Embedding)이라고 한다.

이 밀집 벡터를 워드 임베딩 과정을 통해 나온 결과라고 하여 임베딩 벡터라고 한다.

 

워드 임베딩 방법론은 LSA, Word2Vec, FastText, Glove 등이 있다.

파이토치에서 제공하는 nn.embedding()는 단어를 랜덤한 값을 가지는 밀집 벡터로 변환한 뒤에, 인공 신경망의 가중치를 학습하는 것과 같은 방식으로 단어 벡터를 학습하는 방법을 사용한다.

	원-핫 벡터	임베딩 벡터
차원	고차원(단어 집합의 크기)	저차원
다른 표현	희소 벡터의 일종	밀집 벡터의 일종
표현 방법	수동	훈련 데이터로부터 학습함
값의 타입	1과 0	실수