Recent posts

2020년 읽은 논문들

7 minute read

2020년 읽은 논문 정리. Attentional Factorization Machines: Learning the Weight of Feature Interactions via Attention Networks, Xiao et al. (2017) (코드) ...

FastText (1) - Character n-gram vectors

2 minute read

개요 [img source : https://fasttext.cc/img/fasttext-logo-color-web.png] Facebook AI 랩에서 만든 오픈소스 라이브러리 fastText는 단어 표현 및 텍스트 분류 등의 기능이 있으며, 무엇보다 굉장히 빠르고 ...

GloVe 모델이란?

7 minute read

개요 이번 글에서는 단어의 벡터화 모델 중 GloVe에 대해 이론적으로 이해해보려고 한다. GloVe 모델은 Jeffrey Pennington, Richard Socher, 그리고 Christopher D. Manning(CS224n 강의로 유명!)이 저술한 Glove: Glob...

Word2Vec (Skip-gram) 모델의 개선 방법

7 minute read

개요 현재 진행중인 NLP 스터디에서는 매주 돌아가며 논문을 한 편씩 공부하고 있다. 이번주에는 Distributed Representations of Words and Phrases and Their Compositionality 논문을 공부하였으며, 이 글에서는 스터디를 준비...