こんな夢を見た

修士学生による自然言語処理研究の記録。主にDeep LearningやEmbedding関連論文の軽い自分用まとめとして。内容に誤りが含まれている場合があります。お気軽にご指摘ください。

2015-06-01から1ヶ月間の記事一覧

Non-distributional Word Vector Representations

Non-distributional Word Vector Representations Manaal Faruqui and Chris Dyer, 2015, ACL 分布じゃない単語ベクトル。 分布じゃない。素性は資源の丸写しで、つまりはそもそも学習もしない。 WordNet、FrameNet、Pen TreeBank (のPOSタグ)、Supersenses…

Sparse Overcomplete Word Vector Representations

Sparse Overcomplete Word Vector Representations Manaal Faruqui, Yulia Tsvetkov, Dani Yogatama, Chris Dyer, Noah Smith, 2015, ACL 単語ベクトルのovercompleteなスパース化。 スパースな単語ベクトルは各次元の成分の強さで解釈がしやすいことから好…

A Compositional and Interpretable Semantic Space

A Compositional and Interpretable Semantic Space Alona Fyshe, Leila Wehbe, Partha Talukdar, Brian Murphy, Tom Mitchell, 2015, NAACL site Non-Negative Sparse Embedding (Murphy, 2012) を改良。形容詞と名詞の重み付き和で作ったベクトルが、対応…

Logical Inference on Dependency-based Compositional Semantics

Logical Inference on Dependency-based Compositional Semantics Ran Tian, Yusuke Miyao, Takuya Matsuzaki DCSを使った論理推論。 DCSで表現された文からabstract denotationを得る方法の提案、そして、それを用いて新たな(DCS形式)文を自動作成するよう…

Two/Too Simple Adaptations of Word2Vec for Syntax Problems

Two/Too Simple Adaptations of Word2Vec for Syntax Problems Wang Ling, Chris Dyer, Alan Black, Isabel Trancoso, 2015, NAACL word2vecの統語性のための、2つの単純な改造。 謙虚と洒落を兼ね備えたタイトルかっこいい。 word2vecはskip-gramにせよCBOW…

Weakly Supervised Memory Networks

Weakly Supervised Memory Networks Sainbayar Sukhbaatar, Arthur Szlam, Jason Weston, Rob Fergus, 2015, arXiv 弱教師あり学習によるMemory Networks。 Memory Networksでは、「記憶→使う記憶を探索→取り出した記憶を活用」の3ステップで問題を解くため…