2015-05-01から1ヶ月間の記事一覧
Towards AI-Complete Question Answering: A Set of Prerequisite Toy Tasks Jason Weston, Antoine Bordes, Sumit Chopra, Tomas Mikolov, 2015, arXiv bAbI project AIの言語理解力を試すQAタスクについて細分類して20種のデータセットを作成/公開。そして…
Memory Networks Jason Weston, Sumit Chopra, Antoine Bordes, 2015, ICLR Facebook - The bAbI project 記憶装置を持ったようなQA向けのフレームワーク。 名前から誤解しがちだが、Neural NetworkはあくまでMemory Network内の1つのモジュールであるだけで…
Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector Space A Fast and Accurate Dependency Parser using Neural Networks Learning to Distinguish Hypernyms and Co-Hyponyms Relation Classification via Convolutional Dee…
Linguistic Regularities in Continuous Space Word Representations. Efficient estimation of word representations in vector space Distributed representations of words and phrases and their compositionality Tomas Mikolov, Wen-tau Yih, Geoffrey…
Inducing Neural Models of Script Knowledge Ashutosh Modi and Ivan Titov, 2014, CoNLL スクリプト知識を用いて学習したNeural Netoworkでのイベント順序認識。 先に結論を言えば、かなり精度が出ている。前提として、全てのイベントは一貫した順序関係（…
A Recursive Recurrent Neural Network for Statistical Machine Translation Shujie Liu and Nan Yang and Mu Li and Ming Zhou, 2014, ACL Recursive Recurrent Neural Networkを用いた統計的翻訳。 RecursiveかつRecurrentのモデルを提案。それでちゃんと…
Injecting Logical Background Knowledge into Embeddings for Relation Extraction. Tim Rocktaschel, Sameer Singh, Sebastian Riedel, 2015, NAACL embeddingを用いた関係抽出への論理知識の導入。 まず背景となる研究について。観測済みの関係情報から「…
Unsupervised POS Induction with Word Embeddings Chu-Cheng Lin, Waleed Ammar, Chris Dyer, Lori Levin, 2015, NAACL Word Embeddingsを用いた教師なしPOS induction。 POS inductionではタグから単語を出力する際の確率分布を用いて推定を行うモデルがあ…
Global Belief Recursive Neural Networks Romain Paulus, Richard Socher, Christopher D. Manning, 2014, NIPS 大局的な伝播を行うRecursive Neural Networks。 文全体のコンテクストを各トークンやフレーズに伝播させるための枠組みとして、上向きにrecur…
Bidirectional Recursive Neural Networks for Token-Level Labeling with Structure Ozan İrsoy, Claire Cardie, 2013, NIPS Deep Learning Workshop 双方向Recursive Neural Networkによるトークンレベルでの構造的なラベルの付与。 双方向Recurrent NNに…
Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank Richard Socher, Alex Perelygin, Jean Wu, Jason Chuang, Chris Manning, Andrew Ng and Chris Potts. 2013, EMNLP Socher site Recursiveモデルで感情極性。 個人的にはか…
Recursive Deep Models for Discourse Parsing Jiwei Li, Rumeng Li and Eduard Hovy, 2014, EMNLP. Recursive Neural Networkによる、修辞構造理論(RST)に基づく談話構造のパージング。 Recursive NNを使って談話構造を推定する話。 Recursive関連のうちの…
Deep Recursive Neural Networks for Compositionality in Language Ozan Irsoy, Claire Cardie, 2014, NIPS site 言語処理における多層Recursive Neural Networksの有効性。 今まで使われていたようなRecursiveモデルの改良として、各ノードから分類関数に…
Parsing With Compositional Vector Grammars Richard Socher, John Bauer, Christopher D. Manning, Andrew Y. Ng, 2013, ACL site PCFGでの構文解析時にRecursive Neural Networkでリランキングするモデル。 構文木のパージングを行う際に、PCFGのビームサ…
When Are Tree Structures Necessary for Deep Learning of Representations? Jiwei Li, Dan Jurafsky, Eudard Hovy, 2015, arXiv 言語処理のDeep Learningにおける木構造モデルの必要性。 言語処理のDeep Learningでは、単語の可変長入力に対応するための再…
