还在熬夜憋思路?这12篇最新论文打包送给你 | 本周值得读
在碎片化閱讀充斥眼球的時代,越來越少的人會去關注每篇論文背后的探索和思考。
在這個欄目里,你會快速 get 每篇精選論文的亮點和痛點,時刻緊跟 AI 前沿成果。
點擊本文底部的「閱讀原文」即刻加入社區,查看更多最新論文推薦。
這是 PaperDaily 的第 78?篇文章@EricShen 推薦
#Word Embedding
這篇發表在 ACL 2018 上的論文來自于杜克大學 Lawrence Carin 教授的實驗室。文章重新審視了 deep learning models(例如 CNN, LSTM)在各類 NLP tasks 中的的必要性。
通過大量的實驗探究(17 個數據集),作者發現對于大多數的 NLP 問題,在 word embedding 矩陣上做簡單的 pooling 操作就達到了比 CNN encoder 或者 LSTM encoder 更好的的結果。這類模型被作者命名為 SWEM (Simple Word-Embedding-based Models)。
文章進一步提出了一種新型的 hierarchical pooling 操作:在考慮到部分 word-order 信息的同時,保持了模型的簡單性。值得一提的是,SWEM 模型相較于 LSTM 模型在訓練速度上提高了 10 倍之多,在參數量上也大大減少。
論文鏈接
https://www.paperweekly.site/papers/1987
代碼鏈接
https://github.com/dinghanshen/SWEM
@guohao916 推薦
#Seq2Seq
針對 Seq2Seq 模型中存在的兩類問題:1. exposure bias; 2. inconsistency between train/test measurement,本文從強化學習的角度出發,結合強化學習方法在決策上的優勢和 Seq2Seq 模型在長期記憶方面的優勢,提出了基于深度強化學習的序列到序列的模型,從而能夠更好地解決復雜情況下的 Seq2Seq任務。
論文鏈接
https://www.paperweekly.site/papers/1973
代碼鏈接
https://github.com/yaserkl/RLSeq2Seq
Training Classifiers with Natural Language Explanations
@erutan 推薦
#Relation Extraction
本文是斯坦福大學發表于 ACL 2018 的工作。在關系抽取中,本文利用標注時標注者提供的自然語言解釋,使用極弱的基于規則的領域無關的 parser 將其轉化為標注規則,并自動去除了大多數矛盾的規則,將其運用在大量未標注數據中獲取弱標注信息,利用 weakly-supervised 的方法訓練并取得不錯的效果。?
比較有意思的點在于,一個是利用了標注者給出的基于自然語言的解釋,這是一種相對而言可以較為廉價獲得(相對于更專業的結構化語言)的資源。另一個是使用了領域無關的弱 parser,卻非常簡單地篩掉了大多數錯誤規則并且指出部分“細微的錯誤”還會帶來一些泛化能力上的提升。
論文鏈接
https://www.paperweekly.site/papers/1986
代碼鏈接
https://github.com/HazyResearch/babble
@lipaper9527 推薦
#Sentence Embedding
本文是 Facebook AI Research 發表于 ACL 2018 的工作,文章構建了一系列的句子級別的任務來檢測不同模型獲得的句子向量的質量。
任務包含表層的信息如預測句子長度或某個字是否出現在句子中,也包含句法信息如句法樹的深度,語義信息如時態、主語個數、賓語個數等。論文旨在比較不同模型獲得的句子向量的質量。非常有意思且有價值。
論文鏈接
https://www.paperweekly.site/papers/1977
@xwzhong 推薦
#Sentence Embedding
本文來自 Google Research,文章提出使用對話數據+遷移學習(此處使用了 SNLI 數據集)來生成句向量,從而用于 QA 中 question rerank,answer rerank 和 sentence 相似度計算等任務中。
論文鏈接
https://www.paperweekly.site/papers/1984
論文筆記
https://www.paperweekly.site/papers/notes/397
@xiaolu 推薦
#Visual Question Answering
本文是清華大學和微軟發表在 KDD ’18 的工作,近來一些 VQA 工作引入了高級語義概念,例如利用計算機視覺領域的一些方法挖掘圖像中的語義實體和屬性,從而為 VQA 模型提供豐富的語義信息。
相比于一元形式的實體和屬性,關系事實(Relation Fact)由主體實體、關系、對象實體三個要素組成,可以構造大量的事實組合,因此具有更強大的語義表達能力。
然而,這些工作存在著明顯的局限性。一方面,它們使用高層次的語義概念為一元形式的實體或屬性的,只能表達有限的語義知識。另一方面,利用在其它任務或數據集中訓練得到的模型提取圖像的候選概念,可能 VQA 任務中的問題內容無關。?
為了更好地利用隱含在圖像中的語義知識,本文提出了一個新的模型框架用來學習 VQA 任務中的視覺關系事實。具體而言,本文基于 Visual Genome 數據集,通過計算文本之間的語義相似度構建 Relation-VQA(R-VQA)數據集,其中每一個數據由問題、正確答案和相關的支持關系事實組成。本文設計了一種關系事實檢測器可以預測與給定視覺問題相關的關系事實。?
本文進一步提出了由視覺注意力機制和語義注意力機制組成的多步注意力模型,分別提取圖像中的視覺知識和語義知識。本文在兩個公開的 VQA 數據集上進行了全面的實驗,證明本文的模型實現了目前最好的性能,同時驗證了視覺關系事實在 VQA 任務中的效果。
論文鏈接
https://www.paperweekly.site/papers/1970
@huilyu 推薦
#Visual Question Answering
本文是亞利桑那州立大學發表于 AAAI 2018 的工作。VQA 的 reasoning 方面有待加強。本文利用 PSL(Probabilistic Soft Logic)engine 來定義 inputs 和 rules 并列出 top evidences 提供解釋。其中,inputs 由三部分構成:image captioning and parsing into relation triples;question parsing into relation triples;phrasal similarity。
論文鏈接
https://www.paperweekly.site/papers/1988
代碼鏈接
https://github.com/adityaSomak/PSLQA
@SOC1 推薦
#Pose Estimation
本文是慕尼黑工業大學發表于 ICCV 2017 的工作,論文貢獻如下:
1. 基于擴展 SSD 的 6D 姿態估計;
2.不需要深度信息,只通過單幅 RGB 圖像就能估計出 6D 姿態。
論文鏈接
https://www.paperweekly.site/papers/1954
代碼鏈接
https://github.com/wadimkehl/ssd-6d
@xaj 推薦
Visual Question Answering
本文是杭州電子科技大學發表于 ICCV 2017 的工作,論文提出了一種新的 bilinear pooling 方法,即 MFB。此外,論文還引入了 co-attention 機制,來學習 image 和 question 的 attention。
論文鏈接
https://www.paperweekly.site/papers/1989
代碼鏈接
https://github.com/yuzcccc/vqa-mfb
@yunfeinihao 推薦
#Image Segmentation
本文來自香港中文大學,論文使用 U-Net 分割三維醫學圖像,可以借鑒到其他的醫學圖像中。此外,論文還使用了混合 dense 優化網絡,進一步提升效果。
論文鏈接
https://www.paperweekly.site/papers/1968
@somtian 推薦
#Recommender System
本文是清華大學發表于 WWW 18 的工作,論文利用圖片增強效果,傳統的方法只考慮 CNN 抽取的圖像特征;而本文考慮了圖片中的美學特征對于推薦的影響;作者利用 BDN 從圖片中學習美學特征,然后將其融合到 DCF 中,增強用戶-產品,產品-時間矩陣,從而提高了推薦效果;在亞馬遜和 AVA 數據集上都取得了良好的效果。
論文鏈接
https://www.paperweekly.site/papers/1975
@ChenjiaBai 推薦
#Reinforcement Learning
本文來自 OpenAI,論文提供了解決強化學習 Multi-Goal 問題的思路,擴展了 Universal Value Function,并提供了實驗環境。
論文鏈接
https://www.paperweekly.site/papers/1992
代碼鏈接
https://github.com/openai/baselines
#推 薦 有 禮#
本期所有入選論文的推薦人
均將獲得PaperWeekly紀念周邊一份
▲?機器學習主題行李牌/卡套
想要贏取以上周邊好禮?
點擊閱讀原文即刻加入社區吧!
點擊以下標題查看往期推薦:?
??來不及想標題了,我要去打包收藏了
??快醒醒,一大波最新 AI 論文加開源代碼來襲!
??15 篇最新 AI 論文來襲!NLP、CV...人人有份
選對論文,效率提升50% | 本周值得讀
本周 AI 論文良心推薦,你想 pick 誰?
▲?戳我查看招募詳情
#作 者 招 募#
讓你的文字被很多很多人看到,喜歡我們不如加入我們
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 加入社區刷論文
總結
以上是生活随笔為你收集整理的还在熬夜憋思路?这12篇最新论文打包送给你 | 本周值得读的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 超全总结:神经网络加速之量化模型 | 附
- 下一篇: 近期有哪些值得读的QA论文?| 专题论文