論文推薦

“?《SFFAI 66期-詩(shī)歌生成專場(chǎng)》來(lái)自清華大學(xué)的矣曉沅同學(xué)推薦的文章主要關(guān)注于自然語(yǔ)言處理領(lǐng)域，你可以認(rèn)真閱讀講者推薦的論文，來(lái)與講者及同行線上交流哦。”

關(guān)注文章公眾號(hào)

回復(fù)"SFFAI66"獲取本主題精選論文

領(lǐng)域基礎(chǔ)

推薦理由：這是篇論文第一次將統(tǒng)計(jì)機(jī)器翻譯模型用于中文對(duì)聯(lián)的自動(dòng)生成。文中定義了多個(gè)統(tǒng)計(jì)翻譯的feature，部分feature在后續(xù)的一些工作中也可以用于后處理，作為神經(jīng)網(wǎng)絡(luò)模型的補(bǔ)足。此外，該篇model比較了人工評(píng)分和BLEU值的相關(guān)性，表明BLEU在一定程度上也可以用于自動(dòng)評(píng)價(jià)文學(xué)文本的生成。

—— 矣曉沅

推薦理由：這篇論文是上一篇的延續(xù)，同樣是MSRA周明老師組當(dāng)年的工作。在對(duì)聯(lián)之后，他們將統(tǒng)計(jì)機(jī)器翻譯模型進(jìn)一步應(yīng)用到了絕句生成上。該文確定了詩(shī)歌生成line to line的生成模式，并且提出了利用古籍《詩(shī)學(xué)含英》來(lái)自動(dòng)構(gòu)建多個(gè)BLEU reference的方法。

—— 矣曉沅

推薦理由：這篇論文是將循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)應(yīng)用到中文詩(shī)歌生成的第一篇工作，在詩(shī)歌自動(dòng)生成領(lǐng)域具有奠基性的意義。文中提出的很多方法，如上下文的建模思路等，都直接啟發(fā)了后續(xù)的一系列相關(guān)工作。對(duì)詩(shī)歌生成有興趣的朋友建議優(yōu)先讀一下這篇文論。

—— 矣曉沅

領(lǐng)域前沿

推薦理由：這是我們九歌團(tuán)隊(duì)的另一篇工作。該篇論文中我們提出了一種無(wú)監(jiān)督的風(fēng)格詩(shī)歌生成方法。通過(guò)最大化互信息的方式，我們直接將詩(shī)歌空間，而非隱空間，解耦為任意設(shè)定的K個(gè)風(fēng)格空間。該模型完全基于無(wú)監(jiān)督的方法進(jìn)行訓(xùn)練，在風(fēng)格的區(qū)分度和詩(shī)歌的多樣性上，效果要略差于MixPoet。但是該模型的優(yōu)勢(shì)在于，無(wú)需標(biāo)注語(yǔ)料，簡(jiǎn)單易用并且可以任意設(shè)置風(fēng)格的數(shù)量。有興趣的朋友可以閱讀一下并和MixPoet作對(duì)比。

—— 矣曉沅

推薦理由：文學(xué)文本的生成往往對(duì)多樣性有較高的要求。一般我們使用beam search進(jìn)行解碼，然而beam search容易產(chǎn)生雷同乏味的生成結(jié)果。這篇論文是Max welling組的工作。該方法利用Gumbel分布定義了新的Beam Score，從而將隨機(jī)性自然地引入到Beam Search算法中，并在數(shù)學(xué)上證明了所提出的Stochastic Beam Search算法能夠和原Beam Search一樣搜索到局部最優(yōu)解。該方法比較適合于對(duì)多樣性和創(chuàng)新性有要求的文本生成任務(wù)。?

—— 矣曉沅

推薦理由：這篇論文同樣發(fā)表于AAAI，其首次將預(yù)訓(xùn)練的Masked Language Model (MLM)用在了中文詩(shī)歌生成任務(wù)上。該論文先用一個(gè)基礎(chǔ)的sequence-to-sequence模型生成詩(shī)歌的草稿，然后利用BERT對(duì)草稿詩(shī)中質(zhì)量較差的字進(jìn)行mask，而后重新生成，不斷迭代，以達(dá)到潤(rùn)色的效果。雖然對(duì)詩(shī)歌進(jìn)行Iterative Polishing的思路最早應(yīng)該是I, Poet 模型 (Yan, IJCAI 2016)中提出的，但該篇論文設(shè)計(jì)了更為有效的mask和prediction的方法，同時(shí)也整合了目前強(qiáng)大的BERT模型，值得認(rèn)真閱讀。

—— 矣曉沅

參會(huì)須知

會(huì)議主題

詩(shī)歌生成專場(chǎng)

會(huì)議簡(jiǎn)介

清華大學(xué)自然語(yǔ)言處理與社會(huì)人文計(jì)算實(shí)驗(yàn)室（THUNLP）開(kāi)發(fā)的人工智能詩(shī)歌寫(xiě)作系統(tǒng)“九歌”在2017年上線后立即就產(chǎn)生了巨大的轟動(dòng)。九歌能夠產(chǎn)生集句詩(shī)、近體詩(shī)、藏頭詩(shī)等不同體裁的詩(shī)歌，融合了現(xiàn)代技術(shù)和中國(guó)古典文化，在推動(dòng)自然語(yǔ)言處理技術(shù)發(fā)展，弘揚(yáng)中華優(yōu)秀傳統(tǒng)文化等方面都有所幫助。本期論壇我們邀請(qǐng)到了九歌系統(tǒng)的主要研發(fā)成員矣曉沅，為大家介紹他的最新研究成果。

會(huì)議時(shí)間

2020年5月31日（周日）

20:00 -- 21:00

報(bào)名方式

公眾號(hào)二維碼

請(qǐng)同學(xué)們掃碼關(guān)注本公眾號(hào)，對(duì)話框回復(fù)“SFFAI66”，獲取入群二維碼。

SFFAI的介紹

現(xiàn)代科學(xué)技術(shù)高度社會(huì)化，在科學(xué)理論與技術(shù)方法上更加趨向綜合與統(tǒng)一，為了滿足人工智能不同領(lǐng)域研究者相互交流、彼此啟發(fā)的需求，我們發(fā)起了人工智能前沿學(xué)生論壇SFFAI，邀請(qǐng)一線科研人員分享、討論人工智能各個(gè)領(lǐng)域的前沿思想和最新成果，使專注于各個(gè)細(xì)分領(lǐng)域的研究者開(kāi)拓視野、觸類旁通。SFFAI目前主要關(guān)注機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理等各個(gè)人工智能垂直領(lǐng)域及交叉領(lǐng)域的前沿進(jìn)展，進(jìn)行學(xué)術(shù)傳播，同時(shí)為講者塑造個(gè)人影響力。

SFFAI還在構(gòu)建人工智能領(lǐng)域的知識(shí)森林—AI Knowledge Forest。通過(guò)匯總各位參與者貢獻(xiàn)的領(lǐng)域知識(shí)，沉淀人工智能前沿精華，使AI Knowledge Tree枝繁葉茂，為人工智能社區(qū)做出貢獻(xiàn)。SFFAI自2018年9月16日舉辦第一期，每周一期學(xué)術(shù)分享交流，截止目前已舉辦65期學(xué)術(shù)交流活動(dòng)，共有100+位講者分享了他們的真知灼見(jiàn)，來(lái)自100多家單位的同學(xué)參與了現(xiàn)場(chǎng)交流，通過(guò)線上推文、網(wǎng)絡(luò)直播等形式，50000+人次參與了人工智能前沿學(xué)生論壇。SFFAI自發(fā)起以來(lái)，迅速成長(zhǎng)壯大，已經(jīng)成為人工智能學(xué)生交流的第一品牌，有志同道合的論壇核心志愿者團(tuán)隊(duì)、樂(lè)于學(xué)術(shù)分享的講者伙伴，還有許多認(rèn)可活動(dòng)價(jià)值、多次報(bào)名參加現(xiàn)場(chǎng)交流的觀眾，大家通過(guò)參與人工智能前沿學(xué)生論壇，收獲了寶貴的知識(shí)和友誼，SFFAI致力于幫助大家解決在學(xué)術(shù)中遇到的相關(guān)問(wèn)題，拓展學(xué)術(shù)人脈，為大家營(yíng)造專業(yè)、開(kāi)放的學(xué)術(shù)交流環(huán)境！

歷史文章推薦

• 牛廣林：規(guī)則引導(dǎo)的知識(shí)圖譜組合式表示學(xué)習(xí)

• 王玫：自然環(huán)境下的多種族人臉：利用信息最大化自適應(yīng)網(wǎng)絡(luò)去減少種族偏差
  

• 傅朝友：Domain-Aware Diverse Face Manipulation

• 申磊：多輪對(duì)話中的上下文信息建模

• 方杰民：Recent Advances and Highlights of NAS

• 張志鵬：SiamDW Real-Time Visual Tracking

• 周龍：同步雙向文本生成

• 王亦寧：Multilingual Neural Machine Translation

• 呼奮宇：深度層次化圖卷積神經(jīng)網(wǎng)絡(luò)

• 崔澤宇：套裝搭配推薦在圖神經(jīng)網(wǎng)絡(luò)上的應(yīng)用

• 張文：Recent Advances in NMT

若您覺(jué)得此篇推文不錯(cuò)，麻煩點(diǎn)點(diǎn)在看↓↓

總結(jié)

以上是生活随笔為你收集整理的了解《诗歌生成》必看的6篇论文【附打包下载地址】的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。