Prompt-Learning

? ? Prompt Learning(提示學(xué)習(xí))是指對(duì)輸入文本信息按照特定模板進(jìn)行處理，把任務(wù)重構(gòu)成一個(gè)更能充分利用預(yù)訓(xùn)練語言模型處理的形式。Prompting使得預(yù)訓(xùn)練模型和下游任務(wù)之間更加接近，這一點(diǎn)兒與fine-tuning不同，fine-tuning是使用預(yù)訓(xùn)練模型做下游任務(wù)，prompt learning是各種下游任務(wù)適應(yīng)預(yù)訓(xùn)練模型，根據(jù)不同的預(yù)訓(xùn)練模型重構(gòu)下游任務(wù)。

不同的prompt learning學(xué)習(xí)任務(wù)

這里重點(diǎn)介紹基于清華大學(xué)公開的openprompt框架進(jìn)行文本分類學(xué)習(xí)以及重點(diǎn)介紹幾個(gè)api的學(xué)習(xí)理解。
prompt learning包括Template，Verbalizer，PromptModel等。prompt learning將不同的nlp任務(wù)轉(zhuǎn)化為文本分類問題，但是和之前的bert finetuning的文本分類不一致。例如：
文本分類：
輸入：看這個(gè)娛樂節(jié)目不停的笑
輸出：正面或者負(fù)面

prompt learning下的文本分類，預(yù)測(cè)mask位置處的詞，向完形填空
輸入：看這個(gè)娛樂節(jié)目不停的笑，這個(gè)節(jié)目是一個(gè)mask的節(jié)目
輸出：有趣的或者無聊的
ManualTemplate
template_text = ‘{“placeholder”:“text_a”}，該句子的意圖是：{“mask”}。’
prompt 的template 經(jīng)過ManualTemplate后會(huì)生成一個(gè)text，類型為list，
[{‘a(chǎn)dd_prefix_space’: ‘’, ‘placeholder’: ‘text_a’}, {‘a(chǎn)dd_prefix_space’: ‘’, ‘text’: ‘，該句子的意圖是：’}, {‘a(chǎn)dd_prefix_space’: ‘’, ‘mask’: None},
{‘a(chǎn)dd_prefix_space’: ‘’, ‘text’: ‘。’}]
輸入的句子‘股票想變成標(biāo)的證券要達(dá)到的條件很高吧’在模板下的text表示如下
‘text’的value為 [‘股票想變成標(biāo)的證券要達(dá)到的條件很高吧’, ‘，該句子的意圖是：’, ‘’, ‘。’]
loss_ids：是標(biāo)記mask的位置，[0,0,1,0]
shortenable: 1是input token，0是squence token，1是標(biāo)記的placeholder或者shortenable的位置
在tokenizer中的對(duì)Template下的text的值進(jìn)行tokenizer encoder，并在模版的開始和結(jié)束位置這兩個(gè)特殊符號(hào)，例如bert預(yù)訓(xùn)練模型的特殊符號(hào)為cls和sep
loss_ids中的值根據(jù)tokenizer encoder的length進(jìn)行擴(kuò)充，1是表示mask的位置，加入的特殊編碼對(duì)應(yīng)的值為–100，這里默認(rèn)是-100
備注：
1.在tokenizer的過程中把shortenable_ids這個(gè)內(nèi)容項(xiàng)刪掉了；loss_ids在后面的ManualVerbalize中計(jì)算label的概率會(huì)使用到，即預(yù)測(cè)mask的詞的概率
2.常用的template有：
sentence1 It was [MASK].
sentence1 ? [MASK], sentence2
sentence1 . [MASK], sentence2
sentence1 sentence2 [MASK]
sentence2 ? [MASK], sentence1
ManualVerbalizer
這個(gè)是對(duì)label的擴(kuò)展相近的詞或者字進(jìn)行編碼，tokenizer分別對(duì)這些擴(kuò)展字詞進(jìn)行tokenizer，統(tǒng)計(jì)tokenizer后的每個(gè)字詞的最大個(gè)數(shù)，以及每一個(gè)標(biāo)準(zhǔn)問擴(kuò)展詞的tokenizer的最大長(zhǎng)度，從而確定了擴(kuò)展字詞的矩陣大小，這里是對(duì)label進(jìn)行擴(kuò)充，在模型分類中會(huì)使用這個(gè)矩陣，這里是與之前的fine tuning分類有區(qū)別的。
例如標(biāo)準(zhǔn)問的擴(kuò)展字詞為[’ 支持’, ’ T’, ’ 類’, ’ 基’, ’ T0’, ’ 種類’, ’ 0’, ’ 申’, ’ 種’, ’ 持’, ’ 贖’, ’ 基金’, ’ 金’, ’ 支’]，其中確定的每個(gè)詞的最大長(zhǎng)度為4，擴(kuò)展詞的最大長(zhǎng)度為32，得到的padding結(jié)果為[[3118, 2898, 0, 0], [100, 0, 0, 0], [5102, 0, 0, 0], [1825, 0, 0, 0], [100, 0, 0, 0], [4905, 5102, 0, 0], [121, 0, 0, 0], [4509, 0, 0, 0], [4905, 0, 0, 0], [2898, 0, 0, 0], [6604, 0, 0, 0], [1825, 7032, 0, 0], [7032, 0, 0, 0], [3118, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0]]，
mask 矩陣為[[1, 1, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 1, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [1, 1, 0, 0], [1, 0, 0, 0], [1, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0], [0, 0, 0, 0]]
label擴(kuò)展矩陣的mask矩陣[1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
這里邊把字詞的編碼，mask，整個(gè)label的mask都作為了參數(shù),tensor shape為[batch_size, 擴(kuò)展詞的最大長(zhǎng)度, 每個(gè)詞的最大長(zhǎng)度],

• 對(duì)BertForMaskedLM中的logtis進(jìn)行計(jì)算[batch_size, max_seq_len, vocab_size]，
• 根據(jù)句子中mask的個(gè)數(shù)，得到mask位置處word的logits，如果只有一個(gè)mask，得到的shape為[batch_size,vocab_szie]，如果是多個(gè)mask，得到的mask位置的logits為[batch_size,mask個(gè)數(shù),vocab_size],這里maks的個(gè)數(shù)為1
• 將mask的vocab 概率轉(zhuǎn)化為label擴(kuò)展詞的logits[batch_size, label_num,擴(kuò)展詞的最大長(zhǎng)度, 每個(gè)詞的最大長(zhǎng)度],然后根據(jù)label的擴(kuò)展詞的mask矩陣在每個(gè)詞的最大長(zhǎng)度這一個(gè)維度上進(jìn)行計(jì)算，得到[batch_size, label_num, 擴(kuò)展詞的最大長(zhǎng)度],
  進(jìn)行softmax得到概率[batch_size, label_num, 擴(kuò)展詞的最大長(zhǎng)度],再取log得到logtis(這個(gè)logits可以理解為對(duì)label的擴(kuò)展詞的logits)
• 聚合得到label的logits，根據(jù)label擴(kuò)展詞的mask矩陣得到每一個(gè)label的logits[batch_size, label_num]

這里預(yù)測(cè)mask詞是label中擴(kuò)展詞，從而得到label，從預(yù)訓(xùn)練模型預(yù)測(cè)mask位置是vocab，轉(zhuǎn)化為預(yù)測(cè)label擴(kuò)展詞，從而得倒label，這個(gè)是與直接分類的區(qū)別，這里使用的是mlm的方式

備注：

這里面使用的是transformers中的BertForMaskedLM，不是BertModel,增加了wrapper，使用的是MLMTokenizerWrapper，BertForMaskedLM是預(yù)測(cè)mask掉的詞是單詞表中的哪一個(gè)詞，logits的shape為[batch_size, seq_len, vocab_size]

這里的mask位置是從模板得到的，并不是每一個(gè)樣本進(jìn)行隨機(jī)mask

不同的template和不用的label擴(kuò)展詞方式，對(duì)模型效果有影響

筆者最近在學(xué)習(xí)prompt learning，如有理解錯(cuò)誤的地方，請(qǐng)指正，謝謝

總結(jié)

以上是生活随笔為你收集整理的Prompt-Learning的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。