日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

语料库与语言知识库

發布時間:2023/12/10 编程问答 40 豆豆
生活随笔 收集整理的這篇文章主要介紹了 语料库与语言知识库 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

目錄

    • 1.包含內容
      • 1.1大規模語言數據
      • 1.2NLP中的知識庫
    • 2.語料庫
      • 2.1定義
      • 2.2類型
      • 2.3典型語料庫
    • 3.詞匯知識庫
      • 3.1WordNet
        • 3.1.1介紹
        • 3.1.2四種語義關系
        • 3.1.3應用
      • 3.2HowNet(知網)
    • 4.思維導圖


1.包含內容

1.1大規模語言數據

?\bullet? 模型訓練參數
?\bullet? 測評標準

1.2NLP中的知識庫

?\bullet? 詞匯語義庫
?\bullet? 詞法、句法規則庫
?\bullet? 常識庫等


2.語料庫

2.1定義

指經科學取樣和加工的大規模電子文本庫,其中存放的是真實出現過的語言材料

2.2類型

?\bullet? 按語言種類:
(1) 單語
(2)雙語的或者多語的:篇章對齊/句子對齊/結構對齊

?\bullet? 是否標注:
(1)詞性標注
(2)句法結構信息標注(樹庫)
(3)語義信息標注

?\bullet? 平行語料庫:
兩種或多種語言之間的平行采樣和加工,比如機器翻譯中的雙語對齊語料庫

2.3典型語料庫

?\bullet? 賓夕法尼亞大學樹庫:在ChineseTreeBank(CTB)Chinese Tree Bank(CTB)ChineseTreeBankCTB中漢語詞性被劃分為33類,23類句法標記

對于一句話的標注如下(樹形結構):

?\bullet? 北京大學開發的CLKB:包含的內容較多,其中對于漢語短語結構規則庫有600條語法規則,對于平行語料庫含對譯的英漢句對100萬…

多級加工語料樣例:

?\bullet? 口語語料庫:BTECBTECBTEC,目標是開展語音翻譯的國際合作交流,開發實用的語音翻譯技術。


3.詞匯知識庫

3.1WordNet

3.1.1介紹

?\bullet? 開發者:普林斯頓大學認知科學實驗室
?\bullet? 開發目的:解決詞典中同義信息的組織問題
?\bullet? 五大類詞匯:名詞、動詞、形容詞、副詞、虛詞
?\bullet? 特色:按詞義組織詞匯信息,它算是一部語義詞典

3.1.2四種語義關系

?\bullet? 同義關系
?\bullet? 反義關系
?\bullet? 上下位關系或從屬/上屬關系:{樹}是{植物}的下位
?\bullet? 部分關系或部分/整體關系

3.1.3應用

?\bullet? 詞匯消歧
?\bullet? 語義推理
?\bullet? 理解

3.2HowNet(知網)


4.思維導圖

總結

以上是生活随笔為你收集整理的语料库与语言知识库的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。