“悟道”公开课第二讲丨如何优化大模型输出结果
圖片出處:https://bmk.sh/2020/05/29/GPT-3-A-Brief-Summary/
如果你錯過了上一波深度學習引發的NLP范式轉換,不要再錯過這一波超大預訓練模型的崛起。
現在,有一個重要機會擺在你面前:“悟道”系列公開課正式開課(地址:http://live.bilibili.com/21887724),手把手教你使用著名大規模預訓練模型“悟道”開發自己的智能應用,更有120萬+“悟道之巔”比賽獎金等你拿!
事實上,以OpenAI 的GPT-3 在 2020年問世為起點,這幾年,預訓練模型對NLP領域帶來了顛覆性的影響為代表。大量令人印象深刻的演示如雨后春筍般涌現,它們利用GPT-3的泛化能力來完成各式各樣的任務。最令人興奮的是,即使在如此大規模的情況下,模型在性能上仍能平穩擴展而非停滯不前,這也就意味著,隨著參數的增加,預訓練模型還可以表現得更好。
圖片來源:李宏毅ppt
這是一個相當有誘惑力的承諾。但是有一道門檻橫亙在我們面前:它沒有公開發布。?
OpenAI 選擇將其商業化,并僅通過付費 API 提供訪問權限。鑒于 OpenAI 的盈利性質,這個操作無可厚非。因此,自去年以來,不少商業機構和學術團隊都在致力于創建自己的 GPT-3 。
其中最值得留意的一個超大模型是“悟道”。
“悟道”由智源研究院學術副院長、清華大學唐杰教授領銜,包括北京大學、清華大學、中國人民大學、中國科學院等單位的100余位AI科學家團隊聯合開發,參數達到1.75萬億參數。
目前悟道已經進化到2.0版本。它已經不僅僅是個語言模型,正在攀登文本和視覺兩大座大山的悟道2.0,在問答、繪畫、作詩、視頻等任務中逼近圖靈測試,并訓練出包括中文、多模態、認知、蛋白質預測在內的系列模型,是我國人工智能應用基礎設施建設的里程碑。
另一個激動人心的好消息是,現在,“悟道”核心團隊將推出首檔公開課,手把手教你理解并應用“悟道”,進一步挖掘“悟道”的潛力。
11月15日悟道之巔系列公開課第二講將于晚7點開課!第二講將由悟道團隊的研發工程師杜冀中為大家詳細講解如何針對應用場景對悟道大模型的輸出結果進行優化。
如果你錯過了第一講課程內容也無需擔心,直戳下方鏈接查看第一講課程全程回顧:
https://www.bilibili.com/video/BV1M44y1v7FJ?spm_id_from=333.999.0.0
“悟道之巔”系列公開課第二講詳情如下:
快來預約學習吧(地址:http://live.bilibili.com/21887724)!“數據實戰派”將同步發出系列課程相關內容,敬請關注!
?附:“悟道之巔”大賽信息?
1、大賽賽程
8月23日,初賽啟動
10月,先鋒獎評選
12月下旬,初賽提交截止,入圍隊伍答辯,角逐最終大獎。
2、獎項設置
大賽獎金:100萬元
一等獎:1支隊伍,20萬元
二等獎:2支隊伍,10萬元
三等獎:6支隊伍,5萬元
優勝獎:30支隊伍,1萬元
(另有20萬特殊獎項設置,詳情見比賽官網)
3、報名和交流
大賽官網:https://wudaoai.cn/summit ?(點擊文末“閱讀原文”即可訪問)
比賽討論區:https://baai.org/l/wudaosummit
微信交流群:
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的“悟道”公开课第二讲丨如何优化大模型输出结果的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 农村可以投资什么项目 给大家提供几个好选
- 下一篇: EMNLP 2021 | 以对比损失为