【深度学习】2021 年了,TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗?...
2021年了,大家用TensorFlow還是PyTorch多一點(diǎn)?
觀點(diǎn)一
作者:Yulong
鏈接:https://www.zhihu.com/question/452749603/answer/1826252757
很尷尬的是,業(yè)界大多數(shù)支撐搜廣推場景的模型,還是用tensorflow,而且惡心的是還是tensorflow 1.x,而且更更惡心的是各家攻城獅早期就與master分叉了,開始自己魔改tf,給這個屎山代碼打上各種補(bǔ)丁。這些陳年老碼已經(jīng)穩(wěn)定運(yùn)行上線了,誰也不敢說從頭開始,用pytorch汰換掉。這樣搞出線上故障誰背的起?每天是身在tf營,心在torch。懷念簡單的model寫法,懷念直接寫個if而不需要用詭異的tf.cond。不要管什么variable scope,也不要擔(dān)心是否真的在train還是eval……pytorch團(tuán)隊(duì)趕緊支持大規(guī)模kv partition variable,趕緊開發(fā)serving部署啊,快解民于倒懸啊!遺民淚盡tf里,南望torch又一年(ToT)/~~~
觀點(diǎn)二
作者:思想火龍果
鏈接:https://www.zhihu.com/question/452749603/answer/1819357374
pytorch統(tǒng)治學(xué)術(shù)圈。
現(xiàn)在各大頂會開源代碼沒有一絲絲的tensorflow2.x,就連谷歌家自己的論文也是只有torch和jax。零零星星一些tf1的開源代碼。
tensorflow2.x難用嗎?真不難用的,基本就是在用keras,tf.data pipeline 和 tf.distribute 用起來真的省心又快。問題就是現(xiàn)在tf2沒人用啊,也不是不好用,就是你有的pytorch也有,pytorch用得已經(jīng)好好的了為啥還要換呢?然后你又再搞一個新庫,jax,而且還是用tensorflow寫的,而且還不是像keras,sonet一樣能跟tf混著用的 ?,然后google research開源代碼要不是pytorch就是jax,連自家都不用別人會用么。
谷歌真的挺迷惑的,把keras合并了不去好好搞keras推廣keras,可能再過兩年 import tensorflow as tf 直接報warning “tensorflow is deprecated, please use pytorch instead”
觀點(diǎn)三
作者:小小將
鏈接:https://www.zhihu.com/question/452749603/answer/1822694849
變化太大了,今年面試的實(shí)習(xí)生,當(dāng)問他們常用的深度學(xué)習(xí)框架時,他們清一色的選擇了:PyTorch。
我個人認(rèn)為幾個原因?qū)е碌匚荒孓D(zhuǎn):?
(1)PyTorch的易用性更好(當(dāng)一個框架本身能衍生很多上層框架時,你就能知道它本身是多么不友好了,說的就是TF),而且生態(tài)已經(jīng)起來了,大部分論文開源都是用PyTorch;?
(2)TF2看起來并不太成功,反而破壞TF1的生態(tài)。TF1和TF2往往混雜在一起,讓人摸不著頭腦。?
(3)關(guān)于大家最擔(dān)心的部署優(yōu)化問題,其實(shí)目前PyTorch也在不斷提升這塊的劣勢,目前Torch->ONNX->TensorRT已經(jīng)相對成熟了,其他的端側(cè)框架如ncnn也支持torch了。當(dāng)然動態(tài)圖比靜態(tài)圖確實(shí)要多踩一點(diǎn)坑,但帶來的可能是模型迭代效率的提升。?
(4)關(guān)于分布式訓(xùn)練,TensorFlow可能優(yōu)勢更大,但可能大部分人最多跑個單機(jī)多卡就夠了,所以性能上不會差距太大,而且分布式訓(xùn)練還有很多第三方框架來支持比如horovod。而且本身PyTorch自帶的DDP也不差。
其實(shí)我從16年開始接觸深度學(xué)習(xí),最早學(xué)習(xí)的框架是theano,當(dāng)TensorFlow出來后,theano的使用者就慢慢轉(zhuǎn)向了TensorFlow,到19年我又開始轉(zhuǎn)向PyTorch。
每次轉(zhuǎn)變后,我只能說一句話:真香。聲明:我的觀察只限于在比較卷的CV領(lǐng)域。
往期精彩回顧適合初學(xué)者入門人工智能的路線及資料下載機(jī)器學(xué)習(xí)及深度學(xué)習(xí)筆記等資料打印機(jī)器學(xué)習(xí)在線手冊深度學(xué)習(xí)筆記專輯《統(tǒng)計學(xué)習(xí)方法》的代碼復(fù)現(xiàn)專輯 AI基礎(chǔ)下載機(jī)器學(xué)習(xí)的數(shù)學(xué)基礎(chǔ)專輯溫州大學(xué)《機(jī)器學(xué)習(xí)課程》視頻 本站qq群851320808,加入微信群請掃碼: 與50位技術(shù)專家面對面20年技術(shù)見證,附贈技術(shù)全景圖總結(jié)
以上是生活随笔為你收集整理的【深度学习】2021 年了,TensorFlow 和 PyTorch 两个深度学习框架地位又有什么变化吗?...的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 搜狗输入法为什么按空格出字 搜狗输入法按
- 下一篇: 梳理百年深度学习发展史-七月在线机器学习