百度推出飛槳（PaddlePaddle）后，不少開發者開始轉向國內的深度學習框架。但是從代碼的轉移談何容易，之前的工作重寫一遍不太現實，成千上萬行代碼的手工轉換等于是在做一次二次開發。

現在，有個好消息：無論Caffe、TensorFlow、ONNX都可以輕松遷移到飛槳平臺上。雖然目前還不直接遷移PyTorch模型，但PyTorch本身支持導出為ONNX模型，等于間接對該平臺提供了支持。

然而，有人還對存在疑惑：不同框架之間的API有沒有差異？整個遷移過程如何操作，步驟復雜嗎？遷移后如何保證精度的損失在可接受的范圍內？

大家會考慮很多問題，而問題再多，歸納一下，無外乎以下幾點：

API差異：模型的實現方式如何遷移，不同框架之間的API有沒有差異？如何避免這些差異帶來的模型效果的差異？

模型文件差異：訓練好的模型文件如何遷移？轉換框架后如何保證精度的損失在可接受的范圍內？

預測方式差異：轉換后的模型如何預測？預測的效果與轉換前的模型差異如何？

飛槳開發了一個新的功能模塊，叫X2Paddle（Github見參考1），可以支持主流深度學習框架模型轉換至飛槳，包括Caffe、Tensorflow、onnx等模型直接轉換為Paddle Fluid可加載的預測模型，并且還提供了這三大主流框架間的API差異比較，方便我們在自己直接復現模型時對比API之間的差異，深入理解API的實現方式從而降低模型遷移帶來的損失。

下面以TensorFlow轉換成Paddle Fluid模型為例，詳細講講如何實現模型的遷移。

TensorFlow-Fluid的API差異

在深度學習入門過程中，大家常見的就是手寫數字識別這個demo，下面是一份最簡單的實現手寫數字識別的代碼：

from?tensorflow.examples.tutorials.mnist?import?input_dataimport?tensorflow?as?tfmnist?=?input_data.read_data_sets("MNIST_data/",?one_hot=True)x?=?tf.placeholder(tf.float32,?[None,?784])??W?=?tf.Variable(tf.zeros([784,?10]))b?=?tf.Variable(tf.zeros([10]))y?=?tf.nn.softmax(tf.matmul(x,?W)?+?b)y_?=?tf.placeholder("float",?[None,?10])cross_entropy?=?tf.reduce_sum(tf.nn.softmax_cross_entropy_with_logits(logits?=?y,labels?=?y_))train_step?=?tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)init?=?tf.global_variables_initializer()sess?=?tf.Session()sess.run(init)for?i?in?range(1,?1000):????batch_xs,?batch_ys?=?mnist.train.next_batch(100)????sess.run(train_step,?feed_dict={x:?batch_xs,?y_:?batch_ys})correct_prediction?=?tf.equal(tf.argmax(y,?1),?tf.argmax(y_,?1))accuracy?=?tf.reduce_mean(tf.cast(correct_prediction,?'float'))print(sess.run(accuracy,?feed_dict={x:?mnist.test.images,?y_:?mnist.test.labels}))import?input_data
import?tensorflow?as?tf


mnist?=?input_data.read_data_sets("MNIST_data/",?one_hot=True)

x?=?tf.placeholder(tf.float32,?[None,?784])??

W?=?tf.Variable(tf.zeros([784,?10]))
b?=?tf.Variable(tf.zeros([10]))

y?=?tf.nn.softmax(tf.matmul(x,?W)?+?b)

y_?=?tf.placeholder("float",?[None,?10])
cross_entropy?=?tf.reduce_sum(tf.nn.softmax_cross_entropy_with_logits(logits?=?y,labels?=?y_))


train_step?=?tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)

init?=?tf.global_variables_initializer()

sess?=?tf.Session()
sess.run(init)

for?i?in?range(1,?1000):
????batch_xs,?batch_ys?=?mnist.train.next_batch(100)
????sess.run(train_step,?feed_dict={x:?batch_xs,?y_:?batch_ys})

correct_prediction?=?tf.equal(tf.argmax(y,?1),?tf.argmax(y_,?1))
accuracy?=?tf.reduce_mean(tf.cast(correct_prediction,?'float'))
print(sess.run(accuracy,?feed_dict={x:?mnist.test.images,?y_:?mnist.test.labels}))

大家看這段代碼里，第一步是導入mnist數據集，然后設置了一個占位符x來表示輸入的圖片數據，再設置兩個變量w和b，分別表示權重和偏置來計算，最后通過softmax計算得到輸出的y值，而我們真實的label則是變量y_。

前向傳播完成后，就可以計算預測值y與label y_之間的交叉熵。

再選擇合適的優化函數，此處為梯度下降，最后啟動一個Session，把數據按batch灌進去，計算acc即可得到準確率。

這是一段非常簡單的代碼，如果我們想把這段代碼變成飛槳的代碼，有人可能會認為非常麻煩，每一個實現的API還要一一去找對應的實現方式，但是這里，我可以告訴大家，不！用！這！么！麻！煩！

因為在X2Paddle里有一份常用的Tensorflow對應Fluid的API表：

https://github.com/PaddlePaddle/X2Paddle/tree/master/tensorflow2fluid/doc

如下所示：

對于常用的TensorFlow的API，都有相應的飛槳接口，如果兩者的功能沒有差異，則會標注功能一致，如果實現方式或者支持的功能、參數等有差異，即會標注“差異對比”，并詳細注明。

譬如，在上文這份非常簡單的代碼里，出現了這些TensorFlow的API：

在出現的這些api里，大部分的功能都是一致的，只有兩個功能不同，分別是tf.placeholder和tf.nn.softmax_cross_entropy_with_logits ，分別對應 fluid.layers.data 和 fluid.layers.softmax_with_cross_entropy . 我們來看看具體差異：

tf.placeholder V.S fluid.layers.data

常用TensorFlow的同學對placeholder應該不陌生，中文翻譯為占位符，什么意思呢？在TensorFlow 2.0以前，還是靜態圖的設計思想，整個設計理念是計算流圖，在編寫程序時，首先構筑整個系統的graph，代碼并不會直接生效，這一點和python的其他數值計算庫（如Numpy等）不同，graph為靜態的，在實際的運行時，啟動一個session，程序才會真正的運行。這樣做的好處就是：避免反復地切換底層程序實際運行的上下文，tensorflow幫你優化整個系統的代碼。我們知道，很多python程序的底層為C語言或者其他語言，執行一行腳本，就要切換一次，是有成本的，tensorflow通過計算流圖的方式，可以幫你優化整個session需要執行的代碼。

在代碼層面，每一個tensor值在graph上都是一個op，當我們將train數據分成一個個minibatch然后傳入網絡進行訓練時，每一個minibatch都將是一個op，這樣的話，一副graph上的op未免太多，也會產生巨大的開銷；于是就有了tf.placeholder，我們每次可以將 一個minibatch傳入到x = tf.placeholder(tf.float32,[None,32])上，下一次傳入的x都替換掉上一次傳入的x，這樣就對于所有傳入的minibatch x就只會產生一個op，不會產生其他多余的op，進而減少了graph的開銷。

參數對比

tf.placeholder

?tf.placeholder(??????dtype,??????shape=None,??????name=None??)
??????shape=None,
??????name=None
??)

paddle.fluid.layers.data

?paddle.fluid.layers.data(??????name,???????shape,???????append_batch_size=True,???????dtype='float32',???????lod_level=0,???????type=VarType.LOD_TENSOR,???????stop_gradient=True)
??????shape,?
??????append_batch_size=True,?
??????dtype='float32',?
??????lod_level=0,?
??????type=VarType.LOD_TENSOR,?
??????stop_gradient=True)

從圖中可以看到，飛槳的api參數更多，具體差異如下：

Batch維度處理

TensorFlow: 對于shape中的batch維度，需要用戶使用None指定；

飛槳: 將第1維設置為-1表示batch維度；如若第1維為正數，則會默認在最前面插入batch維度，如若要避免batch維，可將參數append_batch_size設為False。

梯度是否回傳

tensorflow和pytorch都支持對輸入求梯度，在飛槳中直接設置stop_gradient = False即可。如果在某一層使用stop_gradient=True,那么這一層之前的層都會自動的stop_gradient=True,梯度不會參與回傳，可以對某些不需要參與loss計算的信息設置為stop_gradient=True。對于含有BatchNormalization層的CNN網絡，也可以對輸入求梯度，如：

?layers.data(????????name="data",????????shape=[32,?3,?224,?224],????????dtype="int64",????????append_batch_size=False,????????stop_gradient=False)"data",
????????shape=[32,?3,?224,?224],
????????dtype="int64",
????????append_batch_size=False,
????????stop_gradient=False)

tf.nn.softmax_cross_entropy_with_logits V.S fluid.layers.softmax_with_cross_entropy

參數對比

tf.nn.softmax_cross_entropy_with_logits(????_sentinel=None,????labels=None,????logits=None,????dim=-1,????name=None)None,
????labels=None,
????logits=None,
????dim=-1,
????name=None
)

paddle.fluid.layers.softmax_with_cross_entropy

paddle.fluid.layers.softmax_with_cross_entropy(????logits,?????label,?????soft_label=False,?????ignore_index=-100,?????numeric_stable_mode=False,?????return_softmax=False)
????label,?
????soft_label=False,?
????ignore_index=-100,?
????numeric_stable_mode=False,?
????return_softmax=False
)

功能差異

標簽類型

TensorFlow：labels只能使用軟標簽，其shape為[batch, num_classes]，表示樣本在各個類別上的概率分布;

飛槳：通過設置soft_label，可以選擇軟標簽或者硬標簽。當使用硬標簽時，label的shape為[batch, 1]，dtype為int64；當使用軟標簽時，其shape為[batch, num_classes]，dtype為int64。

返回值

TensorFlow：返回batch中各個樣本的log loss；

飛槳：當return_softmax為False時，返回batch中各個樣本的log loss；當return_softmax為True時，再額外返回logtis的歸一化值。

疑問點？

硬標簽，即 one-hot label, 每個樣本僅可分到一個類別

軟標簽，每個樣本可能被分配至多個類別中

numeric_stable_mode：這個參數是什么呢？標志位，指明是否使用一個具有更佳數學穩定性的算法。僅在 soft_label 為 False的GPU模式下生效. 若 soft_label 為 True 或者執行場所為CPU, 算法一直具有數學穩定性。注意使用穩定算法時速度可能會變慢。默認為 True。

return_softmax: 指明是否額外返回一個softmax值， 同時返回交叉熵計算結果。默認為False。

如果 return_softmax 為 False， 則返回交叉熵損失

如果 return_softmax 為 True，則返回元組 (loss, softmax) ，其中交叉熵損失為形為[N x 1]的二維張量，softmax為[N x K]的二維張量

代碼示例

data?=?fluid.layers.data(name='data',?shape=[128],?dtype='float32')label?=?fluid.layers.data(name='label',?shape=[1],?dtype='int64')fc?=?fluid.layers.fc(input=data,?size=100)out?=?fluid.layers.softmax_with_cross_entropy( logits=fc,?label=label)128],?dtype='float32')
label?=?fluid.layers.data(name='label',?shape=[1],?dtype='int64')
fc?=?fluid.layers.fc(input=data,?size=100)
out?=?fluid.layers.softmax_with_cross_entropy(
logits=fc,?label=label)

所以通過API對應表，我們可以直接轉換把TensorFlow代碼轉換成Paddle Fluid代碼。但是如果現在項目已經上線了，代碼幾千行甚至上萬行，或者已經訓練出可預測的模型了，如果想要直接轉換API是一件非常耗時耗精力的事情，有沒有一種方法可以直接把訓練好的可預測模型直接轉換成另一種框架寫的，只要轉換后的損失精度在可接受的范圍內，就可以直接替換。下面就講講訓練好的模型如何遷移。

模型遷移

VGG_16是CV領域的一個經典模型，我以tensorflow/models下的VGG_16為例，給大家展示如何將TensorFlow訓練好的模型轉換為飛槳模型。

下載預訓練模型

import?urllibimport?sysdef?schedule(a,?b,?c):????per?=?100.0?*?a?*?b?/?c????per?=?int(per)????sys.stderr.write("\rDownload?percentage?%.2f%%"?%?per)????sys.stderr.flush()url?=?"http://download.tensorflow.org/models/vgg_16_2016_08_28.tar.gz"fetch?=?urllib.urlretrieve(url,?"./vgg_16.tar.gz",?schedule)
import?sys
def?schedule(a,?b,?c):
????per?=?100.0?*?a?*?b?/?c
????per?=?int(per)
????sys.stderr.write("\rDownload?percentage?%.2f%%"?%?per)
????sys.stderr.flush()

url?=?"http://download.tensorflow.org/models/vgg_16_2016_08_28.tar.gz"
fetch?=?urllib.urlretrieve(url,?"./vgg_16.tar.gz",?schedule)

解壓下載的壓縮文件

import?tarfilewith?tarfile.open("./vgg_16.tar.gz",?"r:gz")?as?f:????file_names?=?f.getnames()????for?file_name?in?file_names:????????f.extract(file_name,?"./")
with?tarfile.open("./vgg_16.tar.gz",?"r:gz")?as?f:
????file_names?=?f.getnames()
????for?file_name?in?file_names:
????????f.extract(file_name,?"./")

保存模型為checkpoint格式

import?tensorflow.contrib.slim?as?slimfrom?tensorflow.contrib.slim.nets?import?vggimport?tensorflow?as?tfimport?numpywith?tf.Session()?as?sess:????inputs?=?tf.placeholder(dtype=tf.float32,?shape=[None,?224,?224,?3],?name="inputs")????logits,?endpoint?=?vgg.vgg_16(inputs,?num_classes=1000,?is_training=False)????load_model?=?slim.assign_from_checkpoint_fn("vgg_16.ckpt",?slim.get_model_variables("vgg_16"))????load_model(sess)as?slim
from?tensorflow.contrib.slim.nets?import?vgg
import?tensorflow?as?tf
import?numpy

with?tf.Session()?as?sess:
????inputs?=?tf.placeholder(dtype=tf.float32,?shape=[None,?224,?224,?3],?name="inputs")
????logits,?endpoint?=?vgg.vgg_16(inputs,?num_classes=1000,?is_training=False)
????load_model?=?slim.assign_from_checkpoint_fn("vgg_16.ckpt",?slim.get_model_variables("vgg_16"))
????load_model(sess)
?numpy.random.seed(13)????data?=?numpy.random.rand(5,?224,?224,?3)????input_tensor?=?sess.graph.get_tensor_by_name("inputs:0")????output_tensor?=?sess.graph.get_tensor_by_name("vgg_16/fc8/squeezed:0")????result?=?sess.run([output_tensor],?{input_tensor:data})????numpy.save("tensorflow.npy",?numpy.array(result))
????data?=?numpy.random.rand(5,?224,?224,?3)
????input_tensor?=?sess.graph.get_tensor_by_name("inputs:0")
????output_tensor?=?sess.graph.get_tensor_by_name("vgg_16/fc8/squeezed:0")
????result?=?sess.run([output_tensor],?{input_tensor:data})
????numpy.save("tensorflow.npy",?numpy.array(result))
????saver?=?tf.train.Saver()????saver.save(sess,?"./checkpoint/model")"./checkpoint/model")

TensorFlow2fluid目前支持checkpoint格式的模型或者是將網絡結構和參數序列化的pb格式模型，上面下載的vgg_16.ckpt僅僅存儲了模型參數，因此我們需要重新加載參數，并將網絡結構和參數一起保存為checkpoint模型

將模型轉換為飛槳模型

import?tf2fluid.convert?as?convertimport?argparseparser?=?convert._get_parser()parser.meta_file?=?"checkpoint/model.meta"parser.ckpt_dir?=?"checkpoint"parser.in_nodes?=?["inputs"]parser.input_shape?=?["None,224,224,3"]parser.output_nodes?=?["vgg_16/fc8/squeezed"]parser.use_cuda?=?"True"parser.input_format?=?"NHWC"parser.save_dir?=?"paddle_model"convert.run(parser)as?convert
import?argparse
parser?=?convert._get_parser()
parser.meta_file?=?"checkpoint/model.meta"
parser.ckpt_dir?=?"checkpoint"
parser.in_nodes?=?["inputs"]
parser.input_shape?=?["None,224,224,3"]
parser.output_nodes?=?["vgg_16/fc8/squeezed"]
parser.use_cuda?=?"True"
parser.input_format?=?"NHWC"
parser.save_dir?=?"paddle_model"

convert.run(parser)

注意：部分OP在轉換時，需要將參數寫入文件；或者是運行tensorflow模型進行infer，獲取tensor值。兩種情況下均會消耗一定的時間用于IO或計算，對于后一種情況，

打印輸出log信息（截取部分）

INFO:root:Loading?tensorflow?model...INFO:tensorflow:Restoring?parameters?from?checkpoint/modelINFO:tensorflow:Restoring?parameters?from?checkpoint/modelINFO:root:Tensorflow?model?loaded!INFO:root:TotalNum:86,TraslatedNum:1,CurrentNode:inputsINFO:root:TotalNum:86,TraslatedNum:2,CurrentNode:vgg_16/conv1/conv1_1/weightsINFO:root:TotalNum:86,TraslatedNum:3,CurrentNode:vgg_16/conv1/conv1_1/biasesINFO:root:TotalNum:86,TraslatedNum:4,CurrentNode:vgg_16/conv1/conv1_2/weightsINFO:root:TotalNum:86,TraslatedNum:5,CurrentNode:vgg_16/conv1/conv1_2/biases...INFO:root:TotalNum:86,TraslatedNum:10,CurrentNode:vgg_16/conv3/conv3_1/weightsINFO:root:TotalNum:86,TraslatedNum:11,CurrentNode:vgg_16/conv3/conv3_1/biasesINFO:root:TotalNum:86,TraslatedNum:12,CurrentNode:vgg_16/conv3/conv3_2/weightsINFO:root:TotalNum:86,TraslatedNum:13,CurrentNode:vgg_16/conv3/conv3_2/biasesINFO:root:TotalNum:86,TraslatedNum:85,CurrentNode:vgg_16/fc8/BiasAddINFO:root:TotalNum:86,TraslatedNum:86,CurrentNode:vgg_16/fc8/squeezedINFO:root:Model?translated!from?checkpoint/model
INFO:tensorflow:Restoring?parameters?from?checkpoint/model
INFO:root:Tensorflow?model?loaded!
INFO:root:TotalNum:86,TraslatedNum:1,CurrentNode:inputs
INFO:root:TotalNum:86,TraslatedNum:2,CurrentNode:vgg_16/conv1/conv1_1/weights
INFO:root:TotalNum:86,TraslatedNum:3,CurrentNode:vgg_16/conv1/conv1_1/biases
INFO:root:TotalNum:86,TraslatedNum:4,CurrentNode:vgg_16/conv1/conv1_2/weights
INFO:root:TotalNum:86,TraslatedNum:5,CurrentNode:vgg_16/conv1/conv1_2/biases
...
INFO:root:TotalNum:86,TraslatedNum:10,CurrentNode:vgg_16/conv3/conv3_1/weights
INFO:root:TotalNum:86,TraslatedNum:11,CurrentNode:vgg_16/conv3/conv3_1/biases
INFO:root:TotalNum:86,TraslatedNum:12,CurrentNode:vgg_16/conv3/conv3_2/weights
INFO:root:TotalNum:86,TraslatedNum:13,CurrentNode:vgg_16/conv3/conv3_2/biases

INFO:root:TotalNum:86,TraslatedNum:85,CurrentNode:vgg_16/fc8/BiasAdd
INFO:root:TotalNum:86,TraslatedNum:86,CurrentNode:vgg_16/fc8/squeezed
INFO:root:Model?translated!

到這一步，我們已經把tensorflow/models下的vgg16模型轉換成了Paddle Fluid 模型，轉換后的模型與原模型的精度有損失嗎？如何預測呢？來看下面。

預測結果差異

加載轉換后的飛槳模型，并進行預測

上一步轉換后的模型目錄命名為“paddle_model”,在這里我們通過ml.ModelLoader把模型加載進來，注意轉換后的飛槳模型的輸出格式由NHWC轉換為NCHW，所以我們需要對輸入數據做一個轉置。處理好數據后，即可通過model.inference來進行預測了。具體代碼如下：

import?numpyimport?tf2fluid.model_loader?as?mlmodel?=?ml.ModelLoader("paddle_model",?use_cuda=False)numpy.random.seed(13)data?=?numpy.random.rand(5,?224,?224,?3).astype("float32")#?NHWC?->?NCHWdata?=?numpy.transpose(data,?(0,?3,?1,?2))results?=?model.inference(feed_dict={model.inputs[0]:data})numpy.save("paddle.npy",?numpy.array(results))
import?tf2fluid.model_loader?as?ml

model?=?ml.ModelLoader("paddle_model",?use_cuda=False)

numpy.random.seed(13)
data?=?numpy.random.rand(5,?224,?224,?3).astype("float32")
#?NHWC?->?NCHW
data?=?numpy.transpose(data,?(0,?3,?1,?2))

results?=?model.inference(feed_dict={model.inputs[0]:data})

numpy.save("paddle.npy",?numpy.array(results))

對比模型損失

轉換模型有一個問題始終避免不了，就是損失，從Tesorflow的模型轉換為Paddle Fluid模型，如果模型的精度損失過大，那么轉換模型實際上是沒有意義的，只有損失的精度在我們可接受的范圍內，模型轉換才能被實際應用。在這里可以通過把兩個模型文件加載進來后，通過numpy.fabs來求兩個模型結果的差異。

import?numpypaddle_result?=?numpy.load("paddle.npy")tensorflow_result?=?numpy.load("tensorflow.npy")diff?=?numpy.fabs(paddle_result?-?tensorflow_result)print(numpy.max(diff))
paddle_result?=?numpy.load("paddle.npy")
tensorflow_result?=?numpy.load("tensorflow.npy")
diff?=?numpy.fabs(paddle_result?-?tensorflow_result)
print(numpy.max(diff))

打印輸出

6.67572e-06

從結果中可以看到，兩個模型文件的差異很小，為6.67572e-06 ，幾乎可以忽略不計，所以這次轉換的模型是可以直接應用的。

需要注意的點

1. 轉換后的模型需要注意輸入格式，飛槳中輸入格式需為NCHW格式。此例中不涉及到輸入中間層，如卷積層的輸出，需要了解的是飛槳中的卷積層輸出，卷積核的shape與TensorFlow有差異。

2. 模型轉換完后，檢查轉換前后模型的diff，需要測試得到的最大diff是否滿足轉換需求。

總結

X2Paddle提供了一個非常方便的轉換方式，讓大家可以直接將訓練好的模型轉換成Paddle Fluid版本。

轉換模型原先需要直接通過API對照表來重新實現代碼。但是在實際生產過程中這么操作是很麻煩的，甚至還要進行二次開發。

如果有新的框架能輕松轉換模型，迅速運行調試，迭代出結果，何樂而不為呢？

雖然飛槳相比其他AI平臺上線較晚，但是憑借X2Paddle小工具，能快速將AI開發者吸引到自己的平臺上來，后續的優勢將愈加明顯。

除了本文提到的tensoflow2fluid，Paddle Fluid還支持caffe2fluid、onnx2fluid，大家可以根據自身的需求體驗一下，有問題可以留言交流~

參考資料

X2Paddle Github: https://github.com/PaddlePaddle/X2Paddle?

tensorflow2fluid: https://github.com/PaddlePaddle/X2Paddle/tree/master/tensorflow2fluid

?

長按識別下方二維碼

免費申請Tesla V100算力卡

配合PaddleHub讓模型原地起飛

?

現在，在「知乎」也能找到我們了

進入知乎首頁搜索「PaperWeekly」

點擊「關注」訂閱我們的專欄吧

關于PaperWeekly

PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域，歡迎在公眾號后臺點擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。

總結

以上是生活随笔為你收集整理的飞桨上线万能转换小工具，教你玩转TensorFlow、Caffe等模型迁移的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。