在用PMML實現機器學習模型的跨平臺上線中，我們討論了使用PMML文件來實現跨平臺模型上線的方法，這個方法當然也適用于tensorflow生成的模型，但是由于tensorflow模型往往較大，使用無法優化的PMML文件大多數時候很笨拙，因此本文我們專門討論下tensorflow機器學習模型的跨平臺上線的方法。

1. tensorflow模型的跨平臺上線的備選方案

　　　　tensorflow模型的跨平臺上線的備選方案一般有三種：即PMML方式，tensorflow serving方式，以及跨語言API方式。

　　　　PMML方式的主要思路在上一篇以及講過。這里唯一的區別是轉化生成PMML文件需要用一個Java庫jpmml-tensorflow來完成，生成PMML文件后，跨語言加載模型和其他PMML模型文件基本類似。

　　　　tensorflow serving是tensorflow 官方推薦的模型上線預測方式，它需要一個專門的tensorflow服務器，用來提供預測的API服務。如果你的模型和對應的應用是比較大規模的，那么使用tensorflow serving是比較好的使用方式。但是它也有一個缺點，就是比較笨重，如果你要使用tensorflow serving，那么需要自己搭建serving集群并維護這個集群。所以為了一個小的應用去做這個工作，有時候會覺得麻煩。

　　　　跨語言API方式是本文要討論的方式，它會用tensorflow自己的Python API生成模型文件，然后用tensorflow的客戶端庫比如Java或C+

總結

以上是生活随笔為你收集整理的tensorflow机器学习模型的跨平台上线的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。