Recommenders with TensorRT
Recommenders with TensorRT
推薦系統用于向社交網絡、媒體內容消費和電子商務平臺的用戶提供產品或媒體推薦。基于MLP的神經協作濾波器（NCF）推薦器使用一組完全連接或矩陣乘法層來生成推薦。 TensorRT推薦人示例的一些示例包括：
Movie Recommendation Using Neural Collaborative Filter (NCF)
Movie Recommendation Using MPS (Multi-Process Service)
“Hello World” For Multilayer Perceptron (MLP)
3.1. Movie Recommendation Using Neural Collaborative Filter (NCF)
這個示例sampleMovieLens是一個端到端的示例，它導入一個經過訓練的TensorFlow模型，并為每個用戶預測最高收視率的電影。這個例子演示了一個簡單的電影推薦系統，它使用了基于多層感知器（MLP）的神經協作濾波器（NCF）推薦器。
What does this sample do?
具體地說，這個示例演示了如何為TensorRT可以加速的MovieLens數據集生成權重。
Where is this sample located?
此示例保存在GitHub: sampleMovieLens存儲庫中的samples/opensource/sampleMovieLens目錄下。如果使用Debian或RPM包，則示例位于
/usr/src/tensorrt/samples/sampleMovieLens。如果使用tar或zip包，則示例位于<extracted_path>/samples/sampleMovieLens。
How do I get started?
有關入門的更多信息，請參見使用C++示例開始。有關此示例的詳細信息，請參閱GitHub: sampleMovieLens/README.md文件獲取有關此示例如何工作的詳細信息、示例代碼以及有關如何運行和驗證其輸出的分步說明。
這個示例sampleMovieLensMPS是一個端到端的示例，它導入經過訓練的TensorFlow模型，并使用MPS（多進程服務）為每個用戶預測最高評級的電影。
What does this sample do?
MPS允許多個CUDA進程共享一個GPU上下文。使用MPS，可以同時調度來自不同進程的多個重疊內核執行和memcpy操作，以實現最大利用率。對于資源利用率低的小型網絡，例如主要由一系列小型MLP組成的網絡，這對于提高并行性尤其有效。
此示例在功能上與使用神經協作過濾器（NCF）的電影推薦相同，但經過修改以支持多個進程中的并發執行。具體地說，這個示例演示了如何為TensorRT可以加速的MovieLens數據集生成權重。
注：目前，sampleMovieLensMPS只支持Linux x86-64（包括Ubuntu和RedHat）桌面用戶。
Where is this sample located?
此示例保存在GitHub: sampleMovieLensMPS存儲庫中的
samples/opensource/sampleMovieLensMPS目錄下。如果使用Debian或RPM包，則示例位于/usr/src/tensorrt/samples/sampleMovieLensMPS。如果使用tar或zip包，則示例位于<extracted_path>/samples/sampleMovieLensMPS。
How do I get started?
有關入門的更多信息，請參見使用C++示例開始。有關此示例的詳細信息，請參閱GitHub: sampleMovieLensMPS/README.md文件獲取有關此示例如何工作的詳細信息、示例代碼以及有關如何運行和驗證其輸出的分步說明。
3.2. Movie Recommendation Using MPS (Multi-Process Service)
這個示例sampleMovieLensMPS是一個端到端的示例，它導入經過訓練的TensorFlow模型，并使用MPS（多進程服務）為每個用戶預測最高評級的電影。
What does this sample do?
MPS允許多個CUDA進程共享一個GPU上下文。使用MPS，可以同時調度來自不同進程的多個重疊內核執行和memcpy操作，以實現最大利用率。對于資源利用率低的小型網絡，例如主要由一系列小型MLP組成的網絡，這對于提高并行性尤其有效。
此示例在功能上與使用神經協作過濾器（NCF）的電影推薦相同，但經過修改以支持多個進程中的并發執行。具體地說，這個示例演示了如何為TensorRT可以加速的MovieLens數據集生成權重。
注：目前，sampleMovieLensMPS只支持Linux x86-64（包括Ubuntu和RedHat）桌面用戶。
Where is this sample located?
This sample is maintained under the samples/opensource/sampleMovieLensMPS
directory in the GitHub: sampleMovieLensMPS
repository. If using the Debian or RPM package, the sample is located at
/usr/src/tensorrt/samples/sampleMovieLensMPS. If using the tar or zip package, the sample is at <extracted_path>/samples/sampleMovieLensMPS.
How do I get started?
有關入門的更多信息，請參見使用C++示例開始。有關此示例的詳細信息，請參閱GitHub:sampleMovieLensMPS/README.md文件獲取有關此示例如何工作的詳細信息、示例代碼以及有關如何運行和驗證其輸出的分步說明。
3.3. “Hello World” For Multilayer Perceptron (MLP)
這個示例sampleMLP是一個簡單的hello world示例，演示了如何創建一個觸發多層感知器（MLP）優化器的網絡。生成的MLP優化器可以加速TensorRT。
Where is this sample located?
此示例保存在GitHub:sampleMLP存儲庫中的samples/opensource/sampleMLP目錄下。如果使用Debian或RPM包，則示例位于/usr/src/tensorrt/samples/sampleMLP。如果使用tar或zip包，則示例位于<extracted_path>/samplesMLP。
How do I get started?
有關入門的更多信息，請參見使用C++示例開始。有關此示例的詳細信息，請參閱GitHub: sampleMLP/README.md文件獲取有關此示例如何工作的詳細信息、示例代碼以及有關如何運行和驗證其輸出的分步說明。
總結
以上是生活随笔為你收集整理的Recommenders with TensorRT的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： Technology Document
- 下一篇： 用TensorRT针对AArch64用户