Flask 推理模型，显存一直增长。
生活随笔
收集整理的這篇文章主要介紹了
Flask 推理模型，显存一直增长。
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
問題
使用Flask調用DNN模型推理API時，每調用一次API，顯存持續增長，直至最終顯存爆炸強制退出程序。
解決方法
flask2.0的app.run()中默認打開了threaded=True來支持多線程并發請求，從而導致顯存泄漏。每次調用，顯存就持續增長。
解決方法為：把多線程改為單線程，設置app.run()中threaded和debug為False。示例如下：
然后，就可以正常推理了。
下面的沒有用啊！
下面的沒有用啊！
下面的沒有用啊！
下面的沒有用啊！
寫夠500字，否則
文章質量提示
文章質量提示
此文章質量較低，不會獲得較多流量扶持！ 可能的原因為：篇幅太短，廣告涉嫌違規，外鏈過多，缺少代碼，圖片涉嫌違規
文章質量提示
此文章質量較低，不會獲得較多流量扶持！ 可能的原因為：篇幅太短，廣告涉嫌違規，外鏈過多，缺少代碼，圖片涉嫌違規
此文章質量較低，不會獲得較多流量扶持！ 可能的原因為：篇幅太短，廣告涉嫌違規，外鏈過多，缺少代碼，圖片涉嫌違規
總結
以上是生活随笔為你收集整理的Flask 推理模型，显存一直增长。的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： php实现用户登录、注册以及修改功能（附
- 下一篇： html中span隐藏属性,span标签