windows中使用scrapyd遇到的问题
1.window下‘scrapyd_deploy’不是內(nèi)部或外部命令,也不是可運行的程序
在windows上使用scrapyd-client
安裝后,并不能使用相應(yīng)的命令'scrapyd-deploy'?
需要在"C:\Python27\Scripts" 目錄下 增加scrapyd-deploy.bat文件
內(nèi)容填充為:
@echo off"C:\python27\python.exe" "C:\python27\Scripts\scrapyd-deploy" %1 %2 %3 %4 %5 %6 %7 %8 %92.在項目部署時,出現(xiàn)“environment can only contain strings”的錯誤,根據(jù)錯誤找原因,在scrapyd源碼中有一個utils.py文件,打開這個文件?
在126行和130行進行一點改動?
3. 執(zhí)行scrapyd服務(wù)上指定項目的指定爬蟲
curl http://[ip]:6800/schedule.json -d project=[項目名]-d spider=[爬蟲名]
爬蟲執(zhí)行成功后,終端會給出該爬蟲的 jobid 值,表示該爬蟲,后面停止爬蟲需要提供jobid
4. 停止scrapyd服務(wù)上的指定項目的指定爬蟲(通過jobid指定)
curl http://[ip]:6800/cancel.json -d project=[項目名] -d job=之前的jobid值
停止后如果代碼需要修改,記得重新部署再執(zhí)行。
?
轉(zhuǎn)載于:https://www.cnblogs.com/litao2011/p/9551118.html
總結(jié)
以上是生活随笔為你收集整理的windows中使用scrapyd遇到的问题的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python数据结构与算法之问题求解
- 下一篇: java信息管理系统总结_java实现科