emacs python debug_我常用的 Python 调试工具 - 博客 - 伯乐在线
以下是我做調(diào)試或分析時(shí)用過的工具的一個(gè)概覽。如果你知道有更好的工具,請?jiān)谠u論中留言,可以不用很完整的介紹。
日志
沒錯(cuò),就是日志。再多強(qiáng)調(diào)在你的應(yīng)用里保留足量的日志的重要性也不為過。你應(yīng)當(dāng)對重要的內(nèi)容打日志。如果你的日志打的足夠好的話,單看日志你就能發(fā)現(xiàn)問題所在。那樣可以節(jié)省你大量的時(shí)間。
如果一直以來你都在代碼里亂用 print 語句,馬上停下來。換用logging.debug。以后你還可以繼續(xù)復(fù)用,或是全部停用等等。
跟蹤
有時(shí)更好的辦法是看執(zhí)行了哪些語句。你可以使用一些IDE的調(diào)試器的單步執(zhí)行,但你需要明確知道你在找那些語句,否則整個(gè)過程會進(jìn)行地非常緩慢。
標(biāo)準(zhǔn)庫里面的trace模塊,可以打印運(yùn)行時(shí)包含在其中的模塊里所有執(zhí)行到的語句。(就像制作一份項(xiàng)目報(bào)告)
python -mtrace –trace script.py
這會產(chǎn)生大量輸出(執(zhí)行到的每一行都會被打印出來,你可能想要用grep過濾那些你感興趣的模塊).
比如:
python -mtrace –trace script.py | egrep '^(mod1.py|mod2.py)'
調(diào)試器
以下是如今應(yīng)該人盡皆知的一個(gè)基礎(chǔ)介紹:
import pdb
pdb.set_trace() # 開啟pdb提示
或者
try:
(一段拋出異常的代碼)
except:
import pdb
pdb.pm() # 或者 pdb.post_mortem()
或者(輸入 c 開始執(zhí)行腳本)
python -mpdb script.py
在輸入-計(jì)算-輸出循環(huán)(注:REPL,READ-EVAL-PRINT-LOOP的縮寫)環(huán)境下,可以有如下操作:
c or continue
q or quit
l or list, 顯示當(dāng)前步幀的源碼
w or where,回溯調(diào)用過程
d or down, 后退一步幀(注:相當(dāng)于回滾)
u or up, 前進(jìn)一步幀
(回車), 重復(fù)上一條指令
其余的幾乎全部指令(還有很少的其他一些命令除外),在當(dāng)前步幀上當(dāng)作python代碼進(jìn)行解析。
如果你覺得挑戰(zhàn)性還不夠的話,可以試下smiley,-它可以給你展示那些變量而且你能使用它來遠(yuǎn)程追蹤程序。
更好的調(diào)試器
pdb的直接替代者:
ipdb(easy_install ipdb) – 類似ipython(有自動(dòng)完成,顯示顏色等)
pudb(easy_install pudb) – 基于curses(類似圖形界面接口),特別適合瀏覽源代碼
遠(yuǎn)程調(diào)試器
安裝方式:
sudo apt-get install winpdb
用下面的方式取代以前的pdb.set_trace():
import rpdb2
rpdb2.start_embedded_debugger("secretpassword")
現(xiàn)在運(yùn)行winpdb,文件-關(guān)聯(lián)
不喜歡Winpdb?也可以直接包裝PDB在TCP之上運(yùn)行!
這樣做:
import loggging
class Rdb(pdb.Pdb):
"""
This will run pdb as a ephemeral telnet service. Once you connect no one
else can connect. On construction this object will block execution till a
client has connected.
Based on https://github.com/tamentis/rpdb I think ...
To use this::
Rdb(4444).set_trace()
Then run: telnet 127.0.0.1 4444
"""
def __init__(self, port=0):
self.old_stdout = sys.stdout
self.old_stdin = sys.stdin
self.listen_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
self.listen_socket.bind(('0.0.0.0', port))
if not port:
logging.critical("PDB remote session open on: %s", self.listen_socket.getsockname())
print >> sys.__stderr__, "PDB remote session open on:", self.listen_socket.getsockname()
sys.stderr.flush()
self.listen_socket.listen(1)
self.connected_socket, address = self.listen_socket.accept()
self.handle = self.connected_socket.makefile('rw')
pdb.Pdb.__init__(self, completekey='tab', stdin=self.handle, stdout=self.handle)
sys.stdout = sys.stdin = self.handle
def do_continue(self, arg):
sys.stdout = self.old_stdout
sys.stdin = self.old_stdin
self.handle.close()
self.connected_socket.close()
self.listen_socket.close()
self.set_continue()
return 1
do_c = do_cont = do_continue
def set_trace():
"""
Opens a remote PDB on first available port.
"""
rdb = Rdb()
rdb.set_trace()
只想要一個(gè)REPL環(huán)境?試試IPython如何?
如果你不需要一個(gè)完整齊全的調(diào)試器,那就只需要用一下的方式啟動(dòng)一個(gè)IPython即可:
import IPython
IPython.embed()
標(biāo)準(zhǔn)linux工具
我常常驚訝于它們竟然遠(yuǎn)未被充分利用。你能用這些工具解決很大范圍內(nèi)的問題:從性能問題(太多的系統(tǒng)調(diào)用,內(nèi)存分配等等)到死鎖,網(wǎng)絡(luò)問題,磁盤問題等等。
其中最有用的是最直接的strace,只需要運(yùn)行 sudo strace -p 12345 或者 strace -f 指令(-f 即同時(shí)追蹤fork出來的子進(jìn)程),這就行了。輸出一般會非常大,所以你可能想要把它重定向到一個(gè)文件以便作更多的分析(只需要加上 &> 文件名)。
再就是ltrace,有點(diǎn)類似strace,不同的是,它輸出的是庫函數(shù)調(diào)用。參數(shù)大體相同。
還有l(wèi)sof 用來指出你在ltrace/strace中看到的句柄數(shù)值的意義。比如:
lsof -p 12345
更好的跟蹤
使用簡單而可以做很多事情-人人都該裝上htop!
sudo apt-get install htop
sudo htop
現(xiàn)在找到那些你想要的進(jìn)程,再輸入:
s - 代表系統(tǒng)調(diào)用過程(類似strace)
L - 代表庫調(diào)用過程(類似ltrace)
l - 代表lsof
監(jiān)控
沒 有好的持續(xù)的服務(wù)器監(jiān)控,但是如果你曾遇到一些很詭異的情況,諸如為什么一切都運(yùn)行的那么慢,那些系統(tǒng)資源都干什么去了,。。。等這些問題,想弄明白卻又 無處下手之際,不必動(dòng)用iotop,iftop,htop,iostat,vmstat這些工具,就用dstat吧!它可以做之前我們提過的大部分工作可 以做的事情,而且也許可以做的更好!
它會用一種緊湊的,代碼高亮的方式(不同于iostat,vmstat)向你持續(xù)展示數(shù)據(jù),你還經(jīng)常可以看到過去的數(shù)據(jù)(不同于iftop,iostop,htop)。
只需運(yùn)行:
dstat --cpu --io --mem --net --load --fs --vm --disk-util --disk-tps --freespace --swap --top-io --top-bio-adv
很可能有一種更簡短的方式來寫上面這條命令,
這是一個(gè)相當(dāng)復(fù)雜而又強(qiáng)大的工具,但是這里我只提到了一些基本的內(nèi)容(安裝以及基礎(chǔ)的命令)
sudo apt-get install gdb python-dbg
zcat /usr/share/doc/python2.7/gdbinit.gz > ~/.gdbinit
用python2.7-dbg 運(yùn)行程序:
sudo gdb -p 12345
現(xiàn)在使用:
bt - 堆棧跟蹤(C 級別)
pystack - python 堆棧跟蹤,不幸的是你需要有~/.gdbinit 并且使用python-dbg
c - 繼續(xù)
發(fā)生段錯(cuò)誤?用faulthandler !
python 3.3版本以后新增的一個(gè)很棒的功能,可以向后移植到python2.x版本。只需要運(yùn)行下面的語句,你就可以大抵知道什么原因引起來段錯(cuò)誤。
import faulthandler
faulthandler.enable()
內(nèi)存泄露
嗯,這種情況下有很多的工具可以使用,其中有一些專門針對WSGI的程序比如Dozer,但是我最喜歡的當(dāng)然是objgraph。使用簡單方便,讓人驚訝!
它沒有集成WSGI或者其他,所以你需要自己去發(fā)現(xiàn)運(yùn)行代碼的方法,像下面這樣:
import objgraph
objs = objgraph.by_type("Request")[:15]
objgraph.show_backrefs(objs, max_depth=20, highlight=lambda v: v in objs,
filename="/tmp/graph.png")
Graph written to /tmp/objgraph-zbdM4z.dot (107 nodes)
Image generated as /tmp/graph.png
你會得到像這樣一張圖(注意:它非常大)。你也可以得到一張點(diǎn)輸出。
內(nèi)存使用
有時(shí)你想少用些內(nèi)存。更少的內(nèi)存分配常常可以使程序執(zhí)行的更快,更好,用戶希望內(nèi)存合適好用)
有許多可用的工具,但在我看來最好用的是pytracemalloc。與其他工具相比,它開銷非常小(不需要依賴于嚴(yán)重影響速度的sys.settrace)而且輸出非常詳盡。但安裝起來比較痛苦,你需要重新編譯python,但有了apt,做起來也非常容易。
只需要運(yùn)行這些命令然后去吃頓午餐或者干點(diǎn)別的:
apt-get source python2.7
cd python2.7-*
wget? https://github.com/wyplay/pytracemalloc/raw/master/python2.7_track_free_list.patch
patch -p1 < python2.7_track_free_list.patch
debuild -us -uc
cd ..
sudo dpkg -i python2.7-minimal_2.7*.deb python2.7-dev_*.deb
接著安裝pytracemalloc (注意如果你在一個(gè)virtualenv虛擬環(huán)境下操作,你需要在重新安裝python后再次重建 – 只需要運(yùn)行 virtualenv myenv)
pip install pytracemalloc
現(xiàn)在像下面這樣在代碼里包裝你的應(yīng)用程序
import tracemalloc, time
tracemalloc.enable()
top = tracemalloc.DisplayTop(
5000, # log the top 5000 locations
file=open('/tmp/memory-profile-%s' % time.time(), "w")
)
top.show_lineno = True
try:
# code that needs to be traced
finally:
top.display()
輸出會像這樣:
2013-05-31 18:05:07: Top 5000 allocations per file and line
#1: .../site-packages/billiard/_connection.py:198: size=1288 KiB, count=70 (+0),
average=18 KiB
#2: .../site-packages/billiard/_connection.py:199: size=1288 KiB, count=70 (+0),
average=18 KiB
#3: .../python2.7/importlib/__init__.py:37: size=459 KiB, count=5958 (+0),
average=78 B
#4: .../site-packages/amqp/transport.py:232: size=217 KiB, count=6960 (+0),
average=32 B
#5: .../site-packages/amqp/transport.py:231: size=206 KiB, count=8798 (+0),
average=24 B
#6: .../site-packages/amqp/serialization.py:210: size=199 KiB, count=822 (+0),
average=248 B
#7: .../lib/python2.7/socket.py:224: size=179 KiB, count=5947 (+0), average=30
B
#8: .../celery/utils/term.py:89: size=172 KiB, count=1953 (+0), average=90 B
#9: .../site-packages/kombu/connection.py:281: size=153 KiB, count=2400 (+0),
average=65 B
#10: .../site-packages/amqp/serialization.py:462: size=147 KiB, count=4704
(+0), average=32 B
…
很美,不是嗎?
補(bǔ)充:更多有關(guān)調(diào)試的內(nèi)容見這里。
原文鏈接: Ionel
Cristian M?rie????翻譯: 伯樂在線 - 高磊
譯文鏈接:
http://blog.jobbole.com/51062/
[ 轉(zhuǎn)載必須在正文中標(biāo)注并保留原文鏈接、譯文鏈接和譯者等信息。]
關(guān)于作者: 高磊
關(guān)注后臺技術(shù),渴望將技術(shù)做到極致
新浪微博@kaulie
總結(jié)
以上是生活随笔為你收集整理的emacs python debug_我常用的 Python 调试工具 - 博客 - 伯乐在线的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 驱动思想之机制和策略
- 下一篇: isleapyear python_Py