這兩天由于公司需要， 自己編寫了一個用于接收dicom文件(醫(yī)學(xué)圖像文件)的server. 經(jīng)過各種coding-debuging-coding-debuging之后, 終于上線了, 上線后心里美滋滋的, 一切正常.

第二天一上班, 負(fù)責(zé)人和我說接收太慢了, 卡的要死. 我想難道是python本身的問題?(程序員本征思維)我好奇的打開了終端輸入

找到進(jìn)程id：

即 21610

我這里還沒傳幾張圖片就到78m了, 看來是內(nèi)存問題. 其實(shí)生產(chǎn)環(huán)境占用更多, 因?yàn)樯a(chǎn)環(huán)境保密所以只能在測試環(huán)境測試比較少的數(shù)據(jù), 生產(chǎn)環(huán)境曾一度上升到3.7g的內(nèi)存占用.

這樣果斷不行啊. 我發(fā)現(xiàn)有新的文件上傳之后內(nèi)存占用就會增大, 初步斷定是dicom文件相關(guān)對象占用的內(nèi)存. 現(xiàn)在的首要工作就是找到一個能進(jìn)行內(nèi)存泄露的調(diào)試工具了.

說道這里可能大家會有疑問, python作為動態(tài)類型語言同時擁有垃圾回收機(jī)怎么會有內(nèi)存泄露? 其實(shí)也有可能出現(xiàn)內(nèi)存泄露的情況, 有如下幾種:

1. 對象一直被全局變量所引用, 全局變量生命周期長.

2. 垃圾回收機(jī)被禁用或者設(shè)置成debug狀態(tài), 垃圾回收的內(nèi)存不會被釋放.

3. 也是非常罕見的內(nèi)存泄露的方式就是今天遇到的問題, 我周旋這個問題兩天才debug出來, 現(xiàn)在分享給大家.客官請您繼續(xù)往下看

說到查看python內(nèi)存泄露的工具, 其實(shí)有挺多, 現(xiàn)在簡短介紹一下

• gc: python 內(nèi)置模塊, 函數(shù)少功能基本, 使用簡單, 作為python開發(fā)者里邊的內(nèi)容必須過一遍

• objgraph: 可以繪制對象引用圖, 對于對象種類較少, 結(jié)構(gòu)比較簡單的程序適用, 我這個一個庫套一個庫, 內(nèi)存還用的這么多,

• guppy: 可以對堆里邊的對象進(jìn)行統(tǒng)計(jì), 算是比較實(shí)用

• pympler: 可以統(tǒng)計(jì)內(nèi)存里邊各種類型的使用, 獲取對象的大小

上邊這些雖然有用但是總是搞不到點(diǎn)子上, 上邊這些都需要改我的源程序, 比較費(fèi)勁, 線上的代碼不是說改就能改的, 而且他們功能也都比較弱, 后來發(fā)現(xiàn)兩個強(qiáng)大的工具:

• tracemalloc: 究極強(qiáng), 可以直接看到哪個(哪些)對象占用了最大的空間, 這些對象是誰, 調(diào)用棧是啥樣的, python3直接內(nèi)置, python2如果安裝的話需要編譯

• pyrasite: 牛逼的第三方庫, 可以滲透進(jìn)入正在運(yùn)行的python進(jìn)程動態(tài)修改里邊的數(shù)據(jù)和代碼(其實(shí)修改代碼就是通過修改數(shù)據(jù)實(shí)現(xiàn))

我開始的時候非常想用tracemalloc, 可是對python2特別不友好, 需要重新編譯python, 而且只能用python2.7.8編譯, 編譯好了也不容易嵌入到虛擬環(huán)境中, 頭大, 果斷換第二個.

注: pyrasite使用之前需要在root用戶下運(yùn)行命令 echo 0 > /proc/sys/kernel/yama/ptrace_scope后才能正常使用

pyrasite里邊有一個工具叫pyrasite-memory-viewer, 功能和guppy差不多, 不過可以對內(nèi)存使用統(tǒng)計(jì)和對象之間的引用關(guān)系進(jìn)行快照保存, 很易用也很強(qiáng)大.運(yùn)行

pyrasite-memory-viewer

可以看到占用內(nèi)存最多的是DicomFileLike這種類型的對象.已經(jīng)達(dá)到上萬個, 這是不能忍受的.

就目前來看可能會有上邊說的兩種內(nèi)存泄露原因?qū)е虏荒芑厥者@個對象.打開

pyrasite-shellpyrasite-shell

我先通過

gc.isenabled()

判斷gc是否在工作, 結(jié)果發(fā)現(xiàn)是True, 也就是正常工作的, 而且使用gc.setdebug(gc.STATUS)設(shè)置gc為debug模式, 然后gc.collect()進(jìn)行垃圾回收發(fā)現(xiàn)并沒有更多內(nèi)存釋放,則否認(rèn)了第二種泄露的可能.

現(xiàn)在來看gc.garbage中不能被釋放的對象, 讓我來檢查一下是否有全局變量指向它們(這里極有可能是一個列表或者是一個字典)

gc.garbage 可以看到被塞滿了各種DicomFileLike對象

所以我們的目的就是先找到一個對象然后一級一級的向上尋找相互的引用.

到這里發(fā)現(xiàn)其實(shí)沒有更多的全局變量指向這個d了, 而且發(fā)現(xiàn)所以有的方法的對象地址和d是相同的, 說明了這個對象其實(shí)是自循環(huán)引用的.

那么python不可能不支持循環(huán)引用對象的回收吧? 跟著這個問題我查了一下stackoverflow

Does Python GC deal with reference-cycles like this?

這個問題的第一個回答介紹的很清楚了, 如果用戶不自定類的__del__方法, gc可以回收帶有自引用的對象, 但是你自己實(shí)現(xiàn)了__del__方法就不行了.

這就是python內(nèi)存泄露的第三個可能.

回頭看DicomFileLike的源碼, 果然在__init__函數(shù)上方定義了一個__del__函數(shù), 我這里使用了一個猴子補(bǔ)丁刪除了這個方法, 內(nèi)存泄露的問題就得以解決了.

總結(jié)

到這里整個調(diào)試過程就結(jié)束了, 然而實(shí)際上過程中做了很多曲折的工作, 在pyrasite中會找到幾個引用DicomFileLike對象的object, 比較不容易辨別, 最開始我以為是某個全局的對象引用的DicomFileLike, 比如是列表什么的, 后來發(fā)現(xiàn)其實(shí)是locals()和globals()字典, 如果使用pyrasite-memory-viewer保存下來的數(shù)據(jù)會發(fā)現(xiàn)有一個大列表指向所有沒有回收的DicomFileLike對象, 捯飭半天發(fā)現(xiàn)其實(shí)是gc.garbage, 好囧, 曾讓我一度懷疑是第一種泄露方式, 但是怎么找這個對象都沒有找到. 其中還有幾次看到線程達(dá)到140+, 后來發(fā)現(xiàn)其實(shí)和線程一點(diǎn)關(guān)系沒有, 線程維持在這個數(shù)目上邊很穩(wěn)定.

在這個過程中用到的其他幾個hack的技巧有:

查看進(jìn)程的線程數(shù)量

根據(jù)對象的id/address動態(tài)獲取對象

查看垃圾回收的日志