多線程技術在數(shù)據(jù)實時采集分析中的應用

數(shù)字接口設備是實現(xiàn)標準422串行總線到自定義串行總線轉換的專用通信設備。數(shù)字接口測試系統(tǒng)根據(jù)數(shù)字接口設備的工作原理，輸出422串行數(shù)據(jù)和自定義串行總線的控制信號（YCK,YZM）給數(shù)字接口設備，并對其輸出的串行數(shù)據(jù)（YDATA）進行采集、存儲、分析和處理，從而達到對被測設備進行檢測的目的。本數(shù)字接口測試系統(tǒng)共提供了八個測試通道，每個通道的422串行總線和自定義串行總線的相關參數(shù)都可由測試人員通過應用軟件進行設置。為方便對數(shù)據(jù)進行分析，同時在軟件上約定了發(fā)送的數(shù)據(jù)格式為：AA xx 01 23 45 67 89 AB CD EF 01 23… 10，其中幀頭為0xAA，幀尾為0x10，xx為發(fā)送計數(shù)器值，每發(fā)送一次依次加1。應用軟件通過相應的算法對自定義串行總線接收數(shù)據(jù)進行實時分析和處理，如：已經(jīng)接收的字節(jié)數(shù)，共接收了多少幀數(shù)據(jù)，共出錯有多少字節(jié)……并將結果在測試界面上動態(tài)顯示，測試人員可以根據(jù)這些實時的測試結果來判斷被測設備是否正常工作，一旦發(fā)現(xiàn)測試數(shù)據(jù)誤碼率太高，即可馬上斷電停止測試，防止被測設備燒壞。

系統(tǒng)實現(xiàn)方案

　　數(shù)字接口測試系統(tǒng)原理框圖如圖1所示。測試設備通過USB2.0總線與操作控制計算機進行連接，每臺測試設備提供了八個通道的數(shù)據(jù)發(fā)送和接收單元，其中數(shù)據(jù)發(fā)送單元用于輸出422異步串行數(shù)據(jù)，其波特率最高可達614.4 kbps，幀長可根據(jù)測試要求進行調整，每幀數(shù)據(jù)最高循環(huán)發(fā)送幀周期為5ms；數(shù)據(jù)接收單元用于產(chǎn)生自定義串行總線的控制信號YZM和YCK，并從YDATA讀回數(shù)據(jù)，YCK和YZM最高分別可達1.6384MHz和25.6kHz。

　　由于測試過程中傳輸數(shù)據(jù)量大，且需要對采集回來的數(shù)據(jù)做實時分析，因此對數(shù)據(jù)的實時采集和分析采用多線程分別進行處理。應用軟件中主界面線程主要負責完成人機界面操作，同時分別打開數(shù)據(jù)采集和數(shù)據(jù)分析兩個線程來同步協(xié)調工作，為保證數(shù)據(jù)采集和分析過程的連續(xù)和數(shù)據(jù)完整，兩個線程之間通過開辟高速內存緩沖區(qū)和內存映射文件的方式來實現(xiàn)高速數(shù)據(jù)流的一、二級緩沖。其中一級緩沖區(qū)實現(xiàn)對USB總線上傳數(shù)據(jù)的緩存，用于實現(xiàn)接收的USB數(shù)據(jù)包按照各個通道進行數(shù)據(jù)分解；二級緩沖則按照通道號將分解輸出的數(shù)據(jù)分別進行暫存，用于數(shù)據(jù)分析線程實現(xiàn)數(shù)據(jù)分析處理。整個方案中，數(shù)據(jù)包的上傳、存儲、數(shù)據(jù)分解、數(shù)據(jù)分析等操作均是在內存中完成，速度快，正確率高，再加上采用新的線程同步方法，既保證了數(shù)據(jù)采集線程高速數(shù)據(jù)吞吐量、數(shù)據(jù)分析線程的快速響應和實時分析，又保證了整個方案較高的性能和最低的系統(tǒng)開銷。數(shù)據(jù)緩存處理如圖2。

數(shù)據(jù)采集

　　為了實現(xiàn)USB返回數(shù)據(jù)的保存，在內存中構建了一個12k的高速內存緩沖區(qū)，12k的空間以512字節(jié)（一個USB數(shù)據(jù)包的大?。閱挝黄骄殖?4等份。多線程同步中常用信號量來控制訪問某一共享資源的線程數(shù)，結合操作系統(tǒng)中生產(chǎn)者和消費者的思想可采用擴展信號量的方式來完成線程同步。數(shù)據(jù)采集線程操作時，12k高速緩沖區(qū)分別用讀寫兩個信號量作為狀態(tài)指示，對數(shù)據(jù)讀入和輸出進行控制。寫信號量個數(shù)初始化為24個（表示有24個數(shù)據(jù)區(qū)間可寫入），讀信號量個數(shù)初始化為0個（表示有0個空間有數(shù)據(jù)需要讀出），數(shù)據(jù)采集線程等效為生產(chǎn)者，數(shù)據(jù)分析線程等效為消費者。如圖3所示。USB接口每返回一包數(shù)據(jù)，首先判斷寫信號量個數(shù)，為零則線程阻塞等待，不為零則實現(xiàn)數(shù)據(jù)寫入操作，將USB數(shù)據(jù)包內容存入當前生產(chǎn)者指針(pWriteIndex)所指向地址的后512字節(jié)緩沖區(qū)中，完成后生產(chǎn)者指針加512，寫信號量減1，讀信號量加1，這是生產(chǎn)的過程。當線程切換到數(shù)據(jù)分析線程后開始消費（對采集回來的數(shù)據(jù)包分解處理），首先判斷讀信號量個數(shù)，為零（沒有可消費的）則線程阻塞等待，不為零則由消費者指針(pReadIndex)來控制讀取一包數(shù)據(jù)。一包數(shù)據(jù)讀取完畢后消費者指針加512，讀信號量減1，寫信號量加1。由以上分析可知，整個12k的緩沖區(qū)在讀寫兩個信號量的協(xié)調工作下不僅實現(xiàn)了數(shù)據(jù)采集和數(shù)據(jù)分析線程的同步，并且通過互鎖機制保證了生產(chǎn)者指針和消費者指針不會指向同一塊內存區(qū)域，使整個系統(tǒng)的可靠性得到顯著提高。

數(shù)據(jù)分析

　　由于數(shù)字接口測試設備八個通道可同時工作，為了區(qū)別USB總線上傳的數(shù)據(jù)包中的數(shù)據(jù)分別對應哪一個通道的數(shù)據(jù)，并滿足數(shù)據(jù)傳輸?shù)膶崟r性要求，每個通道以64字節(jié)為單位將測試數(shù)據(jù)送入USB接口的內部緩沖區(qū)，其第一個字節(jié)用于標識隨后63字節(jié)是哪一個通道的數(shù)據(jù)，分別用01，02……07,08進行標識。當USB接口的內部緩沖區(qū)填滿512字節(jié)后即通過USB總線上傳到計算機內存中的高速緩沖區(qū)。所以在數(shù)據(jù)分析時首先需要從USB數(shù)據(jù)包中提取每個通道回傳的測試數(shù)據(jù)，然后與標準格式數(shù)據(jù)進行對比分析?？梢娙粼陂L時間測試時，數(shù)據(jù)分析線程數(shù)據(jù)處理量大，任務繁重。為保證整個系統(tǒng)的實時性和數(shù)據(jù)分析準確性，測試接收回來的數(shù)據(jù)按照通道號不同分別保存在不同的內存映射文件中。

　　數(shù)據(jù)分析線程在讀信號量和消費者指針的控制下成功讀取一包數(shù)據(jù)后，根據(jù)通道標示號提取此包中每個通道的數(shù)據(jù)，寫入對應的內存映射文件中，再調用數(shù)據(jù)處理函數(shù)對每個通道數(shù)據(jù)做誤碼分析。誤碼分析的結果可由主界面線程調用顯示。數(shù)據(jù)分解流程如圖4所示。

為了保證測試效率和數(shù)據(jù)處理的正確性，pWriteCounter既用于控制內存映射文件寫入數(shù)據(jù)指針的移動，也用于判斷已接收的數(shù)據(jù)字節(jié)數(shù)，作為數(shù)據(jù)處理時讀內存映射文件指針的參考和是否開始對數(shù)據(jù)進行分析的條件。數(shù)據(jù)處理時，并不是內存映射文件中寫入數(shù)據(jù)后就馬上開始分析，而是根據(jù)pWriteCounter確定已接收的數(shù)據(jù)字節(jié)數(shù)，直到接收回來大于一個標準幀長度的數(shù)據(jù)后才開始對此幀數(shù)據(jù)的誤碼率分析，這樣既避免了多次分析一幀數(shù)據(jù)，又保證了數(shù)據(jù)分析的正確性，而且減少了數(shù)據(jù)分析線程獨占CPU的時間。從最終實際運行結果來看，此方法有效解決了數(shù)據(jù)實時采集過程中掉數(shù)據(jù)的問題。

　　數(shù)據(jù)經(jīng)分解寫入對應通道內存映射文件后，還需要實時地將每個通道接收回來的測試數(shù)據(jù)和標準數(shù)據(jù)進行對比分析，并以誤碼率形式進行顯示，測試人員根據(jù)實時變化的誤碼率即可監(jiān)測數(shù)字接口設備是否工作正常。數(shù)據(jù)分析處理流程如圖5所示。在實際使用中，數(shù)字接口設備可能出現(xiàn)的故障現(xiàn)象較多，采集接收回來的數(shù)據(jù)量相當大且數(shù)據(jù)出錯情況各不相同，不能誤判或漏掉任何一種情況，通過反復測試得出以下對固定格式數(shù)據(jù)處理的方法：

　　①從每個通道的內存映射文件中逐個字節(jié)掃描幀頭0xAA，一旦檢測到幀頭0xAA，進入第②步。

　?、谑紫扰袛啻藥瑪?shù)據(jù)的幀尾位置是否為0x10，以及幀尾的前一個數(shù)據(jù)和對應的標準數(shù)據(jù)(標準數(shù)據(jù)幀尾的前一個數(shù))是否相同，若同時滿足這兩個條件，說明此幀數(shù)據(jù)為標準幀(此幀數(shù)據(jù)長度和發(fā)送的標準幀幀長度相等)，若不滿足進行第④步操作。

　?、叟袛啻藥瑸闃藴蕩?，從此幀數(shù)據(jù)和標準數(shù)據(jù)的第二位開始到幀尾一一進行對比判斷（跳過第0個幀頭數(shù)據(jù)和第1個計數(shù)器數(shù)據(jù)），不相等則記錄出錯，每發(fā)現(xiàn)一處錯誤字節(jié)，錯誤字節(jié)數(shù)加1。進入第⑥步。

　?、軓膸^到幀長度數(shù)據(jù)范圍內查找是否出現(xiàn)0xAA，出現(xiàn)0xAA，首先用第②步操作判斷此0xAA是否為下一幀數(shù)據(jù)的幀頭，若是下一幀數(shù)據(jù)幀頭，記錄幀頭前一個字節(jié)為此幀幀尾位置，說明此幀數(shù)據(jù)有掉數(shù)據(jù)現(xiàn)象，否則為錯誤數(shù)據(jù)，調用非標準幀處理。

　?、輳拇藥瑪?shù)據(jù)和標準數(shù)據(jù)的第二位開始到確定的該幀長度范圍內數(shù)據(jù)進行一一對比判斷 (跳過第0個幀頭數(shù)據(jù)和第1個計數(shù)器數(shù)據(jù))，不相等則記錄出錯，并判斷為錯誤一個字節(jié)。

　　⑥檢查該幀中計數(shù)器數(shù)據(jù)與前后幀的計數(shù)器數(shù)據(jù)是否連續(xù)，如果連續(xù)則沒有幀出錯，否則有掉幀現(xiàn)象出現(xiàn)，需要根據(jù)前后計數(shù)器數(shù)據(jù)確定掉幀的長度，并轉化為對應錯誤字節(jié)數(shù)。

　　同時接上兩個被測設備驗證整個系統(tǒng)的性能，即使每個通道均選擇工作在最高波特率614.4 kbps和最高循環(huán)發(fā)送幀周期5ms下，仍能保證數(shù)據(jù)采集實時高速、數(shù)據(jù)質量穩(wěn)定且誤碼率低。

結束語

　　實時測試與結果顯示如圖6所示。該技術已經(jīng)成功應用于某數(shù)字接口設備的檢測與維修系統(tǒng)，取得了良好的效果。經(jīng)大量測試驗證，此種多線程、內存映射文件和兩級緩沖的方法在高速實時數(shù)據(jù)采集和分析中效果很好。根據(jù)生產(chǎn)者和消費者的思想建立的讀寫信號量有效地實現(xiàn)了采集和分析線程間的同步，內存映射文件的大小在開始測試前申請為100M，當需要更長時間測試時還可以動態(tài)申請開辟新的內存空間，既保證了系統(tǒng)的實時性要求，又有效節(jié)約了系統(tǒng)內存資源。