《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > Hadoop集群下的并行克隆代碼檢測
Hadoop集群下的并行克隆代碼檢測
來源:微型機與應用2014年第2期
葉 林,姚國祥
(暨南大學 信息科學技術學院,廣東 廣州510632)
摘要: 克隆代碼會導致項目的維護困難,削弱項目的健壯性,并且克隆代碼中所包含的bug會破壞整個項目。當前克隆代碼檢測技術或者拘泥于只能檢測少數幾種克隆代碼,或者需要極高的檢測時間。而且如果需要檢測大量的源代碼,一臺機器的主存也許無法存儲所有的信息。對克隆代碼檢測技術的并行運行進行了可能性研究,使用基于程序依賴圖的克隆代碼檢測技術,這種技術不僅可以檢測出語法上的克隆,也可以檢測出語義上的克隆,提出了一個并行子圖同構檢測方法并使用MapReduce并行實現,實驗結果極大地提高了該方法的運行速度。
Abstract:
Key words :

摘  要: 克隆代碼會導致項目的維護困難,削弱項目的健壯性,并且克隆代碼中所包含的bug會破壞整個項目。當前克隆代碼檢測技術或者拘泥于只能檢測少數幾種克隆代碼,或者需要極高的檢測時間。而且如果需要檢測大量的源代碼,一臺機器的主存也許無法存儲所有的信息。對克隆代碼檢測技術的并行運行進行了可能性研究,使用基于程序依賴圖的克隆代碼檢測技術,這種技術不僅可以檢測出語法上的克隆,也可以檢測出語義上的克隆,提出了一個并行子圖同構檢測方法并使用MapReduce并行實現,實驗結果極大地提高了該方法的運行速度。
關鍵詞: 克隆代碼;程序依賴圖;同構匹配檢測;Hadoop

    在軟件項目的開發過程中,由于能夠降低開發者的工作量,“復制粘貼”也許是最常使用的操作。但這也帶來了克隆代碼的問題。
    克隆代碼的存在給軟件維護帶來了困難,當開發者試圖修改代碼時,他們很可能修改了克隆代碼中的一處而忘記了別的地方,這顯然會帶來代碼的不一致。為了避免這個難題,大量的克隆代碼檢測技術被提出。但問題在于克隆代碼的精確定義本身就不明確,現有的每一種方法都有其對于克隆代碼自己的定義。因此,同樣的源代碼,如果用不同的克隆代碼檢測方法檢測,可能會得到完全不同的結果。
    基于程序依賴圖的方法能夠探測語義克隆代碼,而且它還具有一個其他方法所不具有的能力:能夠探測非連續性的克隆代碼[1]。非連續性的克隆代碼是被其他代碼或文件所分割開來的克隆代碼,克隆代碼中的代碼并不是連續的。而開發者往往會在粘貼克隆代碼后做一些修改,這樣,基于程序依賴圖的檢測方法就能夠檢測出這種克隆代碼。
    但是基于程序依賴圖的方法有一個很大的缺點,即運行非常緩慢。程序依賴圖的同構檢測是著名的圖同構匹配問題,該問題為NP完全問題,需要指數級的時間復雜度,這導致了運行時間呈指數級增長。
    本文提出了一種并行執行程序依賴圖同構匹配的方法。通過使用這種方法,減少了這一特定問題的圖同構匹配算法所需要的時間。并使用MapReduce這一流行的并行框架來并行該方法。
1 背景知識
1.1 程序依賴圖

    程序依賴圖是一個有向圖,該圖的頂點代表了源代碼中的代碼,而邊代表了兩個頂點之間的依賴。在程序依賴圖中只有兩種邊:代表控制依賴的邊和代表數據依賴的邊。以下展示了一個源代碼的例子,圖1為該源代碼所產生的程序依賴圖。

    #include <stdio.h>
    #include <string.h>
    #include <stdio.h>
    #include <stdlib.h>
    
    #define BUFFER_SIZE     1024
    #define DELIM   "\t"
    
    int main(int argc, char *argv[]){
        char strLastKey[BUFFER_SIZE];
        char strLine[BUFFER_SIZE];
        int count = 0;
    
        *strLastKey = '\0';
        *strLine = '\0';
    
        while( fgets(strLine, BUFFER_SIZE - 1, stdin) ){
            char *strCurrKey = NULL;
            char *strCurrNum = NULL;
    
            strCurrKey  = strtok(strLine, DELIM);
            strCurrNum = strtok(NULL, DELIM);
/* necessary to check error but.... */
    
            if( strLastKey[0] == '\0'){
                strcpy(strLastKey, strCurrKey);
            }
    
            if(strcmp(strCurrKey, strLastKey)){
                printf("%s\t%d\n", strLastKey, count);
                count = atoi(strCurrNum);
            }else{
                count += atoi(strCurrNum);
            }
            strcpy(strLastKey, strCurrKey);
    
        }
        printf("%s\t%d\n", strLastKey, count);
/* flush the count */
        return 0;
    }
1.2 MapReduce
    MapReduce[2]是一個流行的編程模型,該模型能夠通過一個運行在集群上的并行的、分布式的算法對大數據集進行處理。它提供了一個簡單易用的并行算法編程框架,使用該框架的開發者只需要定義兩個函數:Map和Reduce。原始數據被該框架轉換成鍵值對,每一個Map進程每一次處理一個鍵值對(key,value):
    Map:  <k1, v1> → <k2, v2>
    Map函數在集群中并行執行,MapReduce框架將所有相同的key的鍵值對傳遞給一個Reduce函數。Reduce函數產生最終的結果:
    Reduce: <k2,v2> → <k3,v3>
2 程序設計算法
    首先把源代碼轉換成以靜態形式表示數據流和控制流的程序依賴圖,將其記為s-PDG。程序依賴圖的節點代表了源代碼中的語句(聲明、賦值、表達式、控制邏輯等),同時記錄所有節點對應源代碼的類別以便在后面的比對中使用。然后選擇一段程序塊所對應的s-PDG的子圖,作為查找與圖同構的樣本,將這個子圖記為b-PDG。隨后對s-PDG和b-PDG進行比對,以檢測除了b-PDG本身以外是否還有別的s-PDG的子圖與b-PDG同構。如果有,則這個子圖所對應的代碼就與b-PDG對應的程序塊為克隆代碼。
    經典的算法在檢測子圖同構時只能順序執行,本文所要做的是將s-PDG切分成多個小圖,然后并行子圖同構檢測。在論述切分s-PDG的方法之前,先給出會在切分中使用的偽圓的定義。
    在圖G=(V,E)中,任給A∈V,以A為圓心,以一個正數為半徑,對于任意節點B∈V,如果AB之間的最短路徑長度(對于邊無權值的圖,最短路徑長度為最短路徑所經過的節點的個數)小于半徑,則B位于該偽圓中。當計算最短路徑時忽略邊的方向。
    按照參考文獻[3]中提出的方法切割s-PDG:
    (1)根據s-PDG節點的種類分別計數。

 


    (2)取出s-PDG中數量最少的節點的種類,將其記為種類l。然后選取出b-PDG中屬于種類l的節點。如果b-PDG中沒有種類l的節點,則變更種類l為s-PDG中第二少種類的節點。如果種類l仍然在b-PDG中沒有節點,則繼續變更種類l為s-PDG中第三少種類的節點,直到b-PDG中存在種類l的節點。
    (3)計算s-PDG中所有這些種類l的節點與其他節點的距離,將最大值定為偽半徑。
    (4)以上面計算出的偽半徑,以s-PDG中種類為l的節點為圓心,可以得到一些偽圓。這些偽圓就是切割s-PDG的最終結果。將它們記為c-PDG的集合。
    在查找同構子圖的過程中必須檢查節點的種類,對應的節點必須有同樣的種類。所以同構子圖必須有種類為l的節點。考慮到b-PDG的尺寸大小,在s-PDG中的節點如果距步驟(4)中選取的圓心距離過大,則這些節點不可能處于同構子圖中,因此可以把這些節點切除不再考慮。
    該算法的基本流程如圖2所示。

3 算法的實現
    使用JavaPDG[4]生成整個項目的程序依賴圖。JavaPDG是一個靜態的Java字節碼分析器。這個工具能夠產生各種不同的對源代碼的圖形展示,例如系統依賴圖、程序依賴圖、控制流圖和函數調用圖。
    使用Hadoop[5](一個MapReduce框架的開源實現)來并行這個子圖集的同構匹配。
    使用Igraph[6]來檢測子圖同構匹配。Igraph是一個針對圖的操作的開源軟件包,由于Igraph是用C語言寫成的,必須通過Hadoop流來將這個軟件包用于并行同構檢測。
4 實驗與評價
    通過對兩個開源項目的檢測來評價本文的算法,結果如表1所示。通過代碼行數和對應程序依賴圖的節點和邊的個數來對比項目的大小。將經典PDG匹配算法與以3臺機器組成的集群上并行為例的本文算法所消耗的時間進行了比較。

    結果顯示,本文算法極大地提高了同構匹配的性能,經典的程序依賴圖同構匹配算法需要花費幾個小時,而本文并行算法僅僅花費幾分鐘。這是因為并行算法移除了程序依賴圖中的部分節點,而且并行了同構匹配的過程。
    本文提出了一種提高基于程序依賴圖的克隆代碼檢測性能的方法。把程序依賴圖分割成若干個小圖并使用Hadoop并行執行子圖同構檢測,使得算法的性能得到了提高。使用兩個得到廣泛使用的開源項目來測試本文算法,測試結果顯示該算法顯著地提高了克隆代碼檢測的性能。
參考文獻
[1] BELLON S,KOSCHKE R,ANTONIOL G,et al.Comparison  and evaluation of clone detection tools[J].IEEE Transactions on Software Engineering,2007,33(9):577-591.
[2] DEAN J,GHEMAWAT S.MapReduce:simplified data processing on large clusters[J].Communications of the ACM, 2008,51(1):107-113.
[3] LI J,ERNST M D.CBCD:cloned buggy code detector[C].  ICSE 34th International Conference on Software Engineering, 2012:310-320.
[4] SHU G,SUN B, HENDERSON T A,et al.JavaPDG:a new  platform for program dependence analysis[C].In Proceedings  of the 6th IEEE International Conference on Software Testing,Verification and Validation, Testing Tools Track,Luxembourg,2013:18-22.
[5] Hadoop.The apache software foundation[EB/OL].[2013-09-10].http://hadoop.apache.org/.
[6] CSARDI G,NEPUSZ T.The igraph software package for complex network research[C].InterJournal,Complex Systems, 1695.2006.

此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲欧洲在线一区| 91久久久精品| 亚洲国产天堂久久国产91| 国产精品美女xx| 欧美性猛交视频| 欧美日韩一区二区三区视频| 欧美国产视频在线| 欧美韩日高清| 欧美了一区在线观看| 欧美精品在欧美一区二区少妇| 免费在线看成人av| 欧美成人日本| 欧美电影免费观看大全| 欧美成人精品在线视频| 欧美成人69av| 欧美精品免费播放| 欧美日韩二区三区| 欧美天堂在线观看| 国产精品蜜臀在线观看| 国产精品久久久久久亚洲调教| 国产精品av久久久久久麻豆网| 欧美私人网站| 国产精品成人一区二区三区夜夜夜| 欧美丝袜一区二区三区| 国产精品久久一区主播| 国产酒店精品激情| 国产一区二区三区久久久| 黄色成人在线免费| 在线观看三级视频欧美| 亚洲国产日韩欧美在线99| 亚洲欧洲综合| 国产精品99久久99久久久二8| 亚洲免费中文字幕| 欧美与欧洲交xxxx免费观看 | 亚洲电影专区| 亚洲黄色av| 99精品国产在热久久| 亚洲一区二区在线| 欧美专区亚洲专区| 亚洲精品在线视频| 亚洲综合精品自拍| 久久精品中文字幕一区二区三区| 免费高清在线视频一区·| 欧美区亚洲区| 国产精品日本精品| 国外成人在线视频网站| 亚洲国产精品一区在线观看不卡 | 欧美一区二区三区在线观看 | 国内外成人在线视频| 最新国产乱人伦偷精品免费网站 | 亚洲欧美一区二区激情| 亚洲国产乱码最新视频| 一区二区三欧美| 欧美在线免费观看视频| 欧美aa在线视频| 国产精品久久二区| 黄色成人在线网址| 野花国产精品入口| 久久精品一区| 亚洲无线视频| 久久亚洲春色中文字幕| 欧美美女操人视频| 国产日韩成人精品| 亚洲三级电影在线观看 | 欧美伊人久久久久久久久影院 | 欧美日本国产精品| 国产欧美日韩综合精品二区| 亚洲国产成人精品久久久国产成人一区 | 亚洲午夜视频在线| 久久综合给合久久狠狠狠97色69| 欧美日韩视频在线一区二区| 国产永久精品大片wwwapp| 亚洲久久视频| 亚洲丰满在线| 午夜精品成人在线| 欧美高清在线一区| 国产亚洲一本大道中文在线| 99国产精品久久久久老师| 欧美在线一区二区| 亚洲影音先锋| 欧美另类亚洲| 国产综合香蕉五月婷在线| 亚洲另类一区二区| 亚洲国内精品| 久久精品国产99国产精品澳门| 欧美日韩精品免费观看视一区二区 | 欧美在线亚洲在线| 欧美午夜不卡视频| 91久久久久久久久| 亚洲高清av在线| 欧美一区二区三区播放老司机 | 黑人极品videos精品欧美裸| 中文欧美在线视频| 日韩亚洲在线| 狂野欧美一区| 国产亚洲成av人在线观看导航 | 另类国产ts人妖高潮视频| 国产精品视频xxxx| 99国产精品自拍| 亚洲免费观看高清完整版在线观看熊| 久久全球大尺度高清视频| 国产精品视频免费在线观看| 一本色道久久综合精品竹菊 | 亚洲特色特黄| 欧美精品免费播放| 亚洲国产成人不卡| 亚洲国内自拍| 久久伊人精品天天| 国产一区二区三区成人欧美日韩在线观看 | 久久成人免费视频| 久久精品国产v日韩v亚洲| 国产精品久久久久久久久久久久| 99热在这里有精品免费| 99日韩精品| 欧美国产激情二区三区| 亚洲第一偷拍| 亚洲精品永久免费| 欧美高清在线视频| 亚洲国产一区在线| 亚洲另类在线一区| 欧美激情片在线观看| 亚洲国产欧美久久| 99热在线精品观看| 99re热这里只有精品免费视频| 一本久道久久综合中文字幕| 依依成人综合视频| 欧美一级播放| 久久久精品免费视频| 国产一区二区三区在线观看视频 | 国产精品99久久久久久白浆小说| 欧美精品一区在线观看| 亚洲精品久久久久久下一站 | 看片网站欧美日韩| 亚洲电影一级黄| 亚洲精品一级| 欧美日韩大陆在线| 亚洲色图综合久久| 欧美亚洲日本网站| 国产欧美日韩在线视频| 久久av在线| 欧美成人精品| 亚洲最新在线视频| 欧美在线视频全部完| 国内精品久久国产| 亚洲另类在线视频| 欧美视频免费| 午夜一区不卡| 久热成人在线视频| 91久久久久久国产精品| 亚洲午夜极品| 国产亚洲精品久久飘花| 亚洲丁香婷深爱综合| 欧美日韩国产成人在线91| 亚洲视频欧美在线| 久久久久高清| 亚洲人成77777在线观看网| 亚洲一区国产| 国内精品久久久久久影视8| 亚洲毛片一区二区| 国产精品久久久久影院亚瑟| 久久精品毛片| 欧美日本精品在线| 午夜精品福利在线| 欧美国产精品一区| 亚洲综合电影| 久久影视精品| 一区二区国产日产| 久久久久综合网| 99精品欧美一区二区三区| 欧美在线观看视频| 91久久精品国产91性色| 亚洲欧美日韩综合国产aⅴ| 狠狠v欧美v日韩v亚洲ⅴ| 一本一道久久综合狠狠老精东影业| 国产女人精品视频| 亚洲精品一区久久久久久| 国产精品视区| 亚洲精品小视频在线观看| 国产精品一区二区三区乱码| 亚洲精品欧美激情| 国产伦精品一区二区三区高清| 亚洲美女中文字幕| 国产一区二区三区在线免费观看 | 一本综合久久| 久久在线免费| 亚洲性视频网站| 欧美黄色影院| 欧美主播一区二区三区| 欧美视频在线免费| 亚洲国产欧美一区二区三区丁香婷| 欧美日韩综合网| 亚洲成色最大综合在线| 国产精品久久久久久户外露出| 亚洲欧洲日产国码二区| 国产日本精品| 亚洲一区久久久| 亚洲激情在线视频| 久久婷婷综合激情| 亚洲免费在线精品一区| 欧美精品九九99久久|