本篇文章是由《計算機輔助工程》發(fā)表的一篇電子論文，本刊主要刊登計算機技術(shù)及其應(yīng)用和相關(guān)領(lǐng)域的學(xué)術(shù)論文，如計算機輔助設(shè)計與圖形學(xué)技術(shù)及應(yīng)用、專家系統(tǒng)、知識工程、計算機網(wǎng)絡(luò)與通信、分布式系統(tǒng)、計算機軟件與理論、程序設(shè)計語言、操作系統(tǒng)、數(shù)據(jù)庫、計算機輔助教學(xué)、制造業(yè)信息化、物流工程信息化、交通運輸工程信息化、信息管理技術(shù)及應(yīng)用、人工智能技術(shù)及應(yīng)用、電氣自動化等領(lǐng)域的文章，以及有價值的研究報告和研究簡介。

　　摘要:已有的聚類算法對于發(fā)現(xiàn)任意形狀的聚類和處理離群點效果不理想,分析了現(xiàn)有基于網(wǎng)格的聚類算法。使用網(wǎng)格方法的數(shù)據(jù)分析方法將空間劃分為由(超)矩形網(wǎng)格單元組成的網(wǎng)格,然后在網(wǎng)格單元上進行聚類。最后,總結(jié)全文并提出基于網(wǎng)格的聚類需要進一步研究的方向。

　　關(guān)鍵詞:數(shù)據(jù)挖掘;網(wǎng)格;聚類

　　1 引言

　　數(shù)據(jù)挖掘是指從大型數(shù)據(jù)庫或數(shù)據(jù)倉庫中提取隱含的、未知的及有應(yīng)用價值的信息或模式。它是數(shù)據(jù)庫研究中的一個很有應(yīng)用價值的領(lǐng)域,融合了數(shù)據(jù)庫、機器學(xué)習(xí)、統(tǒng)計學(xué)等多個領(lǐng)域的理論和技術(shù)[1]。

　　聚類分析是數(shù)據(jù)挖掘中廣為研究的課題之一,是從數(shù)據(jù)中尋找數(shù)據(jù)間的相似性,并依此對數(shù)據(jù)進行分類,從而發(fā)現(xiàn)數(shù)據(jù)中隱含的有用信息或知識。目前已經(jīng)提出了不少數(shù)據(jù)聚類算法,其中比較著名的有CLARANS[2]、BIRCH[3]、DBSCAN[4]和CLIQUE[5]等。但對于高維、大規(guī)模數(shù)據(jù)庫的高效聚類分析仍然是一個有待研究的開放問題。

　　網(wǎng)格方法是空間數(shù)據(jù)處理中常用的將空間數(shù)據(jù)離散化的方法。基于網(wǎng)格的聚類算法由于易于增量實現(xiàn)和進行高維數(shù)據(jù)處理而被廣泛應(yīng)用于聚類算法中。研究人員已經(jīng)提出了很多基于網(wǎng)格的聚類算法,包括STING[6],它利用了存儲在網(wǎng)格單元中的統(tǒng)計信息;WaveCluster[7]它用一種小波轉(zhuǎn)換方法來聚類數(shù)據(jù)對象;CLIQUE在高維數(shù)據(jù)空間中基于網(wǎng)格和密度的聚類方法等。

　　本文對已有的基于網(wǎng)格的聚類算法進行了研究,從網(wǎng)格的表示,劃分網(wǎng)格單元的方法,到統(tǒng)計網(wǎng)格內(nèi)信息,搜索近鄰網(wǎng)格單元,聚類超過指定闕值的網(wǎng)格單元的各個步驟進行了分析,最后對基于網(wǎng)格方法聚類的研究方向做了展望。

　　2 網(wǎng)格的定義與劃分

　　網(wǎng)格的基本概念,設(shè)A1, A2,…, Ar 是數(shù)據(jù)集O={O1, O2,…, On }中數(shù)據(jù)對象的r 個屬性的有界定義域,那W=A1 ×A2 ×…×Ar 就是一個r 維空間, 將A1,A2 ,…, Ar 看成是W 的維( 屬性、字段),則對于一個包含n 個數(shù)據(jù)點的r 維空間中的數(shù)據(jù)集O={O1 , O2 ,…, On },其中Oi ={Oi1 , Oi2 ,…, Oir }( i=1, 2,…, n) , Oi 的第j 個分量Oij ∈Aj 。將W的每一維M等分,即把W分割成個網(wǎng)格單元。

　　基于網(wǎng)格聚類算法的第一步是劃分網(wǎng)格結(jié)構(gòu),按搜索子空間的策略不同, 主要有基于由底向上網(wǎng)格劃分方法的算法和基于自頂向下網(wǎng)格劃分方法的算法。

　　2.1 由底向上的劃分方法

　　由底向上的網(wǎng)格劃分方法按照用戶輸入的劃分參數(shù)(即每維段數(shù)ki,1 ≤i ≤d),將數(shù)據(jù)空間均勻劃分為相等大小的網(wǎng)格單元,假設(shè)落入同一網(wǎng)格單元內(nèi)的所有數(shù)據(jù)點都屬于同一個簇,每個網(wǎng)格單元保存落入其內(nèi)數(shù)據(jù)的統(tǒng)計信息,比如數(shù)據(jù)點個數(shù),數(shù)據(jù)點之和。包含一定數(shù)目數(shù)據(jù)點的網(wǎng)格單元被稱為高密度網(wǎng)格單元。

　　WaveCluster與CLIQUE是采用由底向上網(wǎng)格劃分方法的代表性算法。WaveCluster處理低維空間數(shù)據(jù),它的性能超越了BIRCH、CLARANS,與DBSCAN等優(yōu)秀的聚類算法[15]。CLIQUE考慮了高維子空間聚類,但它的時間復(fù)雜度較高,需要用戶指定全局密度閾值。算法MAFIA[8]對CLIQUE進行了改進,為了減少聚類算法需要處理的網(wǎng)格單元數(shù)目,MAFIA將均勻劃分網(wǎng)格中每一維上數(shù)據(jù)分布密度相似的相鄰段合并,由此得到一個不均勻劃分的網(wǎng)格。這個網(wǎng)格在數(shù)據(jù)分布較均勻的區(qū)域劃分粒度大,在數(shù)據(jù)分布不均勻的區(qū)域劃分粒度小,這種不均勻劃分網(wǎng)格的方法能夠提高聚類的質(zhì)量,被后續(xù)的許多算法所采用。

　　采用由底向上的網(wǎng)格劃分方法的優(yōu)點在于,它能通過對數(shù)據(jù)的一遍掃描,將數(shù)據(jù)壓縮到一個網(wǎng)格數(shù)據(jù)結(jié)構(gòu)內(nèi),并基于這個網(wǎng)格數(shù)據(jù)結(jié)構(gòu),發(fā)現(xiàn)任意形狀的簇。此外,如果網(wǎng)格單元的粒度較小(即體積較小),那么得到的聚簇的精度較高,但是算法的計算復(fù)雜度較大。此外,由底向上的網(wǎng)格方法存在不適合處理高維數(shù)據(jù)的問題。在高維空間,數(shù)據(jù)的分布是非常稀疏的,網(wǎng)格方法失去其壓縮作用,而且屬于同一個簇的高密度網(wǎng)格單元也可能不相連,這使聚類算法不能發(fā)現(xiàn)合理數(shù)目的簇。

　　2.2 自頂向下的劃分方法

　　自頂向下的網(wǎng)格劃分方法采取分治的策略(divide and conquer principle),對數(shù)據(jù)空間進行遞歸劃分,使問題的規(guī)模不斷減小。首先將原數(shù)據(jù)空間劃分為幾個較大的區(qū)域。對于每個得到的區(qū)域,劃分過程反復(fù)執(zhí)行,直到每個區(qū)域包含屬于同一個簇的數(shù)據(jù)點,那么這些區(qū)域就是最終的網(wǎng)格單元。基于自頂向下網(wǎng)格方法的聚類算法直接將高密度網(wǎng)格單元識別為一個簇,或是將相連的高密度網(wǎng)格單元識別為簇。

　　OptiGrid[9]與CLTree[10]是兩個典型的基于自頂向下網(wǎng)格劃分方法的聚類算法。其中, OptiGrid則是用空間數(shù)據(jù)分布的密度信息來選擇最優(yōu)劃分。通過一個密度函數(shù)來決定切割平面,可以將數(shù)據(jù)空間劃分為規(guī)則的或不規(guī)則單元,與傳統(tǒng)的等間距的劃分相比,可以用此來解決高維聚類的問題。而CLTree用劃分后的信息增益來選取最優(yōu)劃分。

　　自頂向下劃分方法的主要優(yōu)點在于不需要用戶指定劃分參數(shù),而是根據(jù)數(shù)據(jù)的分布對空間進行劃分,因此這種劃分更為合理。數(shù)據(jù)空間維度對自頂向下網(wǎng)格方法的影響較小,可以快速將大型高維數(shù)據(jù)集中的簇分隔開。這一類方法的計算復(fù)雜度與數(shù)據(jù)集大小和維度都呈線性關(guān)系適合于處理高維數(shù)據(jù)。由于劃分是基于數(shù)據(jù)分布的,而通常認為噪音是在整個空間均勻分布的,所以自頂向下劃分方法對噪音不敏感。但是,由于這種方法得到的網(wǎng)格單元的體積遠大于由底向上網(wǎng)格方法中的網(wǎng)格單元體積,因此方法產(chǎn)生的簇的描述精度比由底向上的網(wǎng)格方法得到的簇的描述精度要低。而且在自頂向下的劃分過程中,同一個簇可能被劃分到不同的區(qū)域中,最終得到的同一區(qū)域也可能包含不同的簇,這樣就進一步降低了算法的正確度。這類劃分方法的另一個缺點是它在劃分過程中,需要對數(shù)據(jù)集進行多次掃描。

　　而由底向上劃分方法在于只需對數(shù)據(jù)集進行一次線性掃描以及較高的簇的描述精度。因此,兩類方法適用于不同的問題。前者適于處理高維數(shù)據(jù)集,后者能有效處理存取代價較大的超大型數(shù)據(jù)集與動態(tài)數(shù)據(jù)。

　　3 基于網(wǎng)格的聚類過程

　　基于網(wǎng)格的聚類算法的基本過程是,首先將數(shù)據(jù)空間W劃分為網(wǎng)格單元,將數(shù)據(jù)對象集O 映射到網(wǎng)格單元中,并計算每個單元的密度。根據(jù)用戶輸入的密度閾值MinPts 判斷每個網(wǎng)格單元是否為高密度單元,由鄰近的稠密單元組形成簇[11],如表1。

　　算法1中的步驟1已經(jīng)在上文詳細說明,下面具體介紹步驟2-4的內(nèi)容。

　　3.1 網(wǎng)格單元的密度

　　簇就是一個區(qū)域,該區(qū)域中的點的密度大于與之相鄰的區(qū)域。在網(wǎng)格數(shù)據(jù)結(jié)構(gòu)中,由于每個網(wǎng)格單元都有相同的體積,因此網(wǎng)格單元中數(shù)據(jù)點的密度即是落到單元中的點的個數(shù)。據(jù)此可以得到稠密網(wǎng)格單元的密度是,設(shè)在某一時刻t一個網(wǎng)格單元的密度為density,定義density=單元內(nèi)的數(shù)據(jù)點數(shù)/數(shù)據(jù)空間中總的數(shù)據(jù)點數(shù),設(shè)密度閾值為, 為用戶輸入的密度闕值,當density> 時,該網(wǎng)格單元是—個密集網(wǎng)格單元。

　　相對于稠密網(wǎng)格單元來說,大多數(shù)的網(wǎng)格單元包含非常少甚至空的的數(shù)據(jù),這一類網(wǎng)格單元被稱為稀疏網(wǎng)格單元。大量的稀疏網(wǎng)格單元的存在會極大的降低聚類的速度,需要在聚類之前對稀疏網(wǎng)格單元進行處理,定義稀疏密度閾值為,當density>時,該網(wǎng)格單元是—個稀疏單元。對于稀疏網(wǎng)格單元的處理方法一般采用壓縮的方法或者直接刪除的方法,如果需要保留稀疏網(wǎng)格單元用于后續(xù)處理,可以使用壓縮的方法;如果在現(xiàn)有數(shù)據(jù)的基礎(chǔ)之上直接聚類,可以刪除稀疏網(wǎng)格單元,理論分析和實驗證明刪除稀疏網(wǎng)格單元并不影響聚類的質(zhì)量[12]。