對(duì)于處理任務(wù)通常采用抽樣策略。抽樣程序應(yīng)分析樣本有多大,以及如何抽取樣本以達(dá)到與原始數(shù)據(jù)類似的分布。
以下是常用的數(shù)據(jù)處理方法。
1、聚類分析:根據(jù)數(shù)據(jù)對(duì)象的相似性,將其劃分為聚集的聚類,聚類內(nèi)的對(duì)象應(yīng)盡可能相似,聚類間的對(duì)象應(yīng)盡可能不相似。發(fā)現(xiàn)任意形狀的聚類、處理高維數(shù)據(jù)、處理噪音的能力以及獲得可解釋和易于使用的聚類結(jié)果是聚類分析的目標(biāo)。
2、分類和預(yù)測(cè):分類和數(shù)字預(yù)測(cè)是問(wèn)題預(yù)測(cè)的兩個(gè)主要類型。分類是一個(gè)有監(jiān)督的學(xué)習(xí)過(guò)程,在這個(gè)過(guò)程中,通過(guò)對(duì)一組已知的訓(xùn)練特征的屬性的描述,獲得每個(gè)類別的描述或?qū)傩?,以建立相?yīng)的分類器。
預(yù)測(cè)是使用數(shù)據(jù)挖掘工具來(lái)建立連續(xù)的函數(shù)模型,并從現(xiàn)有數(shù)據(jù)的探索中得出結(jié)論。
在技術(shù)上,有定性和定量的預(yù)測(cè)。定性預(yù)測(cè)是指根據(jù)用戶的經(jīng)驗(yàn)和判斷,對(duì)被預(yù)測(cè)對(duì)象進(jìn)行定性分析的過(guò)程;定量預(yù)測(cè)是利用數(shù)學(xué)模型,在歷史統(tǒng)計(jì)數(shù)據(jù)的基礎(chǔ)上,用數(shù)學(xué)方法獲得變量之間的規(guī)律性關(guān)系。
3、相關(guān)分析:尋找事物之間的潛在關(guān)系的過(guò)程,這些關(guān)系看起來(lái)并不相關(guān)或相互依賴,但通過(guò)科學(xué)分析往往可以確定。關(guān)聯(lián)分析通常使用Apriori算法與頻繁關(guān)聯(lián)規(guī)則來(lái)分析事物之間的依賴關(guān)系或關(guān)聯(lián),以找到它們之間的規(guī)律性,并根據(jù)規(guī)律性進(jìn)行預(yù)測(cè)。
在實(shí)踐中,得到的數(shù)據(jù)可能包含大量的缺失值、離群值等,這對(duì)數(shù)據(jù)分析非常不利。在這種情況下,我們需要對(duì)臟數(shù)據(jù)進(jìn)行預(yù)處理,以獲得標(biāo)準(zhǔn)化的、干凈的、連續(xù)的數(shù)據(jù),用于數(shù)據(jù)分析、數(shù)據(jù)挖掘等。