一、最小二乘法概念與用途知悉
最小二乘法是一種常用的數(shù)學(xué)方法,用于通過(guò)擬合數(shù)據(jù)點(diǎn)來(lái)找到最佳擬合曲線或平面。其核心思想是最小化觀測(cè)數(shù)據(jù)點(diǎn)與擬合曲線之間的垂直距離的平方和,即最小化殘差的平方和。通過(guò)最小二乘法,我們可以找到一條曲線或平面,使得觀測(cè)數(shù)據(jù)點(diǎn)到該曲線或平面的距離最短。
最小二乘法廣泛應(yīng)用于各個(gè)領(lǐng)域,尤其在數(shù)據(jù)擬合和回歸分析中。例如,在線性回歸中,最小二乘法可以用來(lái)擬合數(shù)據(jù)集到一條直線;在多項(xiàng)式擬合中,最小二乘法可以用來(lái)擬合數(shù)據(jù)集到一個(gè)多項(xiàng)式曲線;在非線性擬合中,可以通過(guò)最小二乘法找到最佳擬合曲線或曲面。
通過(guò)最小二乘法,我們可以得到擬合曲線的參數(shù),如斜率和截距,或者擬合曲面的系數(shù)。這些參數(shù)可以用來(lái)進(jìn)行預(yù)測(cè)、優(yōu)化和分析數(shù)據(jù)。最小二乘法的優(yōu)點(diǎn)在于可解析解的存在,計(jì)算較為簡(jiǎn)單和穩(wěn)定。
二、舉例詳解
舉個(gè)通俗的例子,某種材料的強(qiáng)度與其拉伸倍數(shù)有關(guān),現(xiàn)有一部分樣品的測(cè)試數(shù)據(jù):
將上述數(shù)據(jù)畫成如下圖形,假設(shè)我們想用一條直線來(lái)擬合數(shù)據(jù),即期望找到一條直線能最好的穿過(guò)這些數(shù)據(jù)點(diǎn)。
通過(guò)觀察可以發(fā)現(xiàn),這些點(diǎn)大致分布在一條直線上,因此可以考慮利用一元二次方程:
當(dāng)然,事物總具有兩面性,最小二乘法也不例外,最小二乘法不夠穩(wěn)健,很容易受極端異常點(diǎn)的影響,如果是少數(shù)異常,可以用異常點(diǎn)檢測(cè)的方法剔除,但有時(shí)異常點(diǎn)也非常重要,需要考慮,這時(shí)候可以用一些穩(wěn)健的方法,具體可以搜索“穩(wěn)健回歸”,找相關(guān)的文獻(xiàn)看看,或者等待作者后續(xù)更新。