偏最小二乘法與最小二乘法有什么區(qū)別
慧美醬
偏最小二乘法是一種數(shù)學(xué)優(yōu)化技術(shù),它通過(guò)最小化誤差的平方和找到一組數(shù)據(jù)的最佳函數(shù)匹配。用最簡(jiǎn)的方法求得一些絕對(duì)不可知的真值,而令誤差平方之和為最小。很多其他的優(yōu)化問(wèn)題也可通過(guò)最小化能量或最大化熵用最小二乘形式表達(dá)。那么偏最小二乘法與最小二乘法有什么區(qū)別?
1、指代不同:(1)偏最小二乘法:夠在自變量存在嚴(yán)重多重相關(guān)性的條件下進(jìn)行回歸建模;允許在樣本點(diǎn)個(gè)數(shù)少于變量個(gè)數(shù)的條件下進(jìn)行回歸建模。(2)最小二乘法:通過(guò)最小化誤差的平方和尋找數(shù)據(jù)的最佳函數(shù)匹配。利用最小二乘法可以簡(jiǎn)便地求得未知的數(shù)據(jù),并使得這些求得的數(shù)據(jù)與實(shí)際數(shù)據(jù)之間誤差的平方和為最小。
2、特點(diǎn)不同:(1)偏最小二乘法:在計(jì)算方差和協(xié)方差時(shí),求和號(hào)前面的系數(shù)有兩種取法:當(dāng)樣本點(diǎn)集合是隨機(jī)抽取得到時(shí),應(yīng)該取1/(n-1);如果不是隨機(jī)抽取的,這個(gè)系數(shù)可取1/n。(2)最小二乘法:可用于曲線擬合。其他一些優(yōu)化問(wèn)題也可通過(guò)最小化能量或最大化熵用最小二乘法來(lái)表達(dá)。
3、用法不同(1)偏最小二乘法:在自變量的簡(jiǎn)單相關(guān)系數(shù)矩陣中,有某些自變量的相關(guān)系數(shù)值較大。回歸系數(shù)的代數(shù)符號(hào)與專業(yè)知識(shí)或一般經(jīng)驗(yàn)相反;或者,它同該自變量與y的簡(jiǎn)單相關(guān)系數(shù)符號(hào)相反。對(duì)重要自變量的回歸系數(shù)進(jìn)行t檢驗(yàn),其結(jié)果不顯著。(2)最小二乘法:如果預(yù)測(cè)的變量是連續(xù)的,我們稱其為回歸?;貧w分析中,如果只包括一個(gè)自變量和一個(gè)因變量,且二者的關(guān)系可用一條直線近似表示,這種回歸分析稱為一元線性回歸分析。
關(guān)于偏最小二乘法與最小二乘法有什么區(qū)別的內(nèi)容就介紹到這了。