1.最大化類間差異:Fisher判別法的目標是最大化不同類間的差異,即盡可能分離不同類的數據。為了實現這壹目標,需要計算每個類別的均值向量和協方差矩陣,並通過優化這些參數來構造線性判別函數。
2.最小化類內差異:除了最大化類間差異外,Fisher判別法還需要最小化類內差異,即最小化同類數據點之間的距離。最小化類內差異可以使相似的數據點更加集中,並提高判別的準確性。
3.投影到低維空間:Fisher判別法通過將高維數據投影到低維空間實現數據降維。投影數據具有更好的可分性,可以更容易地進行分類。
4.線性判別函數的設計:Fisher判別法通過設計線性判別函數實現數據分類。線性判別函數通常采用以下形式:y = w x+b,其中w是權重向量,b是偏差項。通過優化權重向量w和偏置項b,線性判別函數可以更好地擬合數據。
5.叠代優化:為了得到更好的線性判別函數,通常需要進行叠代優化。在每次叠代中,首先計算每個數據點對所有類別的重要性,然後根據這些重要性值更新權重向量w和偏差項b。通過多次叠代,可以逐步優化線性判別函數,提高分類精度。
Fisher判別法構建線性判別函數的原理是最大化類間差異和最小化類內差異,並將高維數據投影到低維空間中,通過叠代優化得到更好的線性判別函數,從而提高分類精度。