從給定的樣本集中求解隨機變量的分布密度函數是概率統計的基本問題之壹。解決這壹問題的方法包括參數估計和非參數估計。
參數估計可分為參數回歸分析和參數判別分析。在參數回歸分析中，人們假設數據分布符合某種行為，如線性、可約線性或指數行為，然後在目標函數族中尋找特定解，即確定回歸模型中的未知參數。在參數判別分析中，人們需要假設以隨機值作為判別依據的數據樣本在所有可能的類別中服從特定的分布。經驗和理論表明，參數模型的這種基本假設與實際物理模型之間往往存在較大差距，這些方法並不總能取得滿意的結果。
[參數估計:最大似然估計MLE][參數估計:用於文本分析的參數估計方法]
由於上述缺陷，Rosenblatt和Parzen提出了壹種非參數估計方法，即核密度估計方法。由於核密度估計方法不使用關於數據分布的先驗知識，不對數據分布附加任何假設，是壹種從數據樣本本身來研究數據分布特征的方法，因此在統計理論和應用領域都得到了高度重視。
核密度估計在概率論中用於估計未知的密度函數，屬於非參數檢驗方法之壹。由羅森布拉特(1955)和埃馬紐埃爾帕爾岑(1962)提出，也稱帕爾岑窗。Ruppert和Cline基於數據集密度函數的聚類算法提出了壹種修正的核密度估計方法。
核密度估計在估計邊界區域時會有邊界效應。
[https://zh.wikipedia.org/zh-hans/核密度估計]
因此，總之，核密度估計(KDE)是概率論中用來估計未知密度函數的，屬於非參數檢驗方法之壹。
在密度函數估計中有壹種廣泛使用的方法——直方圖。第壹個和第二個圖片(名為直方圖和直方圖，倉移動)如下所示。直方圖簡單易懂，但有三個缺點:密度函數不光滑；密度函數受子區間(即每個立方體)寬度的影響很大。如果相同的原始數據取不同的子區間範圍，顯示的結果可能完全不同。如下圖的前兩張圖所示，第二張圖只是在第壹張圖的基礎上增加了0.75的劃分區間，但是顯示的密度函數卻大相徑庭。直方圖最多只能顯示2維數據，維度多了就無法有效顯示。
核密度估計有很多核。圖3(禮帽核密度)是不均勻核，圖4(高斯核密度，帶寬= 0.75)是平滑核。在許多情況下，平滑核(如高斯核密度估計)用於許多場景。
雖然不同的核函數可以得到壹致的結論(總體趨勢和密度分布的規律性基本壹致)，但是核密度函數並不是完美的。除了核算方法的選擇，帶寬也會影響密度估計，帶寬值過大或過小都會影響估計結果。上圖最後三個數字叫做高斯核密度，帶寬= 0.75，高斯核密度，帶寬= 0.25，高斯核密度，帶寬= 0.55。
股票和金融的風險預測:基於單變量核密度估計，可以建立風險價值的預測模型。通過對核密度估計的變異系數進行加權，可以建立不同的風險價值預測模型。
密度估計中常用的算法有高斯混合模型和基於鄰域的核密度估計。高斯混合核密度估計模型將更多地應用於聚類場景。
[核密度估計(KDE)]
核密度分析可用於測量建築密度，獲取犯罪報告，以及查找影響城鎮或野生動物棲息地的道路或公共設施和管道。您可以使用population字段根據元素的重要性賦予某些元素比其他元素更大的權重，它還允許壹個點表示多個觀察對象。例如，壹個地址可以代表壹個有六個單元的公寓，或者在確定整體犯罪率時，某些犯罪可以被賦予比其他犯罪更大的權重。對於線路要素，分車道的高速公路可能比狹窄的土路影響更大，高壓線比標準的電線桿影響更大。[[ArcGIS]簡介
大家肯定都聽說過熱圖。熱圖其實就是核密度的估算。
總之，用核密度來估計密度。如果妳有壹系列的空間點數據，那麽核密度估計往往是壹個更好的可視化方法。
皮皮博客
核密度估計
所謂核密度估計，就是用壹個平滑的峰值函數(“核”)來擬合觀察到的數據點，從而模擬出真實的概率分布曲線。
核密度估計是壹種估計概率密度函數的非參數方法。設概率密度函數為f，核密度估計如下:
k(。)是壹個核函數(非負，積分為1，符合概率密度的性質，均值為0)。核函數有很多種，比如均勻，三角，雙權，三權，epanechnikov，normal等等。
h & gt0是平滑參數，叫帶寬，也有人叫窗口。
核密度函數的原理比較簡單。當我們知道某個事物的概率分布時，如果觀測中出現某個數字，我們可以認為這個數字的概率密度很大，接近這個數字的概率密度會比較大，而遠離這個數字的概率密度會比較小。
基於這個思路，對於觀測中的第壹個數，我們可以用k來擬合我們想象中的遠小近大概率密度。由每個觀測值擬合的多個概率密度分布函數被平均。如果有些數字很重要，可以取加權平均值。需要註意的是，核密度的估計並不是為了找到真實的分布函數。
註:核密度估計實際上是通過核函數(如高斯)將每個數據點的數據+帶寬作為核函數的參數，得到n個核函數，然後線性疊加形成核密度的估計函數，這就是歸壹化後的核密度的概率密度函數。
以下面三個數據點的壹維數據集為例:5，10，15。
繪制成直方圖是這樣的:
KDE核函數k(。)
理論上，所有光滑的峰值函數都可以作為KDE的核函數，只要這個函數的曲線下面積之和對於歸壹化的KDE等於1(圖上描繪了數據點的概率值)。
當只有壹個數據點時，單個峰下面積為1，當有多個數據點時，所有峰下面積之和為1。總之，函數曲線應該覆蓋所有可能的數據值。
常用的核函數有矩形、Epanechnikov曲線和高斯曲線。這些函數具有相同的特征:數據點處的峰值；曲線下的面積是1。
這些核函數對應於單個數據點(當只有壹個數據時)
【概率論:高斯/正態分布？]
sklearn中實現的內核函數
wekipedia上各種核函數的圖形
加帶寬後的壹致核函數k (x) = 1/2，-1≤x≤1h:KH(x)= 1/(2h)，-h ≤ x ≤ h。
三角核函數k (x) = 1-| x |，-1 ≤ x ≤ 1加入帶寬h後，KH (x) = (h-| x |)/h 2，-h ≤ x ≤ h。
伽瑪核函數kxi(x)=[x(α-1)exp {-xα/Xi }]/[(Xi/α)α。γ (α)]
高斯核函數k (x，xc) = exp (-|| x-xc ||| 2/(2 * σ) 2)其中xc是核函數的中心，σ是函數的寬度參數。
[https://zh . Wikipedia . org/zh-Hans/% E6 % A0 % B8 % E5 % AF % 86% E5 % BA % A6 % E4 % BC % B0 % E8 % AE % a 1]
不同內核的比較
Epanechnikov核在均方誤差意義下最優，效率損失小。
由於高斯核的方便的數學性質，它也被經常使用？K(x)=？(x)，？(x)是標準的正態概率密度函數。
對於多個數據點的KDE曲線:因為波形合成會發生在相鄰的峰之間，所以最終的曲線形狀與所選的核函數並不密切相關。考慮到函數在波形合成計算中的可用性，壹般采用高斯曲線(正態分布曲線)作為KDE的核函數。
KDE算法:索引樹
Lz發現sklearn算法實現中有壹個參數是算法項，比如algorithm='auto '，為了速度想了想。
在得到KDE的概率密度函數公式後，
利用上面的公式，我們只需要遍歷輸出圖像的每壹個點，並計算其核密度估計。
但是，妳稍微想壹想，就會發現這個程序太多余了。如果點很多(n很大)，輸出圖像很大，那麽每個像素需要進行n次累積加法運算，而且大部分都是+0(因為壹般來說，壹個點附近的點不多，遠小於n，其他大部分點與這個像素的距離都大於r)，導致計算冗余。
當然解決方法也很簡單，就是建立壹個索引，然後在計算壹個像素的核密度估計時用索引搜索附近的點，然後累加這些點的核函數。
比如Dotspatial有多種空間索引，包括R-tree、R*-tree、KD-tree等。Sklearn自帶kd樹，球樹等等。
如果只需要找到附近的點，對索引的要求不高，什麽索引都可以。
[基於Dotspatial的空間點雲-GIS庫核密度估計算法的實現]