矩陣論中,特徵裂隙(eigen gap)指的是一組相鄰的特徵值(或奇異值)所構成的集合,與其它特徵值(或奇異值)之間的豪斯多夫距離

特徵裂隙的概念,一般只在矩陣的全部特徵值(或奇異值)都是實數之語境下提出和研討。

定義

編輯

假設矩陣   的特徵值(或奇異值)都是實數,從大到小排序如下:  ,對任意給定的  ,考慮第   至第   個特徵值(或奇異值)構成的集合  ,那麼該集合   的特徵裂隙定義為:

  [1]

其中為方便,不妨設  .

重要性

編輯

特徵裂隙是對矩陣的線性子空間進行誤差分析的基礎。特徵裂隙較大的  ,其對應的特徵向量所張成的線性子空間,在矩陣元素被誤差項(往往是隨機誤差)所污染時,具有較好的穩定性。[2]反之,若特徵裂隙為0,則由線性代數知,   對應的特徵向量所張成的線性子空間不是唯一的。特徵裂隙較小的   不具有抗拒隨機誤差的穩定性。

機器學習中,對譜聚類算法的理論性質進行研究時,建立足夠的特徵裂隙一般來說屬於理論分析的核心部分。[3][4]

需要注意的是,如果目標是估計矩陣的線性子空間,那麼特徵裂隙具有核心的重要地位。但如果目標是為矩陣本身降噪,那麼特徵裂隙是不重要的,流行的矩陣估計方法也並不需要任何特徵裂隙條件。[5][6][7]

參見

編輯

參考文獻

編輯
  1. ^ Yu, Y.; Wang, T.; Samworth, R. J. A useful variant of the Davis–Kahan theorem for statisticians. Biometrika. 2015-06, 102 (2): 315–323. ISSN 0006-3444. doi:10.1093/biomet/asv008 (英語). 
  2. ^ Lei, Jing; Rinaldo, Alessandro. Consistency of spectral clustering in stochastic block models. The Annals of Statistics. 2015-02-01, 43 (1) [2021-12-14]. ISSN 0090-5364. doi:10.1214/14-AOS1274. (原始內容存檔於2021-12-14). 
  3. ^ Qin, Tai; Rohe, Karl. Regularized Spectral Clustering under the Degree-Corrected Stochastic Blockmodel. NIPS. 2013-09-16 [2021-12-14]. arXiv:1309.4111 . (原始內容存檔於2021-12-14). 
  4. ^ Xia, Dong. Confidence Region of Singular Subspaces for Low-Rank Matrix Regression. IEEE Transactions on Information Theory. 2019-11, 65 (11): 7437–7459 [2021-12-14]. ISSN 0018-9448. doi:10.1109/TIT.2019.2924900. (原始內容存檔於2021-12-14). 
  5. ^ Chatterjee, Sourav. Matrix estimation by Universal Singular Value Thresholding. The Annals of Statistics. 2015-02-01, 43 (1) [2021-12-14]. ISSN 0090-5364. doi:10.1214/14-AOS1272. (原始內容存檔於2021-12-14). 
  6. ^ Gao, Chao; Lu, Yu; Zhou, Harrison H. Rate-optimal graphon estimation. The Annals of Statistics. 2015-12-01, 43 (6) [2021-12-14]. ISSN 0090-5364. doi:10.1214/15-AOS1354. (原始內容存檔於2021-12-14). 
  7. ^ Zhang, Yuan; Levina, Elizaveta; Zhu, Ji. Estimating network edge probabilities by neighbourhood smoothing. Biometrika. 2017-12-01, 104 (4): 771–783. ISSN 0006-3444. doi:10.1093/biomet/asx042 (英語).