潛空間 (機器學習)

潛空間（Latent Space）也被稱為潛特徵空間或嵌入空間，是一組元素在流形內的嵌入，相似的元素在潛空間內的距離較小。潛空間中的位置由一組潛變量定義，這些潛變量產生於元素間的相似性。

大多數情況下，潛空間的維度都要設定得低於數據點特徵空間的維度，意味着潛空間的構建實際上是降維，也可看作是數據壓縮的一種形式。^[1]潛空間通常通過機器學習進行擬合，然後可被用作機器學習模型的特徵空間，包括分類器等監督預測器。

對機器學習模型潛空間的解釋是一個活躍的研究領域，但很難實現。由於機器學習模型的黑箱性質，潛空間可能是完全不直觀的。此外，潛空間往往是高維、複雜、非線性的，進一步增加了解釋的難度。^[2]一些可視化技術用於將潛空間展現出來，但潛空間的解釋和模型本身往往沒有直接聯繫。這類技術包括t分布隨機鄰域嵌入（t-SNE），其中潛空間被映射到二維以實現可視化。潛空間中的距離難以用物理單位表達，所以對距離的解釋取決於具體應用。^[3]

有許多算法可在給定一組數據項和一個相似性函數的情況下創建潛空間嵌入。

另見

參考

^ Liu, Yang; Jun, Eunice; Li, Qisheng; Heer, Jeffrey. Latent Space Cartography: Visual Analysis of Vector Space Embeddings. Computer Graphics Forum. 2019-06, 38 (3): 67–78 [2023-02-26]. ISSN 0167-7055. S2CID 189858337. doi:10.1111/cgf.13672. （原始內容存檔於2022-09-24）（英語）.
^ Li, Ziqiang; Tao, Rentuo; Wang, Jie; Li, Fu; Niu, Hongjing; Yue, Mingdao; Li, Bin. Interpreting the Latent Space of GANs via Measuring Decoupling. IEEE Transactions on Artificial Intelligence. 2021-02, 2 (1): 58–70 [2023-02-26]. ISSN 2691-4581. S2CID 234847784. doi:10.1109/TAI.2021.3071642. （原始內容存檔於2023-05-21）.
^ Arvanitidis, Georgios; Hansen, Lars Kai; Hauberg, Søren. Latent Space Oddity: on the Curvature of Deep Generative Models. 2021-12-13. arXiv:1710.11379  [stat.ML].

這是一篇關於數學的小作品。您可以透過編輯或修訂擴充其內容。

[1] Liu, Yang; Jun, Eunice; Li, Qisheng; Heer, Jeffrey. Latent Space Cartography: Visual Analysis of Vector Space Embeddings. Computer Graphics Forum. 2019-06, 38 (3): 67–78 [2023-02-26]. ISSN 0167-7055. S2CID 189858337. doi:10.1111/cgf.13672. （原始內容存檔於2022-09-24）（英語）.

[2] Li, Ziqiang; Tao, Rentuo; Wang, Jie; Li, Fu; Niu, Hongjing; Yue, Mingdao; Li, Bin. Interpreting the Latent Space of GANs via Measuring Decoupling. IEEE Transactions on Artificial Intelligence. 2021-02, 2 (1): 58–70 [2023-02-26]. ISSN 2691-4581. S2CID 234847784. doi:10.1109/TAI.2021.3071642. （原始內容存檔於2023-05-21）.

[3] Arvanitidis, Georgios; Hansen, Lars Kai; Hauberg, Søren. Latent Space Oddity: on the Curvature of Deep Generative Models. 2021-12-13. arXiv:1710.11379  [stat.ML].

[1]

[2]

[3]