維納-辛欽定理

在應用數學中，維納-辛欽定理（英語：Wiener–Khinchin theorem），又稱維納-辛欽-愛因斯坦定理或辛欽-柯爾莫哥洛夫定理。該定理指出：寬平穩隨機過程的功率譜密度是其自相關函數的傅立葉轉換。^[1]^[2]^[3]^[4]^[5]^[6]^[7]

歷史

諾伯特·維納在1930年證明了這個定理對於確定性函數的情況；^[8] 辛欽後來對於平穩隨機過程得出了類似的結果並且於1934年發表了它。^[9]^[10] 阿爾伯特·愛因斯坦在1914年的一份簡短的備忘錄里闡述了這個想法，但並未給出證明。^[11]

連續時間過程的情形

對於連續時間的情形，維納-辛欽定理表明若 $x$ 是一個寬平穩過程，以致其由統計期望值 E 定義的自相關函數（有時稱作自協方差） $r_{xx}(\tau )=\operatorname {E} {\big [}\,x(t)x^{*}(t-\tau )\,{\big ]}\$ 存在，並對所有延遲 $\tau$ 都是有限的，則在頻域 $-\infty <f<\infty$ 存在一個單調函數 $F(f)$ 使得

r_{xx}(\tau )=\int _{-\infty }^{\infty }e^{2\pi i\tau f}dF(f)

其中該積分為黎曼－斯蒂爾傑斯積分。^[1]^[12] 這是自相關函數的一種譜分解。F 稱為功率譜分布函數，是一個統計分布函數。它有時稱作積分譜。

（星號表示復共軛，當隨機過程是實過程時可以將其省去。）

注意到 $x(t)\,$ 的傅立葉轉換不總是存在，因為平穩隨機過程不總是平方可積或絕對可積。也不會假定 $r_{xx}$ 是絕對可積的，所以也不需要有傅立葉轉換。

但若 $F(f)$ 是絕對連續的，例如當為純粹不確定過程時， $F$ 幾乎處處可微。在這種情況下，可以通過對 $F$ 取平均導數來定義 $x(t)\,$ 的功率譜密度 $S(f)$ 。因為 $F$ 的左、右導數處處存在，所以處處都有 $S(f)={\frac {1}{2}}(\lim _{\epsilon \downarrow 0}{\frac {1}{\epsilon }}(F(f+\epsilon )-F(f))+\lim _{\epsilon \uparrow 0}{\frac {1}{\epsilon }}(F(f+\epsilon )-F(f)))$ ，^[13] （得到 F 為其平均導數的積分^[14]），該定義簡化為

r_{xx}(\tau )=\int _{-\infty }^{\infty }S(f)e^{2\pi i\tau f}df.

若現在假設 r 和 S 滿足傅立葉反轉換存在的必要條件，維納-辛欽定理就能說 r 和 S 是一對傅立葉轉換對

S(f)=\int _{-\infty }^{\infty }r_{xx}(\tau )e^{-2\pi if\tau }d\tau .

離散時間過程的情形

對於離散隨機過程 $x[n]\$ ，其功率譜密度為

S_{xx}(f)=\sum _{k=-\infty }^{\infty }r_{xx}[k]e^{-j2\pi kf}

其中

r_{xx}[k]=\operatorname {E} {\big [}\,x[n]x^{*}[n-k]\,{\big ]}\

且

S_{xx}(f)\

是離散函數 $x[n]\,$ 的功率譜密度。由於 $x[n]\,$ 是取樣得到的離散時間序列，其譜密度在頻域上是周期函數。

應用

當輸入和輸出皆不可被方積，導致其傅立葉轉換不存在時，此定理可應用於分析線性非時變系統（LTI系統）。我們可知，LTI系統輸出的自相關函數之傅立葉轉換相等於系統輸入的自相關函數之傅立葉轉換與系統脈波響應之傅立葉轉換的平方之相乘。^[15]當輸入輸出訊號的傅立葉轉換不存在時，這仍舊成立，因為這些訊號不可被平方積分，因此系統的輸入和輸出無法和通過傅立葉轉換的脈波響應直接相關。

由於訊號自相關函數之傅立葉轉換是訊號的功率譜，這相當於說，輸出功率譜等於輸入功率譜乘以能量傳遞函數。

這被用在以參數化的方法估計功率譜。

表述差異

在許多教科書和在許多技術文獻是默認假定的自相關函數的傅立葉轉換和功率譜密度是有效的，以及維納-辛欽定理很簡單地指出，因為如果它表示傅立葉轉換自相關函數等於功率譜密度，忽略收斂所有的問題。^[16]（愛因斯坦就是一個例子）。但是定理（陳述為這裡），由諾伯特·維納和亞歷山大·辛欽應用於樣品的功能（訊號）寬感平穩隨機過程，訊號的傅立葉轉換是不存在的。維納的貢獻的全部意義是使一個寬義平穩隨機過程的一個樣本函數自相關函數的譜分解感即使在積分進行傅立葉轉換和傅立葉逆沒有任何意義。

有些人提到與R作為自協方差函數。他們然後進行歸一化，通過用R（0），劃分以獲得他們稱之為自相關函數。

參見

參考文獻

^ ^1.0 ^1.1 C. Chatfield. The Analysis of Time Series—An Introduction fourth. Chapman and Hall, London. 1989: 94–95. ISBN 0-412-31820-2.
^ Norbert Wiener. Time Series. M.I.T. Press, Cambridge, Massachusetts. 1964: 42.
^ Hannan, E.J., "Stationary Time Series", in: John Eatwell, Murray Milgate, and Peter Newman, editors, The New Palgrave: A Dictionary of Economics. Time Series and Statistics, Macmillan, London, 1990, p. 271.
^ Dennis Ward Ricker. Echo Signal Processing. Springer. 2003. ISBN 1-4020-7395-X.
^ Leon W. Couch II. Digital and Analog Communications Systems sixth. Prentice Hall, New Jersey. 2001: 406–409. ISBN 0-13-522583-3.
^ Krzysztof Iniewski. Wireless Technologies: Circuits, Systems, and Devices. CRC Press. 2007. ISBN 0-8493-7996-2.
^ Joseph W. Goodman. Statistical Optics. Wiley-Interscience. 1985. ISBN 0-471-01502-4.
^ Wiener, Norbert. Generalized Harmonic Analysis. Acta Mathematica. 1930, 55: 117–258.
^ Nahin, Paul J. Dr. Euler's Fabulous Formula: Cures Many Mathematical Ills. Princeton University Press. 2011: 225 [2013-10-18]. ISBN 9780691150376. （原始內容存檔於2013-12-31）.
^ Khintchine, A. Korrelationstheorie der stationären stochastischen Prozesse. Mathematische Annalen. 1934, 109 (1): 604–615. doi:10.1007/BF01449156.
^ Jerison, David; Singer, Isadore Manuel; Stroock, Daniel W. The Legacy of Norbert Wiener: A Centennial Symposium (Proceedings of Symposia in Pure Mathematics). American Mathematical Society. 1997: 95. ISBN 0-8218-0415-4.
^ Hannan, E. J. Stationary Time Series. Eatwell, John; Milgate, Murray; Newman, Peter (編). The New Palgrave: A Dictionary of Economics. Time Series and Statistics. London: Macmillan. 1990: 271 [2016-08-06]. （原始內容存檔於2019-11-28）.
^ Chatfield, C. The Analysis of Time Series—An Introduction Fourth. London: Chapman and Hall. 1989: 96. ISBN 0-412-31820-2.
^ Champeney, D. C. A Handbook of Fourier Theorems. Cambridge Univ. Press. 1987: 20–22.
^ Shlomo Engelberg. Random signals and noise: a mathematical introduction. CRC Press. 2007: 130. ISBN 978-0-8493-7554-5.
^ C. Chatfield. The Analysis of Time Series—An Introduction fourth. Chapman and Hall, London. 1989: 98. ISBN 0-412-31820-2.

延伸閱讀

Brockwell, Peter A.; Davis, Richard J. Introduction to Time Series and Forecasting Second. New York: Springer-Verlag. 2002. ISBN 038721657X.
Chatfield, C. The Analysis of Time Series—An Introduction Fourth. London: Chapman and Hall. 1989. ISBN 0412318202.
Fuller, Wayne. Introduction to Statistical Time Series. Wiley Series in Probability and Statistics Second. New York: Wiley. 1996. ISBN 0471552399.
Wiener, Norbert. Extrapolation, Interpolation, and Smoothing of Stationary Time Series. Cambridge, Massachusetts: Technology Press and Johns Hopkins Univ. Press. 1949. (a classified document written for the Dept. of War in 1943).
Yaglom, A. M. An Introduction to the Theory of Stationary Random Functions. Englewood Cliffs, New Jersey: Prentice–Hall. 1962.

[C._Chatfield_1989_94–95-1] 1.0 ^1.1 C. Chatfield. The Analysis of Time Series—An Introduction fourth. Chapman and Hall, London. 1989: 94–95. ISBN 0-412-31820-2.

[2] Norbert Wiener. Time Series. M.I.T. Press, Cambridge, Massachusetts. 1964: 42.

[3] Hannan, E.J., "Stationary Time Series", in: John Eatwell, Murray Milgate, and Peter Newman, editors, The New Palgrave: A Dictionary of Economics. Time Series and Statistics, Macmillan, London, 1990, p. 271.

[4] Dennis Ward Ricker. Echo Signal Processing. Springer. 2003. ISBN 1-4020-7395-X.

[5] Leon W. Couch II. Digital and Analog Communications Systems sixth. Prentice Hall, New Jersey. 2001: 406–409. ISBN 0-13-522583-3.

[6] Krzysztof Iniewski. Wireless Technologies: Circuits, Systems, and Devices. CRC Press. 2007. ISBN 0-8493-7996-2.

[7] Joseph W. Goodman. Statistical Optics. Wiley-Interscience. 1985. ISBN 0-471-01502-4.

[8] Wiener, Norbert. Generalized Harmonic Analysis. Acta Mathematica. 1930, 55: 117–258.

[9] Nahin, Paul J. Dr. Euler's Fabulous Formula: Cures Many Mathematical Ills. Princeton University Press. 2011: 225 [2013-10-18]. ISBN 9780691150376. （原始內容存檔於2013-12-31）.

[10] Khintchine, A. Korrelationstheorie der stationären stochastischen Prozesse. Mathematische Annalen. 1934, 109 (1): 604–615. doi:10.1007/BF01449156.

[11] Jerison, David; Singer, Isadore Manuel; Stroock, Daniel W. The Legacy of Norbert Wiener: A Centennial Symposium (Proceedings of Symposia in Pure Mathematics). American Mathematical Society. 1997: 95. ISBN 0-8218-0415-4.

[12] Hannan, E. J. Stationary Time Series. Eatwell, John; Milgate, Murray; Newman, Peter (編). The New Palgrave: A Dictionary of Economics. Time Series and Statistics. London: Macmillan. 1990: 271 [2016-08-06]. （原始內容存檔於2019-11-28）.

[13] Chatfield, C. The Analysis of Time Series—An Introduction Fourth. London: Chapman and Hall. 1989: 96. ISBN 0-412-31820-2.

[14] Champeney, D. C. A Handbook of Fourier Theorems. Cambridge Univ. Press. 1987: 20–22.

[15] Shlomo Engelberg. Random signals and noise: a mathematical introduction. CRC Press. 2007: 130. ISBN 978-0-8493-7554-5.

[16] C. Chatfield. The Analysis of Time Series—An Introduction fourth. Chapman and Hall, London. 1989: 98. ISBN 0-412-31820-2.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]