本頁只刊出中文翻譯與中文說明；英文原文請見下方原文連結。
原文連結
論文資訊
- 類型：已發表論文
- 日期：2022-09-02
摘要
我們研究資訊源產生的序列的香農熵如何收斂到源的熵率。我們綜合了幾種現象學方法，透過使用香農熵增長曲線的連續導數，將隨機性和記憶的資訊理論度量應用於隨機和確定性過程。反過來，這導致對來源中儲存的表觀記憶的自然測量，以及必須從來源的觀察中提取的資訊量，以便對其進行最佳預測並使觀察者與其同步。為了衡量同步的難度，我們定義了瞬態資訊並證明，對於馬可夫過程，它與同步到過程時經歷的總不確定性有關。忽略過程的結構特性的後果之一是錯過的規律性被轉換為明顯的隨機性。我們證明，這個問題尤其出現在只能存取短測量序列的設定中。透過數值和分析，我們確定了一系列隨機和確定性過程的香農熵增長曲線和相關量。我們透過查看過程的熵收斂行為與其底層計算結構之間的關係來得出結論。 (C) 2003 年美國物理學會。