本頁只刊出中文翻譯與中文說明；英文原文請見下方原文連結。
原文連結
論文資訊
- 類型：已發表論文
- 日期：2022-09-02
摘要
最大熵原理（MEP）是一種透過在約束下最大化熵來從統計系統中獲取可觀測量最可能的分佈函數的方法。 MEP 在統計力學、資訊理論和統計學領域發現了遍歷和馬可夫系統的數百種應用。幾十年來，關於最大熵原理的概念是否可以以有意義的方式擴展到非廣延的、非遍歷的和複雜的統計系統和過程，一直存在爭議。在本文中，我們首先回顧一下玻爾茲曼-吉布斯-香農熵與獨立隨機過程的多重性之間的關係。然後，我們展示獨立性鬆弛如何自然地導致與前三個香農-辛欽公理（（c，d）熵）相容的最一般的熵。我們證明，如果非遍歷和複雜的統計系統的相對熵可以分解為廣義多重性和約束項，那麼 MEP 是一個完全一致的概念。求這種因式分解的問題簡化為在線性基礎上找到相對熵的適當表示。在一個特定的例子中，我們表明具有記憶的路徑相關隨機過程自然需要特定的廣義熵。據我們所知，這個例子是廣義熵首次從路徑相關隨機過程的微觀屬性中精確推導出來。