本頁只刊出中文翻譯與中文說明；英文原文請見下方原文連結。
原文連結
論文資訊
- 類型：工作論文
- 編號：工作論文 #31
- 日期：2026-03-18
摘要
抽象的 。關於一對隨機變數 X 和 Y 可以提出的最基本的問題之一是它們的互資訊的值。不幸的是，這項任務常常因變數的維度極大而受阻。我們可能希望用較低維的表示來取代每個變量，以保留與其他變數的關係。理論上理想的實現是使用最小充分統計量，眾所周知，X 或 Y 可以用關於另一個的最小充分統計量替換，同時保留相互資訊。雖然直觀上合理，但同時替換這兩個變數並不明顯或簡單。我們證明這實際上是可能的：X 的最小充分統計量保留的關於 Y 的資訊正是 Y 的最小充分統計量保留的關於 X 的資訊。作为一个重要的推论，我们考虑这样的情况：一个变量是随机过程的过去，另一个变量是其未来和现在被视为记忆通道。在這種情況下，互資訊是通道有效狀態之間的通道傳輸速率。也就是說，過去未來互資訊（過剩熵）是可以利用過去來預測的關於未來的資訊量。將我們的結果轉換為最小充分統計量，這相當於計算力學的正時和逆時因果狀態之間的互資訊。我們最後討論了這種使用最少的足夠統計數據的多變量擴展。