聖塔非研究所

香農資訊之外的多元依賴性

2026-03-18 · 工作論文 · 更新 2026/03/18 上午11:54

摘要 準確地確定依賴結構對於發現系統的因果組織至關重要。我們最近表明,轉移熵在測量資訊流的一個關鍵方面失敗了,因為它合併了二元關係和多元關係。我們擴展了這一觀察結果,以證明當用於分析多變量依賴性時,所有此類香農資訊度量都是如此。這具有廣泛的影響,特別是當使用資訊來表達複雜系統中嵌入的組織和機制時,包括將複雜網絡理論與資訊理論結合的新興努力。在這裡,我們並不認為資訊理論的任何面向…

本頁只刊出中文翻譯與中文說明;英文原文請見下方原文連結。

原文連結

論文資訊

  • 類型:工作論文
  • 編號:工作論文 #49
  • 日期:2026-03-18

摘要

準確地確定依賴結構對於發現系統的因果組織至關重要。我們最近表明,轉移熵在測量資訊流的一個關鍵方面失敗了,因為它合併了二元關係和多元關係。我們擴展了這一觀察結果,以證明當用於分析多變量依賴性時,所有此類香農資訊度量都是如此。這具有廣泛的影響,特別是當使用資訊來表達複雜系統中嵌入的組織和機制時,包括將複雜網絡理論與資訊理論結合的新興努力。在這裡,我們並不認為資訊理論的任何面向是錯誤的。相反,其絕大多數資訊度量根本不足以確定聯合機率分佈內有意義的依賴結構。因此,此類資訊測量不足以發現內在的因果關係。最後,我們證明這種分佈存在於任一組變數中。