聖塔非研究所

解釋分層網絡的個別分類

2026-03-18 · 工作論文 · 更新 2026/03/18 下午01:20

摘要 眾所周知,分層網路可以在困難的機器學習任務上實現高分類精度。對於許多應用程式來說,清楚地解釋為什麼以某種方式對資料進行分類與分類本身一樣重要。然而,層次網絡的複雜性使得它們不適合現有的解釋方法。我們提出了一種新方法,即貢獻傳播,它給出了經過訓練的網路分類的每個實例的解釋。我們為所提出的方法提供了理論基礎,並根據經驗評估了其正確性。最後,我們使用由此產生的解釋來揭示網路的意…

本頁只刊出中文翻譯與中文說明;英文原文請見下方原文連結。

原文連結

論文資訊

  • 類型:工作論文
  • 編號:工作論文 #198
  • 日期:2026-03-18

摘要

眾所周知,分層網路可以在困難的機器學習任務上實現高分類精度。對於許多應用程式來說,清楚地解釋為什麼以某種方式對資料進行分類與分類本身一樣重要。然而,層次網絡的複雜性使得它們不適合現有的解釋方法。我們提出了一種新方法,即貢獻傳播,它給出了經過訓練的網路分類的每個實例的解釋。我們為所提出的方法提供了理論基礎,並根據經驗評估了其正確性。最後,我們使用由此產生的解釋來揭示網路的意外行為,這些網路使用眾所周知的資料集在視覺物件識別任務上實現了高精度。