聖塔非研究所

受限玻爾茲曼機的表達能力與逼近誤差

2026-03-18 · 工作論文 · 更新 2026/03/18 下午01:45

摘要 我們提出了可由受限玻爾茲曼機 (RBM) 學習的顯式機率分佈類別,具體取決於它們包含的單元數量,並且代表了模型的表達能力。我們用它來表明,具有 n 個可見單元和 m 個隱藏單元的 RBM 模型的最大 Kullback Leibler 散度從上面以 (n−1)−log(m+1) 為界。透過這種方式,我們可以指定隱藏單元的數量,以確保包含不同類別的分佈並尊重給定誤差容限的足夠…

本頁只刊出中文翻譯與中文說明;英文原文請見下方原文連結。

原文連結

論文資訊

  • 類型:工作論文
  • 編號:工作論文 #238
  • 日期:2026-03-18

摘要

我們提出了可由受限玻爾茲曼機 (RBM) 學習的顯式機率分佈類別,具體取決於它們包含的單元數量,並且代表了模型的表達能力。我們用它來表明,具有 n 個可見單元和 m 個隱藏單元的 RBM 模型的最大 Kullback-Leibler 散度從上面以 (n−1)−log(m+1) 為界。透過這種方式,我們可以指定隱藏單元的數量,以確保包含不同類別的分佈並尊重給定誤差容限的足夠豐富的模型。