聖塔非研究所

摘要 我們改進了最近發布的有關受限玻爾茲曼機 (RBM) 和深度信念網路 (DBN) 資源的結果,使其成

2022-09-02 · 已發表論文 · 更新 2026/03/19 上午03:43

摘要 我們改進了最近發布的有關受限玻爾茲曼機 (RBM) 和深度信念網路 (DBN) 資源的結果,使其成為通用逼近器。我們證明,長度為 n 的二元向量集合 {0, 1}(n) 上的任何分佈 p 都可以透過具有 k 1 個隱藏單元的 RBM 任意良好地近似,其中 k 是僅在一個條目中不同的二元向量對的最小數量,使得它們的並集包含 p 的支持集。在重要情況下,這個數字是 p 支持集…

本頁只刊出中文翻譯與中文說明;英文原文請見下方原文連結。

原文連結

論文資訊

  • 類型:已發表論文
  • 日期:2022-09-02

摘要

我們改進了最近發布的有關受限玻爾茲曼機 (RBM) 和深度信念網路 (DBN) 資源的結果,使其成為通用逼近器。我們證明,長度為 n 的二元向量集合 {0, 1}(n) 上的任何分佈 p 都可以透過具有 k - 1 個隱藏單元的 RBM 任意良好地近似,其中 k 是僅在一個條目中不同的二元向量對的最小數量,使得它們的並集包含 p 的支持集。在重要情況下,這個數字是 p 支持集基數的一半(在 Le Roux & Bengio,2008 年給出)。我們建構一個具有 2(n)/2(n-b)、b 類似 log n、寬度為 n 的隱藏層的 DBN,能夠任意很好地逼近 {0, 1}(n) 上的任何分佈。這證實了 Le Roux 和 Bengio (2010) 中提出的猜測。