聖塔非研究所

橫向概括

2026-03-18 · 工作論文 · 更新 2026/03/19 上午01:59

摘要 在傳統的監督學習中,人們尋找「垂直」模式,將輸入直接連接到輸出。相反,人們可以搜尋「水平」模式,這種模式「跨越」學習集,將學習集的一部分與另一部分連接起來。做到這一點的一種方法是在將學習問題輸入到傳統的泛化器(如反向傳播)之前對其進行預處理。這種預處理技術已經針對輸入空間是一維的情況得到了最充分的解決。在這種情況下,尋找水平模式的「預處理」就是非線性時間序列分析的嵌入過程…

本頁只刊出中文翻譯與中文說明;英文原文請見下方原文連結。

原文連結

論文資訊

  • 類型:工作論文
  • 編號:工作論文 #1564
  • 日期:2026-03-18

摘要

在傳統的監督學習中,人們尋找「垂直」模式,將輸入直接連接到輸出。相反,人們可以搜尋「水平」模式,這種模式「跨越」學習集,將學習集的一部分與另一部分連接起來。做到這一點的一種方法是在將學習問題輸入到傳統的泛化器(如反向傳播)之前對其進行預處理。這種預處理技術已經針對輸入空間是一維的情況得到了最充分的解決。在這種情況下,尋找水平模式的「預處理」就是非線性時間序列分析的嵌入過程。儘管對於此類一維問題來說是最自然的,但我們可以研究當輸入空間具有多個一維時水平泛化的效果如何。本文提出了兩組針對此類場景的水平泛化功效的實驗。第一組實驗使用 24 位元輸入空間進行。對於許多不同的目標函數,透過在 301 個單獨的點對目標函數進行取樣來建立學習集。然後使用使用「水平」模式搜尋的決策導向學習版本從該學習集推斷到輸入空間中剩餘的 $2^{24-301}$ 點。平均錯誤率為8.6%。第二組實驗是 MacKay 最近研究的噪音機器人手臂問題的變體 [23]。這裡再次使用決策導向的水平學習來進行外推。均方根誤差率是雜訊誤差率的 3 倍。