本頁只刊出中文翻譯與中文說明；英文原文請見下方原文連結。
原文連結
論文資訊
- 類型：已發表論文
- 日期：2022-09-02
摘要
儲存和操作資訊的能力是計算系統的標誌。計算機經過精心設計，可以表示結構化資料並對其執行數學運算，而神經生物學系統無需顯式設計即可適應執行類似的功能。最近的努力在神經系統中資訊的表示和回憶建模方面取得了進展。然而，神經系統究竟如何學習修改這些表示法仍遠未可知。在這裡，我們證明循環神經網路（RNN）可以僅使用範例來學習修改其複雜資訊的表示，並用新理論解釋相關的學習機制。具體來說，我們使用來自混沌洛倫茲系統的平移、線性變換或預分叉時間序列的範例來驅動 RNN，以及改變每個範例的值的附加控制訊號。透過訓練網路複製洛倫茲輸入，它學會了圍繞洛倫茲形流形自主演化。此外，它還學會透過改變控制訊號來不斷地內插和外推該表示的平移、變換和分叉，遠遠超出訓練資料的範圍。此外，我們證明 RNN 可以推斷正常形式的分叉結構和混沌的倍週期路徑，並推斷非動態運動學軌跡。最後，我們提供了一種如何學習這些計算的機制，並使用 Wilson-Cowan 水庫複製我們的主要結果。總之，我們的結果提供了一種簡單但強大的機制，RNN 可以透過該機制學習操縱複雜資訊的內部表示，從而實現 RNN 的原理性研究和精確設計。