本頁只刊出中文翻譯與中文說明;英文原文請見下方原文連結。
原文連結
論文資訊
- 類型:已發表論文
- 日期:2022-09-02
摘要
沒有免費的午餐定理證明,在歸納問題(搜尋問題或學習問題)的均勻分佈下,所有歸納演算法的表現相同。正如我在本章中討論的,定理的重要性在於使用它們來分析涉及非均勻分佈的場景,並比較不同的演算法,而無需對問題的分佈進行任何假設。特別是,這些定理證明,反交叉驗證(根據樣本外行為最差的一組候選演算法進行選擇)的表現與交叉驗證一樣好,除非人們做出假設(從未正式化),一方面歸納問題的分佈如何與人們在使用(反)交叉驗證中選擇的演算法集相關。此外,他們對文獻中許多結果的重要性提出了強烈的警告,這些結果在不假設特定分佈的情況下確定了特定演算法的強度。它們還激發了監督學習和改進黑盒優化之間的“字典”,這使得人們可以將監督學習的技術“翻譯”到黑盒優化領域,從而增強黑盒優化演算法。除了這些主題之外,我還簡要地討論了它們對科學哲學的影響。