John Holland 與遺傳演算法、Echo 模型：從適應計算到複雜適應系統的共同語法

一、歷史位置：Holland 的問題不是「搜尋」，而是「適應」

John Henry Holland（1929-2015）在科技史上的標籤通常是「遺傳演算法之父」。這個稱號準確，但也容易把他的思想縮小成一種工程最佳化技巧。從他的博士訓練、密西根大學的跨領域環境，到後來與聖塔菲研究所的連結來看，Holland 更像是在追問一個橫跨生物、心理、經濟、電腦科學與社會系統的問題：當環境本身持續新奇、行動者彼此改變彼此的環境時，什麼樣的機制能讓系統學會、重組、分化、穩定或崩潰？

聖塔菲研究所對 Holland 的訃聞稱他為複雜適應系統研究的先驅，並指出他形成了 genetic algorithms、classifier systems 與 Echo models，用來研究這類系統的動態。這句話抓住了 Holland 的主線：GA 是演化式抽樣與重組；classifier system 是把演化與規則式學習、強化訊號、認知模型結合；Echo 則進一步把演化者放進資源受限、多主體互動且適應值由系統內部產生的人工世界。

Holland 的職涯也恰好跨過現代電腦科學成形的關鍵時段。SFI 2016 年轉述 Stephanie Forrest 與 Melanie Mitchell 的回顧時指出，Holland 早在 1959 年取得當時可說是極早期的電腦科學博士之一；他把計算視為跨學科語言，而非單一工程領域。這一點解釋了為何他在 1975 年出版的 Adaptation in Natural and Artificial Systems 並不是一本單純教人「如何調參」的演算法書，而是試圖建立一套「自然與人工系統中適應的共同數學」。

二、遺傳演算法的誕生：從自然選擇到可運算的抽樣機制

遺傳演算法（Genetic Algorithm, GA）的基本形式今日已是教科書內容：把候選解編碼成字串或染色體；以適應值函數評估；根據適應值選擇較可能繁殖的個體；透過 crossover 重組父母的片段；透過 mutation 引入變異；反覆迭代直到找到足夠好的解或達到停止條件。若只看這個流程，GA 似乎只是「隨機搜尋加上自然選擇隱喻」。Holland 的原始貢獻在於，他試圖說明這種群體式搜尋為何能在巨大的組合空間中產生非平凡效率。

Adaptation in Natural and Artificial Systems 原版出版於 1975 年，1992 年由 MIT Press 再版。MIT Press 對該書的介紹強調，它是啟動遺傳演算法領域的經典，並把理論框架應用到生物、控制、人工智慧、經濟、博弈與心理學等領域。Holland 的重點不是模仿生物外觀，而是抓住「有限樣本下如何分配嘗試」這個核心。每一代族群看似只評估了有限個體，實際上卻同時提供了許多子模式的統計資訊。這就是 Holland 所謂 implicit parallelism 的直覺來源。

在 Holland 的框架中，候選解不是孤立點，而是許多「模式」的交集。若以二進位字串為例，一個 schema 可以寫成 1*0**1，其中星號代表任意值。這個 schema 對應所有在特定位元相同、其他位元不限的解集合。GA 的族群每次評估一批完整字串，同時也間接評估了這些字串所屬的大量 schemata。若某些短而低階的 schema 持續出現在高適應值個體中，選擇會提高其抽樣頻率；crossover 又可能把不同有用片段重組成更大的結構。

Schema theorem：早期理論地基與它的邊界

Holland 的 schema theorem 常被簡化成一句話：短、低階、平均適應值高的 schemata，會在後續世代中以期望值增加。較標準的形式可寫成下界不等式：

其中 m(H,t) 是第 t 代中符合 schema H 的個體數；f(H,t) 是此 schema 實例的平均適應值；f_avg(t) 是全族群平均適應值；p_c 與 p_m 分別是交配與突變機率；δ(H) 是 defining length，也就是最外側固定位置的距離；o(H) 是 order，即固定位置數。這個式子告訴我們，schema 的平均表現越好，選擇越會增加其代表；但 schema 越長、固定位置越多，越容易被 crossover 或 mutation 破壞。

這個 theorem 的重要性在於，它把「演化式搜尋」翻成可討論的統計命題。然而它也常被過度詮釋。第一，它給的是下界，主要計入 crossover 與 mutation 的破壞機率，未完整描述重組「創造」新 schema 的正向作用。第二，它不直接保證 GA 在任意問題上優於爬山法、模擬退火或其他搜尋。第三，真實有限族群會有抽樣誤差、早熟收斂、遺傳漂變與表徵偏差。Holland 的理論是起點，不是對所有演化計算現象的終局解釋。

Building blocks：強大隱喻與可檢驗爭議

由 schema theorem 衍生出的 building block hypothesis 認為，GA 的力量來自把短、低階、高表現的 building blocks 逐步重組成更高階的解。這是非常有生產力的隱喻，也推動了 1980 到 1990 年代大量研究，包括 David Goldberg 對 GA 工程化與理論普及的貢獻，以及 Melanie Mitchell、Stephanie Forrest 等人對 Royal Road functions 的實驗分析。

但 building block hypothesis 也面臨批評。許多問題的適應值景觀並不會把「好片段」清楚分解成可重組的局部模組；基因位點之間可能有強烈 epistasis，一個片段在某上下文中有利，在另一上下文中有害。後續理論如 Price equation 視角、精確 schema theorem、linkage learning、estimation of distribution algorithms、evolution strategies 與 genetic programming 的研究，都在不同程度上修正了早期 building block 敘事。合理的結論是：Holland 提供了第一個強而清楚的語法，但不是所有演化計算都能被同一個 schema 故事完全解釋。

三、Classifier systems：從最佳化走向學習與認知

若 GA 是 Holland 適應思想的「演化抽樣」面，learning classifier systems（LCS）則是「規則、信用分配與行動」面。LCS 把一組條件-動作規則放在環境中；規則根據訊息匹配而競爭發言或行動；成功行動得到回饋；bucket brigade 等機制把回饋往前傳給曾經協助產生成功行為的規則；GA 則在規則群體上進行重組與選擇。

這裡的關鍵是 Holland 不滿足於離線最佳化。他想知道一個系統如何在不完整資訊、延遲回饋、環境非平穩、規則彼此互賴的條件下形成可用的內部模型。SFI 訃聞提到，Holland 的 learning classifier system 包含用於非馬可夫環境的強化學習演算法 bucket brigade，並預示了後來非馬可夫學習問題的一些方向。1986 年 Induction: Processes of Inference, Learning, and Discovery 也把這些想法連到認知科學中的歸納與推理。

LCS 在主流機器學習史上的聲量後來被統計學習、神經網路與深度學習壓過，但它在 Holland 思想中很重要：它把「演化」從解空間搜尋擴展到「可讀規則系統如何在環境中獲得信用」；也為 Echo 中的標籤、互動、內生適應值與多主體共演化鋪路。

四、聖塔菲研究所脈絡：複雜適應系統的共同問題

聖塔菲研究所成立於 1984 年，核心企圖之一是把物理、生物、經濟、計算、社會科學與認知研究放進同一個「複雜系統」問題域。Holland 是 SFI 的長期教授、外部教授、Science Board 與 Board of Trustees 成員，也是 SFI Adaptive Computation program 的創立者之一。SFI 在紀念文字中明確指出，該計畫始於 1990 年，而 Holland 對複雜適應系統、計算、演化與認知的寬廣看法，成為全球複雜性研究的基礎概念之一。

在 SFI 脈絡中，複雜適應系統不是單純的「很多東西彼此互動」。它至少包含幾個特徵：大量異質行動者；行動者與環境、行動者彼此之間的非線性互動；局部互動產生未預期的全域模式；行動者會改變自身規則或狀態；因此系統行為隨時間演化。Forrest 與 Jones 在 1994 年 SFI 工作論文 Modeling Complex Adaptive Systems With Echo 中清楚列出這些特徵，並指出傳統微分方程模型與精細模擬在這裡都會遇到困難：前者難以處理異質、離散、變規則個體；後者又不可能把真實系統所有細節建對。

Holland 的答案不是放棄理論，而是建造抽象但可執行的人工世界。這些模型很少能提供精準定量預測；它們更適合辨識寬類型行為、關鍵參數、敏感性、可能機制與直覺。這種方法後來成為 agent-based modeling 與 artificial life 的重要分支。

五、Echo 模型：把遺傳演算法放進人工生態

Echo 是 Holland 在 1990 年代初提出的 agent-based CAS 模型。它不是一個單一固定程式，而是一類 Echo-class models。Holland 的〈Echoing Emergence: Objectives, Rough Definitions, and Speculations for Echo-Class Models〉收錄於 1994 年 SFI Studies in the Sciences of Complexity 卷冊 Complexity: Metaphors, Models, and Reality。Terry Jones 與 Stephanie Forrest 1993 年寫了 An Introduction to SFI Echo 技術報告；Forrest 與 Jones 1994 年又以 SFI Working Paper 94-11-064 詳述如何用 Echo 研究物種豐度與複雜適應系統。

Echo 的動機可以從 GA 的局限說起。典型 GA 有外生適應值函數：設計者先定義一個目標函數，個體好壞由此函數評估。但自然生態、經濟與社會系統中的「適應值」往往不是外部固定分數，而是由資源、競爭者、合作方、位置與歷史共同構成。Forrest 與 Jones 指出，GA 專注於 CAS 的演化部分，但忽略資源配置、異質性與內生適應值；Echo 因此加入地理位置、資源競爭、個體互動與共演化。

Echo 的世界結構

Echo 世界由一組 site 組成，可視為二維格點或地理位置。每個 site 能生產不同種類與數量的資源；資源以字母表示，例如 a、b、c、d。資源可以存在於三個地方：環境中、agent 的 genome 中、agent 的 reservoir 中。agent 的 reservoir 是其局部狀態，用來支付稅、交易、繁殖與承受生存成本。

每個 agent 有結構化 genome，不只是固定長度字串。它包含多個 tags 與 conditions：offense tag、defense tag、mating tag、combat condition、trade condition、mating condition，以及與資源攝取能力相關的 uptake mask、trading resource 等基因。tags 是外界可觀察的表型線索；conditions 是 agent 內部用來判斷是否攻擊、交易或交配的條件。這個設計使 Echo 能研究「標籤」如何中介社會互動，例如信號、偽裝、偏好、排斥、互惠與群體邊界。

Echo 的循環

Forrest 與 Jones 描述的 Echo cycle 大致包含七個步驟：

1. 同一 site 內 agent 互動，可能發生交易、交配或戰鬥。
2. agent 從 site 收集可取得的資源；是否能收集某資源取決於其 uptake mask。
3. site 對 agent 課稅；若 agent 無法支付所需資源，會死亡並把資源歸還環境。
4. agent 以小機率隨機死亡，避免個體永生。
5. site 重新產生資源，不同 site 可有不同資源組成。
6. 本 cycle 沒取得資源的 agent 遷移到相鄰 site。
7. 儲存足夠資源的 agent 無性複製；複製過程可能發生點突變、插入或刪除。

此外，兩個 agent 若在互動中符合彼此條件，可能進行有性繁殖；其 genome 透過 variable-length crossover 產生後代。戰鬥中，輸家死亡，genome 與 reservoir 資源轉移給勝者；交易則需要雙方條件同意，交換彼此過剩的 trading resource。這些互動使 Echo 的適應值不再是外部函數，而是由「我能收什麼資源、住在哪、附近有哪些 agent、我的 tags 讓誰攻擊或交易、我能否支付稅與繁殖成本」共同決定。

為何 Echo 比 GA 更接近 CAS

六、Echo 能研究什麼：物種、標籤、資源流與湧現

Echo 最有代表性的早期研究之一，是 Forrest 與 Jones 以 Echo 產生的族群分布，與生態學中的 species abundance patterns 比較。他們特別討論 Preston 的 canonical lognormal distribution：在許多實地樣本中，大多數物種只有少數個體，少數物種非常常見，物種豐度在對數尺度上呈現可擬合模式。Echo 本身沒有內建「物種」概念，因此研究者必須決定如何把 agents 群組成 species：可以把每個 agent 視為一個物種，也可以依 genome 距離做 clustering。不同定義會給出不同豐度曲線，這正好暴露了 CAS 模型的核心困難：模型的抽象構件與真實世界分類之間沒有一對一映射。

這不是缺陷，而是 Echo 研究的一部分。若我們不能簡單把一個 bit 對應到一個生物分子、一個 tag 對應到一個真實表型，那麼模型的用途就不是「複製真實世界」，而是研究哪些抽象機制在廣泛條件下會產生相似模式。Forrest 與 Jones 的結論相當謹慎：Echo 在物種豐度上的初步結果令人鼓舞，但模型驗證需要一系列小型實驗，每個實驗針對 Echo 行為的一個面向。Echo 在很長時間內不應被期待給出許多 CAS 問題的定量答案；更務實的目標是探索可能結果範圍，並提示研究者在真實系統中該觀察哪些特徵。

Holland 對 tags 的興趣也值得注意。tags 讓 agent 可以不完全依賴內部本質，而依賴可見信號進行互動判斷。這使 Echo 能生成類似社會群體、免疫辨識、合作圈、排外、偽裝、捕食者-獵物關係與交易網路的現象。在後來的複雜系統與多主體研究中，tag-mediated interaction 成為重要概念：個體不需要全局知識，只要依據局部標籤規則互動，就可能形成大尺度結構。

七、時間線：Holland、GA、LCS、Echo 與 SFI

1. 1929：John Henry Holland 出生於美國印第安納州 Fort Wayne。
2. 1950 年代：Holland 在 IBM 早期電腦環境中工作，對 Hebb cell assemblies 的電腦模擬產生興趣；這是他以計算研究適應與認知的早期線索。
3. 1959：Holland 於密西根大學完成博士論文，題為 Cycles in Logical Nets，屬極早期電腦科學博士世代。
4. 1960-1970 年代：在密西根大學形成 adaptive systems、genetic plans、schema、classifier systems 等研究線索。
5. 1975：出版 Adaptation in Natural and Artificial Systems，系統化提出遺傳演算法與 schema 理論。
6. 1976-1986：Holland 的 cognitive systems 與 classifier systems 逐步成形，bucket brigade credit assignment 成為 Michigan-style LCS 的核心。
7. 1984：Santa Fe Institute 成立；複雜系統研究開始形成制度化平台。
8. 1986：Holland、Holyoak、Nisbett、Thagard 出版 Induction，把 classifier systems 與認知歸納理論連結。
9. 1990：SFI Adaptive Computation program 啟動，Holland 是核心人物之一。
10. 1992：Adaptation in Natural and Artificial Systems MIT Press 再版；Holland 獲 MacArthur Fellowship。
11. 1993：Jones 與 Forrest 完成 An Introduction to SFI Echo；Holland 發表與 Echo、tags 相關的 SFI 技術報告。
12. 1994：Holland 的〈Echoing Emergence〉收入 SFI 卷冊 Complexity: Metaphors, Models, and Reality；Echo 成為 SFI CAS 模型的重要案例。
13. 1995：Holland 出版 Hidden Order: How Adaptation Builds Complexity，向更廣讀者整理 building blocks、tags、internal models 等概念。
14. 1998：出版 Emergence: From Chaos to Order，進一步討論湧現與可模型化路徑。
15. 2012：出版 Signals and Boundaries，晚期思想聚焦於訊號、邊界與複雜適應系統的組件語法。
16. 2015：Holland 於 8 月 9 日在 Ann Arbor 去世，享年 86 歲；SFI、ACM 與學界多方紀念其貢獻。

八、影響：從演化計算到人工生命、經濟與 AI

Holland 的影響可分為三層。第一層是工程演算法。遺傳演算法與更廣的 evolutionary computation 成為最佳化、排程、設計搜尋、機器學習、參數調整與自動化設計的一支重要工具。即使今日許多工程場景更常使用梯度方法、貝葉斯最佳化、演化策略或差分演化，GA 的群體搜尋、黑箱最佳化與重組思想仍深植於工具箱中。

第二層是人工生命與 agent-based modeling。Echo、Sugarscape、Swarm、Tierra、Avida 等 1990 年代前後的人工生命模型共同塑造了一種研究風格：不要只問方程的平衡點，而要讓異質個體在可執行世界中互動，觀察宏觀結構如何出現。Echo 在這裡的位置特殊，因為它直接繼承 Holland 對適應、標籤、building blocks 與內生適應值的長期關切。

第三層是複雜適應系統理論。Holland 持續提出「共同語法」：building blocks、tags、internal models、nonlinearity、flows、diversity、signals、boundaries。這些概念不總是形成嚴格封閉的定理系統，但它們提供了跨領域研究者溝通的中介語言。經濟學中的 adaptive agents、免疫系統的辨識與記憶、社會系統中的標籤與群體形成、認知中的歸納與模型建構，都能在此語法下被放在同一張圖上。

九、爭議與局限：Holland 傳統中必須保留的謹慎

1. Schema 理論不是 GA 成功的完整解釋

早期 GA 社群有時把 schema theorem 與 building block hypothesis 講得過於強。後續研究顯示，許多 GA 行為更適合用族群遺傳、馬可夫鏈、統計抽樣、連鎖學習或問題表徵偏差來分析。schema theorem 仍是重要起點，但它本身無法區分哪些問題適合 GA，也無法避免早熟收斂或欺騙性 landscape。

2. Echo 的抽象度很高，映射真實系統困難

Echo 的優點是抽象；局限也是抽象。資源字母、tags、conditions、site、taxation、combat matrix 與 reservoir 很難直接映射到一個真實生態或經濟系統。Forrest 與 Jones 明確承認 CAS 模型有 mapping problem：如果模型元素不能一對一對應真實元素，就必須非常小心地說明研究問題是「模式比較」「機制探索」還是「定量預測」。Echo 更適合作為理論實驗台，而不是政策預測機器。

3. 模型驗證困難

Echo 可以產生豐富現象，包括資源流、軍備競賽、合作與物種豐度模式；但「能產生相似模式」不等於「真實機制相同」。複雜系統模型常有 equifinality：不同機制可導致相似宏觀結果。因此，Echo 類模型的驗證需要多指標、多實驗、多尺度比較，而不是只憑一條曲線相似。

4. 後來 AI 主流走向不同

深度學習崛起後，主流 AI 的核心技術路線轉向大規模資料、梯度下降、表徵學習與硬體加速。Holland 式演化計算並未成為主流 AI 的中心方法。不過這不代表其思想過時。今日在神經架構搜尋、演化策略、開放式搜尋、人工生命、群體智能、多智能體強化學習、AI safety 中的生態式模型與非平穩環境問題裡，Holland 問題意識仍然反覆出現。

十、與其他發展的關聯

與人工生命：Christopher Langton 推動的 artificial life 問題意識與 Holland 高度相容：生命不是只能在碳基生物中研究，也可以在人工媒介中研究「生命般」組織原理。Echo 是 artificial ecology 的代表之一，但比許多純粹自複製模型更強調資源、標籤與互動。

與經濟學：SFI 的 Brian Arthur、W. Brian Arthur 的 increasing returns、El Farol bar problem、adaptive agents 與後來 agent-based computational economics，都與 Holland 的適應計算有親緣關係。經濟體中的策略、預期、交易網路與制度標籤，很適合用 CAS 語言描述。

與免疫系統：Holland 與 SFI 圈內的免疫系統研究共享「辨識、記憶、變異、選擇、分散式適應」語法。Echo 的 tag/condition 設計可與免疫辨識中的形狀空間、受體-配體匹配做抽象類比，但不應簡化成直接生物模型。

與現代 AI：今日大型模型的訓練主要依賴梯度方法，但多智能體學習、RL 中的非平穩環境、open-endedness、automated discovery 與自我改進系統，都重新面對 Holland 的核心問題：在互相改變的環境中，適應值如何被定義、如何被操弄、如何產生不可預期結構。

十一、總結：Holland 的真正遺產

若把 Holland 的工作壓縮成「他發明了遺傳演算法」，會漏掉最重要的部分。GA 是他的入口，不是終點。Holland 想建立的是一種研究適應的共同科學：從 bit string 到規則系統，從規則系統到人工生態，從人工生態到複雜適應系統的一般語法。

Echo 正是這條路線的代表。它把 GA 從外生評分的搜尋演算法，推進到有資源、有位置、有信號、有互動、有死亡、有交易、有欺瞞與共演化的世界。它的限制很清楚：抽象、難驗證、難以直接預測真實系統。但它的價值也因此明確：它逼研究者把「湧現」從詩意詞彙變成可執行模型，把「適應」從比喻變成一組可操弄、可失敗、可比較的機制。

在 AI 與科技史中，Holland 屬於那類把工具與世界觀同時留下的人。遺傳演算法留下了工程工具；schema theorem 留下了理論語法；classifier systems 留下了學習與規則的橋；Echo 留下了人工生態與 CAS 實驗台。它們共同指向同一句問題：複雜世界中的秩序，如何由有限行動者在不完整知識下反覆適應而來？

參考來源清單

1. Holland, John H. 1975. Adaptation in Natural and Artificial Systems. University of Michigan Press；MIT Press 1992 再版。MIT Press 書頁：https://mitpress.mit.edu/9780262082136/adaptation-in-natural-and-artificial-systems/
2. Holland, John H. 1994. “Echoing Emergence: Objectives, Rough Definitions, and Speculations for ECHO-Class Models.” In George A. Cowan, David Pines, and David Meltzer, eds., Complexity: Metaphors, Models, and Reality. Addison-Wesley / Santa Fe Institute Studies in the Sciences of Complexity, Vol. XIX.
3. Jones, Terry, and Stephanie Forrest. 1993. An Introduction to SFI Echo. Santa Fe Institute Technical Report 93-12-074.
4. Forrest, Stephanie, and Terry Jones. 1994/1995. Modeling Complex Adaptive Systems With Echo. Santa Fe Institute Working Paper 94-11-064. SFI working paper page；PDF：94-11-064.pdf
5. Holland, John H.; Holyoak, Keith J.; Nisbett, Richard E.; Thagard, Paul R. 1986. Induction: Processes of Inference, Learning, and Discovery. MIT Press.
6. Holland, John H. 1995. Hidden Order: How Adaptation Builds Complexity. Addison-Wesley.
7. Holland, John H. 1998. Emergence: From Chaos to Order. Addison-Wesley.
8. Holland, John H. 2012. Signals and Boundaries: Building Blocks for Complex Adaptive Systems. MIT Press.
9. Holland, John H. 2014. Complexity: A Very Short Introduction. Oxford University Press.
10. Goldberg, David E. 1989. Genetic Algorithms in Search, Optimization, and Machine Learning. Addison-Wesley.
11. Mitchell, Melanie. 1996. An Introduction to Genetic Algorithms. MIT Press. MIT Press 書頁：https://mitpress.mit.edu/9780262133166/an-introduction-to-genetic-algorithms/
12. Forrest, Stephanie, and Melanie Mitchell. 2016. “Adaptive Computation: The Multidisciplinary Legacy of John Holland.” Communications of the ACM；SFI 介紹頁：https://www.santafe.edu/news-center/news/forrest-mitchell-adaptive-computation-multidisciplinary-legacy-john-holland
13. Santa Fe Institute. 2015. “Complexity science giant John Holland passes away at 86.” https://www.santafe.edu/news-center/news/in-memoriam-john-holland
14. Santa Fe Institute / SFI Press. John Holland, “Complex Adaptive Systems: A Primer,” in Worlds Hidden in Plain Sight. https://www.sfipress.org/1-complex-adaptive-systems-a-primer
15. Harris, David L. 2001. Echo Implemented: A Model for Complex Adaptive Systems Computer Experimentation. Sandia National Laboratories, SAND2001-2097. DOI: 10.2172/786628
16. Booker, Lashon B.; Goldberg, David E.; Holland, John H. 1989. “Classifier Systems and Genetic Algorithms.” Artificial Intelligence, 40(1-3), 235-282.
17. Holland, John H. 1985. “Properties of the Bucket Brigade Algorithm.” Proceedings of the First International Conference on Genetic Algorithms and Their Applications, 1-7.
18. Mitchell, Melanie; Forrest, Stephanie; Holland, John H. 1992. “The Royal Road for Genetic Algorithms: Fitness Landscapes and GA Performance.” In Toward a Practice of Autonomous Systems, MIT Press.
19. Altenberg, Lee. 1995. “The Schema Theorem and Price's Theorem.” In Foundations of Genetic Algorithms 3, 23-49.

註：本文避免把 Echo 解讀成對特定生態系的精準模擬；依據 Forrest & Jones 對 CAS agent-based models 的限制說明，本文將 Echo 定位為機制探索與模式比較的人工生態實驗台。