電腦與人腦：現代電腦架構之父馮紐曼的腦科學講義

目次
 
中文版導讀
第三版序
第二版序
序
引言
第一部 電腦
　類比程序
　數位程序
　邏輯控制
　混合數值程序
　精度
　現代類比機器的特性
　現代數位機器的特性
第二部 人腦
　神經元功能的簡化描述
　神經衝動的本質
　激發條件
　神經系統中的記憶體問題
　神經系統中的數位與類比部分
　碼與其在機器運作中的角色
　神經系統的邏輯架構
　訊息系統其他可用的統計特徵
　大腦的語言不是數學的語言

中文版導讀
　　范紐曼的這本《電腦與人腦》雖然是上世紀50年代應耶魯大學西利曼講座的邀請而寫的演講稿，但其真正意義是他為計算機科學與神經科學的發展下了一個既有歷史性也有前瞻性的註腳。要理解這本書的價值必須將它放在科學發展的脈絡下來看。
　　自古以來人類對於大腦提出了不少理論與學說，在現代科學萌芽之前，大腦理論脫離不了神學或形上學，也通常都融入靈魂之類的概念。十八世紀工業革命開始，掌握了更多的科學實驗工具的科學家開始採用實證主義，現代神經科學才真正步上軌道。十八世紀末著名的物理與醫學家伽伐尼以電刺激青蛙腿的實驗證實神經的訊號傳遞是一種電的活動。十九世紀末二十世紀初，拉蒙卡哈使用高基發明的染色法繪製了大量且精細的腦切片手繪圖，人們終於了解大腦內部是由無數呈現樹狀結構並彼此交纏的神經細胞所組成，而這些細胞間的連結以及他們形成的複雜網路在大腦的學習記憶功能上扮演著關鍵性的角色。拉蒙卡哈與高基也因此獲得諾貝爾獎。在二十世紀中葉，神經科學理論被三個人推到了高峰。其中兩個人是埃倫‧霍奇金與安德魯‧赫胥黎。兩人於1952年提出神經脈衝的數學理論，描述神經訊號是如何透過細胞膜上的離子通道的活動而產生，他們也因此獲得諾貝爾獎。第三個人是唐納德‧赫布，他在1949年的一本書中闡述上下游神經細胞活性與其連結強度的因果關係，被視作是記憶與學習最重要的神經理論之一。這三個人的理論仍然是現今許多計算神經科學研究立論的基礎。
　　從另一角度來看，計算機科學當時也正處於一個新時代的起點。計算機器發展的歷史非常悠久，十九世紀之前就有純手動只能做簡單運算的計算機，到十九世紀查爾斯‧巴貝奇提出可編程計算機的概念，可惜當時的技術無法完全實現巴貝奇的概念。到了二十世紀早期，機械式計算機的電氣化讓計算機的能力突飛猛進，加上真空管的發明，使得計算機進入電子時代，運算速度大增。1946發表的ENIAC是第一個通用型的電子計算機，開啟了計算機科技的新時代。但因為使用了大量的真空管，讓它不僅成本高昂，體積龐大，且容易故障。現代計算機真正的轉捩點發生在同時間另一個更重要的開創性技術的發明，這就是1947年由貝爾實驗室的科學家開發出來的電晶體。因為電晶體的發明與應用，計算機科技才能呈現爆發式的成長。
　　回到范紐曼以及他所身處的時代，就可以看出這本書的歷史意義。這本書的文稿寫於1955與1956年間，正好是霍奇金、赫胥黎以及赫布提出他們的神經脈衝以及學習記憶理論之後不久，也距ENIAC的推出以及電晶體的發明沒有幾年。范紐曼在這本書中將這兩個似乎是獨立發展卻又同時達到轉捩點的領域做了非常深入且精闢的連結。書中的第一部解釋了計算機的基本運算原理，值得讀者注意的是貫穿其中的「精度」 概念。現代數位計算機的成功除了可程式化的能力以外，能以有限精度的元件來達到任意精度的計算的能力也是關鍵之一。進到本書的第二部，范紐曼在前半講解神經細胞基本的操作原理。他雖為數學家，但對於當時神經科學認識的透徹程度令人讚嘆。整本書的精華應該是在第二部分的後半，在這裡范紐曼比較了計算機與神經元的計算原理，真正展現出他驚人的洞見。他甚至提出一些後來才被證實的神經運作方式的推測。比如說他認為雖然神經細胞可比擬為計算機中的主動元件，但真正有意義的不是細胞的數量而是細胞間連結（突觸）的數量，另外他也提到兩個神經元互相刺激也可以組成記憶，而這是現在計算神經科學界對短期工作記憶機制的主流理論。范紐曼在神經計算的論述上如同第一部一樣圍繞著「精度」 這個概念打轉。他理解到神經元的精度非常低，可是又沒有像數位計算機一樣的機制可在一長串序列計算中保持任意精度，所以他認為神經系統的計算的「深度」 應該是淺的，但靠的是大量的平行運算來處理。現在我們知道神經系統可以依靠所謂的群體編碼（population coding）來達到高精度的訊號傳遞。范紐曼雖然並沒有在書中提到這個詞，但是他的論述已經包含了類似的想法。
　　范紐曼之後幾十年間計算神經科學當然也發展出許多范紐曼在書中沒有提到的新概念，比如說「複雜網路」。我們現在知道大腦很多功能是依靠著複雜的網路結構來達成，而個別神經細胞與連結的特性雖然也很重要，但不代表全部。更重要的是大腦依靠複雜的網路結構來達到所謂的「強健性」（robustness），也就是抵抗外在破壞的能力，而這正是傳統計算機硬體所缺乏的。現今最熱門的人工智慧中的類神經網路，其基本概念即是從大腦視覺系統的神經網路結構所啟發而來。雖然現階段類神經網路大多數的情況下都還是在傳統的數位電腦上模擬，但已有不少研究團以類神經網路的架構來設計所謂的仿神經晶片。有些仿神經晶片使用所謂的記憶體內運算，與范紐曼當初提出的將運算單元與記憶體分開的架構不同，所以這類的仿神經晶片被稱作是「非范紐曼架構」。其實范紐曼在書中花了不少篇幅討論神經系統中的記憶體到底在哪裡，他提出各種想法，當中還包含了前述的赫布理論，也就是突觸（神經的連結）就是記憶所在。只是他把這想法稱之為「極端的概念」。在他的年代，這想法的確是非常的前衛。如果他活到現在，看到整個蓬勃發展的類神經網路就是使用這樣的概念，應該會興奮大喊「我就知道」。
　　除了范紐曼所寫的內容以外，這本書的三個序也不能錯過。第一個序是范紐曼的妻子寫的，介紹了范紐曼的生平以及這本書的來龍去脈。後兩個序是分別在2000與2012為第二版與第三版所寫。撰寫人都是著名的專家，他們的序也都反映了當時科學界對計算機與神經科學的看法，從科學與技術發展的速度來看，這兩個序可以視作是不同時代的註腳。而本篇導讀寫於2021年，這幾年人工智慧爆炸性的發展相對應於2012年來說也算是另一個世代了。現在以及可見的未來，計算機科技將藉著仿神經工程慢慢的和神經科學匯聚在一起。在這個時間點回頭來看范紐曼的書我們又有更深的體會。
羅中泉
2021年4月於新竹