12月28日 [今天是星期幾？ ] 馮諾伊曼誕辰 | 人工智慧打破“天才魔咒”，類腦晶片的曙光即將到來

你正在閱讀這篇文章的智慧型手機、你桌上的電腦，或是世界各地資料中心裡轟鳴運轉的伺服器。
確定所有這些「大腦」形狀的人於 1903 年 12 月 28 日出生於匈牙利布達佩斯。

他的名字叫約翰‧馮‧諾依曼。

這位被譽為「魔鬼腦」的罕見天才提出的「馮諾依曼架構」 ，70多年來一直是電腦領域的絕對標準。毫無疑問，這種簡潔而精妙的分工——CPU負責運算，記憶體負責資料儲存——奠定了我們數位社會的基礎。

然而，諷刺的是，面對生成式人工智慧（一種「新型智慧」）的爆炸性發展，這項偉大的發明如今卻變成了人類最大的瓶頸？

對於人工智慧來說，要處理大量數據，傳統的運算和記憶體切換結構效率太低，浪費了太多能源。
我們現在正處於一個十字路口，必須重新定義我們過去70年來一直信奉的電腦。

然而，這裡出現了一個問題。
這樣一位天才難道沒有預見到他自己的設計將來會變成瓶頸嗎？不，他很可能早就預料到了。如今的計算機只不過是當時技術限制下「妥協的產物」而已。

為紀念馮諾伊曼的誕辰，本文將探討正在進行的硬體革命－「神經形態運算」的前沿領域。我們也將探討，如果他生活在一個不受硬體限制的時代，他會想要創造出什麼，並從他的視角展望量子運算和人工智慧交匯的未來。

70 年的白白浪費的旅行：馮諾伊曼瓶頸的真正本質

為什麼我們的電腦和智慧型手機有時會「思考」而發熱？原因實際上可以追溯到70年前的設計。

馮·諾依曼架構的基本結構是將「執行運算的地方（CPU）」和「執行儲存的地方（記憶體）」在物理上分開。這兩者透過一條稱為「總線」的路徑連接，但這有一個嚴重的缺陷。

我舉個例子讓你更容易理解。
CPU就像一位“頂級廚師”，記憶體就像一台“裝滿食材的巨型冰箱”。
然而，在諾伊曼式廚房裡，廚師幾乎沒有空間將食材放在手邊，所以每次廚師需要切蔬菜時，他或她都必須跑到冰箱，取出蔬菜，回到砧板上切菜，然後再把切好的蔬菜放回冰箱。

這就是所謂的「馮諾依曼瓶頸」。
無論廚師（CPU）的技術多麼嫻熟，如果往返冰箱（記憶體）的資料傳輸速度達到極限，菜餚也無法完成。

現代人工智慧（深度學習）將這個問題加劇到了致命的程度：像 ChatGPT 這樣的大規模語言模型（LLM）需要不斷地讀取和寫入數千億個參數（成分）。
目前據說，資料中心消耗的大部分電力都浪費在了「資料傳輸」上，而不是「計算」本身。我們並非用電力計算，只是用電力將資料從右向左傳輸。

接近大腦的硬體：神經形態時代的曙光

“如果旅行是浪費時間，那就直接在冰箱裡做飯吧。”
這種思維方式的轉變將被稱為“神經形態計算”，它將成為後馮諾依曼時代的關鍵。

讓我們來看看我們的大腦。在大腦內部，負責運算的「神經元」和控制記憶的「突觸」錯綜複雜地交織在一起，相互整合。由於記憶和運算在同一區域進行，幾乎沒有資料傳輸。這就是為什麼人腦只需要大約20瓦的能量（大約相當於一個燈泡的功率）就能進行複雜的思考。

在半導體中複製這種結構的努力正在加速進行。
英特爾的Loihi 2和IBM的NorthPole等最新晶片採用了與傳統馮諾依曼架構截然不同的方法。它們開始證明，透過使用「記憶體運算」（即在記憶體內進行計算）以及模擬大腦電訊號（脈衝）的處理方式，可以將能源效率提高數千倍甚至數萬倍。

這不僅是節約能源的問題。
這意味著「邊緣人工智慧」的世界即將到來，先進的人工智慧可以在智慧型手機、無人機或隱形眼鏡等小型設備上運行，而無需連接到雲端（一個巨大的馮諾依曼電腦）。

【專欄】如果馮諾伊曼擺脫了「硬體限制」會怎麼樣？

虛構對話：天才看到量子電腦會微笑嗎？

我們常常誤以為馮諾伊曼的建築是完美的理想，但想像一下 1945 年的情況。
當時，真空管極為昂貴，容易發熱，也容易燒毀。要用這種不可靠的元件製造計算機，唯一的選擇就是簡化功能，並將中央處理器和記憶體分開以進行控制。換句話說，馮諾依曼式計算機只是「在當時的技術和經濟限制下的最佳解決方案（折衷方案） 」。

如果約翰·馮·諾伊曼生活在 2020 年代，擁有無限量的電晶體和量子比特，那會怎麼樣？
他肯定不會從一開始就建造一台串行處理的計算機。他會在硬體層面實現與人腦相同的「大規模並行處理」。我們目前正在進行的神經形態計算轉型，只不過是在70年後糾正這位天才的「妥協」。

還有一點我們不能忘記。
在被譽為電腦之父之前，馮·諾伊曼也是量子力學的理論支柱，他撰寫了經典著作《量子力學的數學基礎》。

如果他今天看到了量子計算機呢？
他不會感到驚訝並說：“這是魔法。”相反，他會咧嘴一笑，說：“是的，這是魔法。”
“我想知道我寫的數學公式是否最終能與實際的物理機器相匹配？”

他晚年生病期間寫下的未完成的講義標題是《計算機與大腦》。而他最終痴迷的則是「自我複製的自動機」。
擺脫了硬體的限制，“現代馮·諾伊曼”想要創造的可能不是簡單的計算機或聊天機器人，而是一個“生命系統本身”，它可以在數位空間中自主學習、進化和繁殖。

12月28日將是「更新」日期

約翰·馮·諾伊曼。
1903年的今天，一位天才誕生於世，他為我們帶來了電腦的火花，並為現代文明奠定了基礎。

然而，即使是我們偉大的前輩們留下的“最嚴格的標準”，也不可能永遠沿用下去。
人工智慧帶來的日益增長的能源消耗、摩爾定律的放緩以及對可持續發展社會的需求，都表明我們應該走出“馮·諾伊曼的沙盒”，邁向下一個階段。

“馮·諾依曼瓶頸”一詞並非意味著走到了死胡同，而是一個“證書”，表明我們終於超越了前人設定的極限，成長到可以踏入未知領域的水平。

12月28日。
今天不僅僅是回顧過去成就的日子。
“公認的瓶頸在哪裡？”
“如今的最佳解決方案，難道不正是過去做出的一種妥協嗎？”
今天正是你捫心自問這個問題，並更新你思維作業系統的好時機。

最高的敬意不是模仿，而是超越。

[資訊]

普林斯頓高等研究院（IAS）－約翰·馮·諾伊曼（外部）
普林斯頓高等研究院的檔案館，約翰·馮·諾伊曼曾在此擔任教授，並開發了“IAS機器”，即現代計算機的原型。

英特爾神經形態計算（Loihi） （外部）
本文介紹的 Loihi 2 類腦晶片的開發者 Intel Labs 的官方網站解釋了該晶片與以往架構的差異以及最新的研究成果。

IBM研究院 – 北極（外部）
IBM研究院官方部落格發布了關於NorthPole的博文，這是一款受大腦結構啟發而設計的AI晶片。文中公佈瞭如何克服馮諾依曼瓶頸的技術細節。

約翰·馮·諾依曼計算機協會 (NJSZT) （外部）
在匈牙利有一個以他名字命名的電腦協會，你可以在那裡查看檔案並了解馮諾伊曼遺產的保存工作。