本書旨在介紹片上路由器網絡設計中最重要的概念和技術細節，希望為讀者闡明基本概念，并明確片上網絡研究的趨勢和最新進展。本書共9章，首先介紹了多核架構環境下的片上網絡，解釋了片上網絡如何適應多核設計的整體系統架構；然后介紹了各種拓撲成本及性能的權衡、路由算法、網絡中使用的流控制機制、路由器微體系結構、建模和評估片上網絡的細節；接著介紹了一系列基于片上互連網絡技術的計算架構設計案例，并全面分析了前面章節介紹的各種技術是如何在實際部署中進行取舍和融合的；最后介紹了未來幾年在推動片上網絡研究探索中將面臨的關鍵技術和新領域。本書面向熟悉基本計算機體系結構概念，并且對片上互連網絡感興趣的工程師和研究人員，可以作為他們理解片上網絡基礎知識和了解片上網絡最先進研究的基礎參考資料。同時，本書既可以用于教授基本概念，又可以用于學習最先進的設計，對研究生和行業工程師都具有重要價值。

序
是什么激發了將我們的On-Chip Networks翻譯成中文的想法，特別是在本書的三位作者都不精通中文的情況下？這一切源于十年前，在麻省理工學院，我們遇到了當時還是訪問博士生的任鵬舉。那個時候，關于片上互連網絡的研究課題，大家在一起進行了多次有趣而激動人心的頭腦風暴式的研討。十年后，我們都已分開，并各自居住在不同的國家。鵬舉與我們聯系，表達了他有興趣將本書翻譯成中文的想法，我們都非常高興。在整個翻譯過程中，我們也幫助解決其中所遇到的問題。
由于新冠病毒在全球蔓延，2020年是特別艱難的一年。在某種程度上，本書為我們提供了重新交流的機會，幫助我們一起跨越新冠病毒所帶來的阻礙。當我們不斷努力探索新的工作、新的教學和學習方式時，我們很感激本書的翻譯工作將我們再次聯系起來，并通過該書使得新一代的學生和研究人員能夠更好地學習片上互連網絡這一技術。
自2009年On-Chip Networks第一版電子書出版以來，片上互連網絡獲得了巨大的發展。在2009年，該技術還主要處于學術研究階段。到2017年On-Chip Networks第二版時，工業產品中已經開始出現采用片上互連網絡的芯片設計。到2020年，片上互連網絡技術已經得到了長足的發展，無論是高性能還是嵌入式處理器，已經有越來越多的產品采用這一技術。同時，隨著大家對機器學習興趣的激增，以及越來越多的芯片初創公司的興起，我們看到眾多的加速器平臺對片上互連網絡這一技術的興趣和應用與日俱增。目前，片上互連網絡的設計依然充滿著許多的挑戰和機遇，我們希望通過這本譯著，可以啟發更多的讀者去追求更好、更新的解決方案。
我們深感榮幸的是，中文譯本《片上互連網絡——多核/眾核處理器關鍵技術》使我們的On-Chip Networks可以覆蓋到更多的讀者。我們衷心地希望這本書有助于推動片上互連網絡進一步的發展。

娜塔莉·恩賴特·杰格（Natalie Enright Jerger）
圖沙·克里希納（Tushar Krishna）
白俐翾（Li-Shiuan Peh）
2020年11月

譯者序
片上互連網絡受到國內外越來越多的關注，是目前多處理器設計的關鍵技術之一，可是目前國內這方面的專業書籍較少。在2010年的春季學期，譯者曾在麻省理工學院學習Li-Shiuan Peh教授主講的“片上互連網絡”課程，還與Tushar Krishna教授有過多次關于多核仿真器片上網絡的技術討論，深感受益良多。兩位教授均是該領域的國際知名學者，他們參與編寫的On-Chip Networks是該領域的重要著作。我們因此萌生了將這本優秀著作的第二版介紹給中國讀者的想法，并且就此與兩位教授進行了溝通，得到了他們的大力支持。同時，在本書的翻譯過程中，我們還就圖書內容與他們進行了頻繁交流，在此感謝他們的指導和幫助。
原著面向的是具有一定多處理器和片上網絡基礎知識的讀者，因此對一些基礎概念和技術細節并沒有過多闡述。然而，考慮到片上網絡技術的迅速發展，以及其自身的跨學科特點，本書的讀者可能來自不同的技術領域，為了讓讀者更好地理解本書內容，我們在征求原著作者意見的基礎上，對原著進行了注解和補充，旨在就書中涉及的一些重要概念和技術進行更為詳細的闡述。我們希望這些新增內容對讀者有所幫助。除此之外，本書在翻譯的過程中力求語言風格平實，在保證其嚴謹性的前提下，不失專業性和可讀性。
然而，由于譯者水平所限，難免存在翻譯錯誤或表達欠妥的地方，希望讀者批評指正，也歡迎交流討論。特別說明，因原著中正文標注的參考文獻編號沒有按從小到大的順序編排，為了對應原著，本書中的參考文獻編號及順序也不做變動。同時，請讀者注意“互聯網絡”和“互連網絡”兩個概念的區別：“互聯網絡”特指由多個計算機網絡相互連接而形成的大型網絡，如用于傳輸文本、語音、圖像、視頻等多媒體信息的因特網（Internet）；而本書講述的“互連網絡”（interconnection network）特指計算機處理器架構中用于連接多個計算核心并承擔多個計算核心之間通信的網絡。愿本書能為學習片上互連網絡的同學和教師提供很好的幫助與參考。
感謝西安交通大學鄭南寧院士，當他得知我們要翻譯原著時，給予我們許多指導和建議。感謝同一課題組中的胡康、趙文哲、陳飛三位老師，在我們的研究工作中對片上網絡的設計方法進行了實踐和驗證，同時給本書提出很多寶貴的建議。
最后，感謝佟健銘、宗鵬陳、趙浩然三位同學，他們在本書的翻譯和校對過程中貢獻了非常多的智慧。《禮記·學記》中的“學然后知不足，教然后知困”和“教學相長”的道理會一直鞭策我們學習和進步。

譯 者
2020年10月于西安交通大學
人工智能與機器人研究所
原著前言
本書的目標讀者是熟悉計算機體系結構基本概念，并且有興趣了解片上網絡的工程師和研究人員。本書旨在對片上網絡設計中最重要的概念進行梳理，既可作為理解片上網絡基礎知識的學習參考資料，同時也展示了當前片上網絡最先進的研究工作。我們相信，本書既可以教授基本概念，又可以突出最先進的設計，對研究生和行業工程師都具有重要價值。雖然無法涵蓋所有的內容，但我們希望此書能為讀者闡明基本概念，并明確片上網絡研究的趨勢和目前存在的不足。
隨著該領域的快速發展，我們認為需要及時地在第二版中對最新的技術進行更新和回顧。在本書的最后部分新增兩章內容。我們在本書中更新了過去幾年的最新研究，并擴展了基本概念的范疇，包括現在已經用于多核處理器產品的多個研究思路。我們相信，這部分的內容是所有片上網絡從業者應當掌握的概念，如消息傳遞（message passing）、多播路由和氣泡流控制方案等。
本書的結構如下。
第1章介紹了多核架構環境下的片上網絡，并討論了隨著可擴展性需求的增長，它們從簡單的點對點（point-to-point）線路到總線的演進。
第2章解釋了片上網絡如何適配到多核設計的整體系統架構中。具體來說，我們詳細講述了為滿足共享存儲的單芯片多處理器緩存一致性協議（cache coherence protocols）所需的設計要求，并將其與基于消息傳遞的多核系統中的要求進行對比。除了對系統要求進行討論，本章還介紹了系統與網絡之間的接口。
通過對系統架構的討論，我們闡明了使用片上網絡技術的場景和情境。在此基礎上，我們開始探索片上網絡的細節。拓撲（topology）通常是設計網絡的首要問題，因此，第3章介紹了各種拓撲在成本和性能方面的權衡策略。
在給定網絡拓撲之后，必須通過路由算法（routing algorithm）來確定整個網絡結構中傳遞消息的路徑，第4章介紹了路由算法。
第5章介紹了網絡中使用的流控制（flow control）機制。流控制指定了當數據包從源節點傳輸到目的節點時，如何將網絡的資源（如緩沖區和鏈路帶寬）分配給數據包。
拓撲、路由算法和流控制都是構成網絡路由器微體系結構的因素。第6章詳細介紹了各種路由器微體系結構的權衡和設計問題。本章包括構成路由器微體系結構的緩沖區、交叉開關和分配器的設計。盡管片上網絡各個方面的創新都有助于解決功耗問題，我們還是將新的功耗討論集中在微體系結構章節中，因為絕大多數的功耗優化都位于微體系結構設計中。
新增加的第7章介紹了建模和評估片上網絡的細節，從軟件仿真到RTL設計，以及FPGA仿真，再到延遲、吞吐量、面積和功耗的架構模型。本章還指導讀者理解一些用于評估和比較片上網絡的有用指標和理想的理論標準。
隨著眾多行業和學術界的片上網絡芯片問世，我們在新增加的第8章中專門研究這些芯片。本章幫助讀者全面理解前幾章中介紹的各種基本概念、各種概念整體的含義，以及這些概念的設計和實現的實際意義。
最后在第9章中，我們為讀者呈現了未來幾年將推動片上網絡研究的關鍵挑戰和新的探索領域。大量的新研究已經浮出水面，在這里，我們關注各種重要的趨勢，突出了片上網絡研究的學科交叉性。新興的互連和設備大大改變了片上網絡各種實現的權衡標準，反過來促進新設計的出現。同時，我們也更新了一些重要的指標。例如，系統彈性（resilience）用于反映系統對于制造過程中不可避免的波動的恢復能力，服務質量（Quality-of-Service，QoS）用于反映多核上同時運行多個工作負載的響應質量和情況。這些新增加的指標，為整個片上網絡的研究提供了新的維度，用于激發新的研究思路。

娜塔莉·恩賴特·杰格（Natalie Enright Jerger）
圖沙·克里希納（Tushar Krishna）
白俐翾（Li-Shiuan Peh）