日前，在北京舉辦 NetSpeedSystems新產(chǎn)品發(fā)布會。NetSpeed Systems大中華區(qū)銷售總監(jiān)黃啓弘重點介紹了NetSpeedSystem 即將推出的為人工智能系統(tǒng)SoC的片內(nèi)互連所開發(fā)的架構(gòu)級 IP——Orion.AI，并分享了公司戰(zhàn)略及市場遠景。他表示，新發(fā)布的Orion AI將為下一代人工智能SoC帶來極致性能與終極效率。

人工智能SoC面對的挑戰(zhàn)

黃啓弘認為，人工智能技術(shù)在視頻、語音、預(yù)測、機器人及診斷等應(yīng)用中正漸入佳境。這些新興應(yīng)用對處理能力提出了更高的需求，推動著計算架構(gòu)發(fā)生天翻地覆的變化，并急劇改變著SoC設(shè)計模式。但是新應(yīng)用正讓AI計算面臨新的挑戰(zhàn)。

他說，人工智能的主要挑戰(zhàn)在于工作負載具備獨特性，在訓(xùn)練側(cè)與推理側(cè)都需要大矩陣乘法；人工智能架構(gòu)具備獨特性，內(nèi)核數(shù)量多,大量并結(jié)構(gòu)，以及點對點通信。所以，人工智能SoC需要以下一些特性：其一是解耦架構(gòu)，分層堆疊，每層均可擴展或收縮；其二是支持基于廣播推送的可配置多播網(wǎng)絡(luò)IP；其三是非凡的服務(wù)質(zhì)量(QoS)，以具備端到端QoS規(guī)劃的非阻寒路徑來控制帶寬與延遲。

由于新SoC內(nèi)部體現(xiàn)出的是一種新的數(shù)據(jù)流，一般來說，想實現(xiàn)快速有效的點對點數(shù)據(jù)交換，就需要大量的計算單元。傳統(tǒng)架構(gòu)運行方式不同，采用中央存儲作為數(shù)據(jù)交換系統(tǒng)。而人工智能系統(tǒng)需要任意位置數(shù)據(jù)交換，這可以通過廣泛的接口而實現(xiàn)，并需要支持長突發(fā)傳輸。Orion AI的一個關(guān)鍵優(yōu)勢就是不僅能夠支持多重多播請求，并支持非阻塞傳輸，而且可以發(fā)揮極致性能，具有萬億字節(jié)每秒(TB/s)吞吐量，2GHz以上數(shù)據(jù)帶寬高達1024位總線，有1000個內(nèi)核。其內(nèi)置人工智能利用先進人工智能算法，在解決方案空間搜尋較有效率解決方案。在功耗方面也實現(xiàn)了終極效率，采用先進低功耗管理技術(shù)來提升能效。

讓芯片互連成一張網(wǎng)

作為業(yè)界領(lǐng)先的內(nèi)部互連IP供應(yīng)商，NetSpeed Systems聚焦于人工智能、汽車電子和高性能計算的SoC。此次推出的業(yè)界首款以人工智能為基礎(chǔ)的SoC芯片內(nèi)部互連解決方案Orion AI支持多播與廣播等先進特性，能極大提升人工智能SoC與加速器ASIC的性能與效率，可廣泛應(yīng)用于數(shù)據(jù)中心、自動駕駛、AR/VR，以及先進視頻分析。Orion AI由NetSpeed經(jīng)過硅驗證的Orion IP構(gòu)建而成，這些Orion IP已經(jīng)授權(quán)給地平線機器人、寒武紀、百度以及Esperanto等領(lǐng)先的人工智能公司。

黃啓弘在介紹芯片內(nèi)部互連解決方案時解釋說，區(qū)別于其它競爭方案，NetSpeed的SoC總線設(shè)計是放棄傳統(tǒng)的總線理論，將互聯(lián)網(wǎng)的網(wǎng)絡(luò)拓撲理念引入到芯片內(nèi)部設(shè)計，即采用數(shù)據(jù)路由和分組交換技術(shù)替代傳統(tǒng)總線結(jié)構(gòu)，用互聯(lián)網(wǎng)的方法分發(fā)出去。這從架構(gòu)上解決了由于地址空間有限導(dǎo)致的傳統(tǒng)總線結(jié)構(gòu)可擴展性差，分時通信=效率低下，以及全局時鐘同步引起的功耗和面積較大等一系列問題。

他表示，Orion AI為極致性能而生，片上帶寬高達萬億位，并具備支持數(shù)千計算引擎的底層架構(gòu)。它提供超寬數(shù)據(jù)通路，接口位寬高達1024位，內(nèi)部結(jié)構(gòu)位寬更高，并可支持高達4K字節(jié)的長突發(fā)傳輸。

加快SoC上市時間

Orion AI還有一個重要優(yōu)勢，即節(jié)省SoC設(shè)計時間，它由NetSpeed的圖靈機器學(xué)習(xí)引擎提供支持，該引擎使用監(jiān)督學(xué)習(xí)來探索和優(yōu)化SoC設(shè)計與架構(gòu)。這是一種以人工智能為核心的設(shè)計方法，就像有一位隨時在線的建筑大師給出設(shè)計建議。處理器架構(gòu)師可以采納圖靈的建議，然后花時間去解決SoC設(shè)計中的其他難題。這樣就大大縮短了SoC的開發(fā)設(shè)計時間。

黃啓弘表示，利用NetSpeed Orion AI的幫助，特斯拉自動駕駛芯片從設(shè)計到流片只花了9個月的時間，這在以前是難以想象的。除了特斯拉，還有上面提到的其他幾家中國頂級人工智能公司，如地平線機器人、寒武紀和百度，都是這方面的成功案例。

他較后總結(jié)道，今天，以SoC應(yīng)用為代表的新技術(shù)正在改變?nèi)�世界溝通與交互的方式，而NetSpeed正是下一代SoC技術(shù)的核心。不論是正在為緩存一致性解決方案殫精竭慮的硬件架構(gòu)師，還是試圖用高性能、高效率互連技術(shù)打破性能瓶頸的SoC設(shè)計師，抑或是為構(gòu)建高彈性、高容錯性系統(tǒng)而百轉(zhuǎn)千回的安全產(chǎn)品經(jīng)理，都能在NetSpeed找到較佳的解決方案。

www.netspeedsystems.com