日前，在北京舉辦 NetSpeedSystems新產品發布會。NetSpeed Systems大中華區銷售總監黃啓弘重點介紹了NetSpeedSystem 即將推出的為人工智能系統SoC的片內互連所開發的架構級 IP——Orion.AI，并分享了公司戰略及市場遠景。他表示，新發布的Orion AI將為下一代人工智能SoC帶來極致性能與終極效率。

人工智能SoC面對的挑戰

黃啓弘認為，人工智能技術在視頻、語音、預測、機器人及診斷等應用中正漸入佳境。這些新興應用對處理能力提出了更高的需求，推動著計算架構發生天翻地覆的變化，并急劇改變著SoC設計模式。但是新應用正讓AI計算面臨新的挑戰。

他說，人工智能的主要挑戰在于工作負載具備獨特性，在訓練側與推理側都需要大矩陣乘法；人工智能架構具備獨特性，內核數量多,大量并結構，以及點對點通信。所以，人工智能SoC需要以下一些特性：其一是解耦架構，分層堆疊，每層均可擴展或收縮；其二是支持基于廣播推送的可配置多播網絡IP；其三是非凡的服務質量(QoS)，以具備端到端QoS規劃的非阻寒路徑來控制帶寬與延遲。

由于新SoC內部體現出的是一種新的數據流，一般來說，想實現快速有效的點對點數據交換，就需要大量的計算單元。傳統架構運行方式不同，采用中央存儲作為數據交換系統。而人工智能系統需要任意位置數據交換，這可以通過廣泛的接口而實現，并需要支持長突發傳輸。Orion AI的一個關鍵優勢就是不僅能夠支持多重多播請求，并支持非阻塞傳輸，而且可以發揮極致性能，具有萬億字節每秒(TB/s)吞吐量，2GHz以上數據帶寬高達1024位總線，有1000個內核。其內置人工智能利用先進人工智能算法，在解決方案空間搜尋較有效率解決方案。在功耗方面也實現了終極效率，采用先進低功耗管理技術來提升能效。

讓芯片互連成一張網

作為業界領先的內部互連IP供應商，NetSpeed Systems聚焦于人工智能、汽車電子和高性能計算的SoC。此次推出的業界首款以人工智能為基礎的SoC芯片內部互連解決方案Orion AI支持多播與廣播等先進特性，能極大提升人工智能SoC與加速器ASIC的性能與效率，可廣泛應用于數據中心、自動駕駛、AR/VR，以及先進視頻分析。Orion AI由NetSpeed經過硅驗證的Orion IP構建而成，這些Orion IP已經授權給地平線機器人、寒武紀、百度以及Esperanto等領先的人工智能公司。

黃啓弘在介紹芯片內部互連解決方案時解釋說，區別于其它競爭方案，NetSpeed的SoC總線設計是放棄傳統的總線理論，將互聯網的網絡拓撲理念引入到芯片內部設計，即采用數據路由和分組交換技術替代傳統總線結構，用互聯網的方法分發出去。這從架構上解決了由于地址空間有限導致的傳統總線結構可擴展性差，分時通信=效率低下，以及全局時鐘同步引起的功耗和面積較大等一系列問題。

他表示，Orion AI為極致性能而生，片上帶寬高達萬億位，并具備支持數千計算引擎的底層架構。它提供超寬數據通路，接口位寬高達1024位，內部結構位寬更高，并可支持高達4K字節的長突發傳輸。

加快SoC上市時間

Orion AI還有一個重要優勢，即節省SoC設計時間，它由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監督學習來探索和優化SoC設計與架構。這是一種以人工智能為核心的設計方法，就像有一位隨時在線的建筑大師給出設計建議。處理器架構師可以采納圖靈的建議，然后花時間去解決SoC設計中的其他難題。這樣就大大縮短了SoC的開發設計時間。

黃啓弘表示，利用NetSpeed Orion AI的幫助，特斯拉自動駕駛芯片從設計到流片只花了9個月的時間，這在以前是難以想象的。除了特斯拉，還有上面提到的其他幾家中國頂級人工智能公司，如地平線機器人、寒武紀和百度，都是這方面的成功案例。

他較后總結道，今天，以SoC應用為代表的新技術正在改變全世界溝通與交互的方式，而NetSpeed正是下一代SoC技術的核心。不論是正在為緩存一致性解決方案殫精竭慮的硬件架構師，還是試圖用高性能、高效率互連技術打破性能瓶頸的SoC設計師，抑或是為構建高彈性、高容錯性系統而百轉千回的安全產品經理，都能在NetSpeed找到較佳的解決方案。

www.netspeedsystems.com