隨著生活方式的不斷改變，流媒體是新時代的熱門產(chǎn)業(yè)之一。短視頻、直播迅速崛起，圖像、音頻、視頻等領(lǐng)域的數(shù)據(jù)呈現(xiàn)出爆發(fā)式增長，這也對算力提出了更高的要求。

AI在過去幾十年的發(fā)展從運算智能發(fā)展到感知智能，人工智能應(yīng)用、直播視頻智能摳圖等需求讓AI算力精細(xì)化提升了一個高度。根據(jù)數(shù)據(jù)顯示，在算力需求強勁的市場條件下，我國的智能算力也在迅速增長，預(yù)計到2030年，人工智能算力的需求將會是2020年的120倍左右。

預(yù)計 2030 年人工智能算力需求（EFlops)

AI算力需求迅猛增長，而AI芯片則成為了產(chǎn)業(yè)落地的重要基底。AI芯片市場正在興起，根據(jù)IDC發(fā)布的《中國加速計算市場（2021年下半年）跟蹤報告》，2021年全年，中國AI服務(wù)器市場規(guī)模達(dá)350.3億元，同比增長68.6%。在高性能計算市場，AI芯片的并行運算能力成為了主流解決方案，根據(jù)Tractica 數(shù)據(jù)顯示，預(yù)計到 2023 年市場規(guī)模達(dá) 510 億美元，市場增長空間可觀。

全球人工智能芯片市場規(guī)模（億美元）

全球AI芯片賽道火熱，國內(nèi)也涌現(xiàn)了許多自研芯片的公司，瀚博半導(dǎo)體（以下簡稱“瀚博”）也在2018年成為國產(chǎn)賽道的玩家之一。

浩瀚算力，博聞強識

瀚博是一家扎根于中國，服務(wù)于世界，致力于為像素世界提供浩瀚算力的高科技IC設(shè)計公司。

瀚博專注于研發(fā)高性能通用加速芯片，公司首款服務(wù)器級別智能芯片SV102及搭載此款芯片的載天系列通用加速卡VA1，針對多種深度學(xué)習(xí)推理負(fù)載而優(yōu)化，為互聯(lián)網(wǎng)直播、短視頻等應(yīng)用場景，提供低延時、高吞吐的異構(gòu)計算性能和高效率的性能/功耗比。芯片解決方案覆蓋從云端到邊緣的服務(wù)器及一體機市場。瀚博提供適用于智慧城市、電商推薦、網(wǎng)絡(luò)直播、視頻會議、云游戲等領(lǐng)域的芯片解決方案以及相對應(yīng)的軟件開發(fā)平臺，同時瀚博也在深度布局圖形渲染GPU和其他智能產(chǎn)品線，通過完善的產(chǎn)品矩陣，進一步擴大行業(yè)優(yōu)勢。

算力源泉，高性能通用AI推理芯片

芯片是 AI 產(chǎn)業(yè)的制高點。目前在圖像、音頻、視頻等領(lǐng)域應(yīng)用需求最盛，各類智能應(yīng)用也由于AI芯片黃金底座的加持變得更加智慧和高效。

瀚博推出的SV100系列云端推理芯片，為進入后摩爾時代的算力產(chǎn)業(yè)提供了一款市場補給。

這款產(chǎn)品的深度學(xué)習(xí)推理性能指標(biāo)是目前現(xiàn)有主流數(shù)據(jù)中心GPU的數(shù)倍，具有高吞吐率和低延時；支持計算機視覺、視頻處理、自然語言處理和搜索推薦等推理應(yīng)用場景；集成高密度視頻解碼，廣泛適用于云端與邊緣解決方案，單芯片INT8峰值算力超 200 TOPS，可節(jié)省設(shè)備投資、降低運營成本。

VA1是瀚博推出的搭載此款芯片的通用AI推理加速卡。其主要有以下特點：

實時高能效深度學(xué)習(xí)推理：200 TOPS以上INT8峰值算力，深度學(xué)習(xí)推理性能指標(biāo)數(shù)倍于現(xiàn)有主流數(shù)據(jù)中心GPU；

高性能硬件視頻處理：支持高密度H.264, H.265或AVS2 1080p解碼，分辨率支持高達(dá)8K；

通用可擴展，適合多種推理應(yīng)用：針對各種深度學(xué)習(xí)推理負(fù)載而優(yōu)化的通用架構(gòu)，支持計算機視覺、視頻處理、自然語言處理、推薦系統(tǒng)等多種應(yīng)用場景，支持算子自定義擴展；

適配度高：標(biāo)準(zhǔn)半高半長70瓦PCIe Gen4卡，適用于幾乎所有服務(wù)器，無需額外供電；

軟件易用，部署方便：支持Tensorflow，Pytorch，ONNX等標(biāo)準(zhǔn)AI框架的模型和算子庫，降低軟件遷移成本。

強大產(chǎn)品的背后，離不開的是背后專業(yè)團隊和技術(shù)的支撐。瀚博的核心員工來自世界知名的高科技公司，核心團隊擁有18年以上的相關(guān)芯片與軟件設(shè)計研發(fā)、管理和市場經(jīng)驗，包括業(yè)界首顆7nm GPU在內(nèi)的約100款芯片流片、量產(chǎn)經(jīng)驗。瀚博目前擁有400人以上的團隊，研發(fā)人員占90%以上，碩士及以上學(xué)歷占比80%以上。目前瀚博的規(guī)模還在快速增長中。其先后與國內(nèi)外知名企業(yè)建立合作關(guān)系，為其提供芯片技術(shù)解決方案。截止目前瀚博已完成數(shù)輪20多億人民幣的融資，阿里、快手和中網(wǎng)投等是其戰(zhàn)略投資人。

寫在最后

日益豐富的應(yīng)用場景不斷推動著AI芯片技術(shù)的更新迭代，瀚博一直致力于產(chǎn)品的研發(fā)和精進，也在這條賽道上收獲了許多肯定和榮譽，而不斷改進和完善AI芯片仍是其當(dāng)前主要的研究方向之一。

瀚博部分所獲榮譽

未來，Al芯片將向更高能效、更接近人腦、云端與邊緣密切協(xié)同的方向發(fā)展。