“瓜分CPU”
隨着技術的發展,數據量的爆炸性增長,到2025年,全球生成和消耗的數據總量預計將超過180ZB。而計算機的核心部件——中央處理器(CPU)分析數據的能力卻有點力不從心,導致數據處理緩慢且低效。傳統的CPU爲了滿足多任務處理、高效能和節能要求,變得越來越復雜。在這個高速發展的時代,我們不能再依賴單一的CPU來完成所有的工作。爲此,各種特定的處理單元(PU)如雨後春筍般湧現,其目標就是“瓜分”CPU的任務,人多力量大,各司其職,優化計算效率。
GPU在AI時代崛起
CPU是計算機的“大腦”,執行一般計算任務,而GPU則幫助CPU執行圖形和人工智能等更復雜的任務。
GPU(圖形處理單元)最初是爲了滿足圖形渲染的需求而發展起來的,在GPU芯片市場中,英偉達控制着全球大約80%的市場。其GPU芯片主要是用於遊戲市場,但現在它的作用已經遠不止於此。由於其並行處理的能力,一路高歌猛進的GPU,就像一個無畏的少年,展現出了無限的可能。GPU已經被廣泛應用於深度學習、科學計算等多個領域。這種計算能力不僅可以加速圖形處理,還能在其他任務上分擔CPU的負擔,如數據分析、機器學習等。
圖形處理單元,GPU,最初是爲了滿足對圖形渲染的迫切需求而發展起來的,而現在它的功能已經遠超這個範圍,成爲推動現代計算的核心力量之一。得益於其並行處理的卓越能力,GPU,就像一個無畏的少年,一路在遊戲、挖礦、AI等領域高歌猛進,展現出了無限的可能。今天,GPU已經廣泛滲透到深度學習、科學計算等關鍵領域,成爲這些領域不可或缺的一部分。
尤其是在當今的人工智能的時代,生成式AI的廣泛和深入應用標志着一場技術革命的到來。在這個背景下,圖形處理單元(GPU)的重要性逐漸超越了中央處理單元(CPU),站上了歷史的舞台中心。
首先是,作爲世界上最大的GPU供應商,其英偉達大約佔據全球80%的GPU市場份額。2023年6月13日,英偉達的市值首次突破了萬億美元大關,使其成爲美國第五大市值公司,僅次於蘋果、微軟、Alphabet和亞馬遜。這一裏程碑式的事件突顯了GPU行業的健康和增長動力,同時也預示着它在未來將繼續發揮重要作用。
英偉達目前的市值仍然在1萬億美元以上
接下來是數據中心業務大反轉。在過去幾年中英偉達的重心开始轉向了數據中心市場。2023年第二季度的營收數據顯示了一個非常引人注目的現象。在2023年之前,數據中心的CPU市場份額一直顯著高於GPU。事實上,即便是在2023年第一季度,Nvidia在數據中心業務的收入(42億美元)仍然未能超過Intel和AMD的總和。但到了第二季度,局面發生了翻天覆地的變化,在數據中心業務上,兩大CPU巨頭英特爾和AMD的營收分別爲40億美元和30億美元。而與之形成鮮明對比的是,英偉達的數據中心業務營收超過了100億美元,這一數字甚至超過了英特爾和AMD的營收之和。這一數據充分顯示了GPU的地位在迅速上升,並在某些領域已經超越了CPU。
GPU現在在現代超級計算中佔據了中心地位,它被廣泛用於各種任務的加速,從網絡到遊戲,從加密到人工智能等各個領域。隨着越來越多的計算任務轉移到GPU上,我們可以預見到,GPU將在未來幾十年內繼續是計算和人工智能領域的主要工具。
爲數據處理而生的DPU
有了專門處理圖形的GPU之後,還不夠。在數字化時代,需要有針對數據處理而生的處理器,於是數據處理單元(DPU)應運而生,DPU也被稱爲是數據中心的第三大計算支柱。DPU 與 CPU 和 GPU 配合使用,可增強計算能力並處理日益復雜的現代數據工作負載。
CPU、GPU和DPU的對比(來源:datacenterknowledge)
DPU是專門設計用來處理大量的數據和信息。它可以有效地處理和分析數據,提高數據中心和雲計算平台的性能。根據英偉達的說法,DPU應該能完成以下三大項任務:
卸載:從服務器CPU接管基礎設施任務,以便更多的CPU能力可用於運行應用程序。
加速:使用DPU芯片中的硬件加速,比CPU更快地運行基礎設施功能。
隔離:將關鍵數據平面和控制平面功能移至DPU上的單獨域,既可以減輕服務器CPU 的工作,又可以在CPU或其軟件受到損害時保護功能。
迄今爲止,許多 DPU 开發都是針對超大規模的。展望未來,DPU 在數據中心和企業網絡其他地方的使用預計將會增長。一種可能實現的方式是將 DPU 技術與網絡交換機相融合——AMD Pensando 將這種技術組合稱爲“智能交換機”。“我們認爲智能交換機是企業吸收 DPU 技術的最簡單方法,因爲它可以讓他們淘汰舊設備,並爲他們的網絡帶來重要的技術和規模,” AMD Pensando 網絡技術和解決方案小組首席商務官 Soni Jiangdani 表示。
由於人工智能、機器學習、深度學習、物聯網、5G 和復雜雲架構需求的增長,DPU市場穩步增長。隨着對數據密集型應用程序的需求不斷增加,計算架構將不斷發展,從而需要更快、更高效、更安全的數據處理。DPU市場市場上湧現了不少芯片玩家,主要供應商包括國外的英偉達、Marvell、Fungible(被微軟收購)、Broadcom、Intel、Resnics和AMD Pensando,國內還有中科馭數、芯啓源雲豹智能、雲脈芯連等等。
根據Allied Market Research 的一份報告,預計到 2031 年,全球數據處理單元市場將達到 55 億美元,2022 年至 2031 年的復合年增長率爲 26.9%。因此,DPU 可能會從今天的可選組件轉變爲下一代計算的必要行業標准。
爆炸性增長的視頻,需要VPU
隨着視頻內容的普及和人工智能技術的飛速發展,視頻處理單元(VPU,Video Processing Unit)成爲了當前科技領域的一顆新星。多年來,英特爾的CPU+軟件的視頻解碼/編碼方案一直主導着流媒體市場,但是隨着視頻流媒體對高質量視頻的需求不斷增長,CPU將不再具有經濟價值,而且會消耗太多的能耗和空間。於是,VPU這種專門用來處理視頻的芯片开始興起,他們旨在釋放CPU的龐大勞動力。
VPU(視頻處理單元)是專門設計用來處理視頻任務的,它可以高效地處理視頻編碼和解碼、圖像處理和機器視覺等任務。通過將這些任務從CPU或GPU上卸載,VPU可以提高系統的總體效率和性能,同時也減輕了CPU或GPU的負擔,使它們可以專注於其他任務。而且這樣的VPU通常還具有高性能、低功耗和低延時等多個優勢,據SemiAnalysis對VPU芯片廠商鎔銘微電子(NETINT)的分析,相比於CPU和GPU,VPU的密度和功耗是CPU和GPU無法比擬的,VPU的出現可以說是爲視頻行業應用帶來了前所未有的加速計算能力。
VPU與GPU和CPU的對比(圖源:Semianalysis)
當下4K、8K等高清視頻技術的廣泛應用,使得視頻處理的計算負擔持續上升,這使得高效能的VPU成爲行業發展的必備工具。目前包括谷歌、Meta、字節跳動和騰訊等互聯網巨頭均已經瞄上這顆芯片。與此同時,AMD在今年4月,發布了一款用於數據中心的新型專用媒體加速器和視頻編碼卡——Alveo MA35D,英特爾則是將VPU集成到其14代酷睿Meteor lake處理器中。除了雲和數據中心之外,終端也已成爲視頻及遊戲的主要載體,手機廠商愈發追求視頻或影像質量。對此,vivo/小米以視頻芯片爲自研切入點,如Pixelworks/逐點半導體這樣的第三方視頻芯片供應商也开始迎來發展契機。
未來,視頻處理芯片市場預計將繼續增長,特別是在邊緣計算、物聯網 (IoT) 和5G通信領域。高效和低功耗的視頻處理芯片將成爲這些應用領域的關鍵組件。
更多新的“PU”正在路上
一家成立於2018年的以色列的初創芯片企業NeuroBlade,开發了一種專用處理器架構,他們將之稱爲是SPU(SQL處理單元)。該公司的目標是成爲“數據分析領域的 Nvidia”。SPU主要是用來加速SQL指令處理,該公司CEO表示,通過使用專門設計的處理器加速SQL處理,可以實現端到端SQL分析加速。在部署方面,該芯片通過主機服務器的PCIe總线插入,能夠透明地接管SQL相關處理,而無需修改主機應用程序軟件。
NeuroBlade SPU芯片和卡
SPU支持常見的列式文件格式。當一個查詢請求從查詢引擎發送時(也就是從數據庫管理系統中發出查詢請求),SPU可以直接訪問和處理存儲在本地存儲設備上的數據文件。在處理完數據文件後,SPU會將處理結果以原生查詢引擎布局的形式發送回查詢引擎。
SPU的工作原理
NeuroBlade公司正在與多個大型超大規模提供商進行談判,並已與一家公司贏得了數千張SPU卡的合同。如NeuroBlade還與戴爾公司合作,在PowerEdge服務器中分銷SPU卡產品。據他們稱,超大規模企業使用這一SQL處理單元 (SPU) 來卸載運行分析工作負載的x86 CPU,可以獲得100倍或更多的工作加速,每年可以節省數百萬美元。在NeuroBlade的客戶中,還有存儲類客戶,鎧俠已經在其CM7系列企業NVMe SSD中成功配置了其 NeuroBlade硬件增強型查詢系統 (HEQS),據他們稱,可以使客戶能夠充分發揮高性能 SSD 吞吐量的潛力,從而將查詢性能提高高達100倍。
結論
一款“全能”型的CPU似乎已經不能滿足所有的計算需求。隨着計算需求的多樣化和技術的發展,多種PU的出現,如GPU、DPU、SPU和VPU,正是對這種趨勢的回應。它們從各自擅長的領域,優化特定的計算任務,爲CPU“分憂解難”,提高整體的計算效率和性能。
雖然多種PU的出現已經开始瓜分CPU的任務,但CPU仍然是計算的中心。不過,多種PU的融合和發展無疑會進一步推動計算技術的不斷進步和優化,幫助實現更高效,更快速的計算,滿足日益增長的數據和計算需求。
在未來,我們可以期待更多種類的處理器出現,它們將更加專業和高效地處理各種不同類型的計算任務,爲各個行業和領域帶來更大的便利和推動力。
標題:“瓜分CPU”
地址:https://www.iknowplus.com/post/38975.html