AI芯片初創公司，前景不妙
近期的一些消息顯露出AI芯片初創公司的前景，似乎不太妙！Wave Computing破產關閉的還歷歷在目，現在，AI芯片領域的初創公司似乎正遭遇前所未有的挑战。在英偉達的“陰影”下，一些潛在的投資者對初創公司望而卻步。面對全球經濟的不穩定性不斷增強，投資者因而變得越發審慎，他們對風險的忍受度顯著降低，這進一步增加了AI芯片制造商在籌資時的困難。根據 PitchBook 的數據，對專注於人工智能的芯片制造商的風險投資從2021年的90億美元降至40億美元。
雖然像Cerebras Systems、Graphcore和SambaNova這樣的企業成功籌集了大量資金，並在自己的技術領域取得了一定的成就，但要撼動英偉達這樣的行業巨擘仍非易事。尤其是在像ChatGPT這類大型模型應用興起之際，英偉達的地位愈發穩固，其GPU芯片在衆多AI應用中都扮演着不可或缺的角色，這使得任何試圖挑战英偉達的初創公司都面臨着巨大的壓力。這些AI芯片初創企業需要不懈努力，以證明他們的技術不僅能與英偉達媲美，甚至具有超越的潛力和價值。
資金流動性的減少、創新步伐的放緩，以及消費者信心的衰退，都在很大程度上制約了這些初創公司的成長。在這種大環境下，AI芯片初創公司不僅要與技術巨頭競爭，還要在經濟大潮的衝擊下穩住陣腳，這無疑對它們的生存和發展提出了更高的要求。
幾近破產、融資困難、裁員，
艱難的AI芯片公司
Mythic是模擬AI芯片的一家明星公司，但是據科技網站The Register報道，這家專注於模擬內存計算（CIM）的AI芯片初創公司總共籌集了約1.6億美元資金，去年現金耗盡，幾乎被迫停止運營。好在2023年3月，它成功籌集到了1300萬美元投資。Mythic首席執行官Dave Rick表示，英偉達“間接”加劇了整體 AI 芯片融資困境，因爲投資者希望投資巨額、回報豐厚的全壘打型投資。
在資金籌集方面，Graphcore堪稱歐洲半導體初創企業中的佼佼者。這家公司由Nigel Toon和Simon Knowles在2016年創立，此前他們將自己的硬件公司賣給了英偉達。Graphcore致力於开發IPU（智能處理單元），這一點與目前主流的針對人工智能應用的GPU（圖形處理單元）截然不同。Graphcore稱，其IPU在滿足人工智能的特定需求方面，比GPU更具有優勢。據PitchBook的數據顯示，截至目前，Graphcore已經成功籌集了超過6億美元的投資。然而，相比所籌集的資金，Graphcore的收入卻相對微薄。
故事在2020年出現了重大轉變，當時微軟決定停用Graphcore的芯片於其雲計算中心，這一舉措使得Graphcore失去了一個主要客戶，從而面臨了更加嚴峻的挑战。根據金融時報的報道，到2022年，Graphcore的收入驟降了46％，僅爲270萬美元，同時稅前虧損增加了11%，高達2.046億美元，年終現金余額爲1.57億美元。Graphcore表示，到明年5月份需要進一步融資才能實現收支平衡。公司將這一不利局面歸咎於“宏觀經濟環境的逆境”和“關鍵战略客戶”的硬件採購推遲，尤其是來自“中國的主要客戶”。據路透社的消息，Graphcore關閉了在挪威、日本和韓國的業務，並縮減了在其他國家的業務。目前，Graphcore也开始重新調整業務方向，將其IPU芯片從數據中心轉向部署在雲計算環境中。
Rivos，一家服務器芯片制造商，正面臨蘋果公司的訴訟，被指控非法挖角其工程師並竊取商業機密。今年八月，Rivos裁減了大約二十名員工，約佔公司員工總數的6%，在此過程中，管理層向留下的員工透露，公司獲取新資金的可能性正在減少。聯合創始人還向部分員工透露，蘋果針對該公司及其幾位前蘋果員工的訴訟，嚴重阻礙了他們的籌資活動。
芯片公司燒錢是常態，巨額的研發投入、激烈的市場競爭以及對頂尖人才的爭奪，都使得這些公司在成長的道路上不得不投入大量的資金。如今，人工智能領域初創公司給予初級工程師的薪酬往往十分可觀，這一方面反映了人才市場的供不應求，另一方面也凸顯了這些初創公司對技術人才的極度渴求。然而，這種高薪策略是否可持續，卻是一個值得深思的問題。對於AI芯片初創公司而言，成功融資是其發展的關鍵一步，但資金的有效利用同樣至關重要——這不僅關乎公司的現階段運營，更影響到其長遠的战略目標和市場地位。
英偉達的一些勁敵?
Cerebras是一家“一鳴驚人”的公司，該公司因爲芯片大，而捕獲了行業的眼球。英偉達的A100 GPU已經相當大了，差不多826平方毫米。但Cerebras的新型芯片WSE-2 芯片，面積爲 45,225平方毫米，幾乎覆蓋了8英寸硅晶圓的整個表面。自2016年成立以來它已籌集了7.3億美元。根據CB Insights全球獨角獸俱樂部的數據，該公司目前估值爲 40 億美元。目前，Cerebras已經與阿布扎比G42合作建造了九台人工智能超級計算機中的第一台，這台超級計算機的造價超過1億美元。Cerebras也正在朝着生成式AI領域奮進，雖然它已經證明了其CS-2在GPT模型中訓練的速度，但是其仍沒有獲得大型廠商的採用。
Cerebras研究人員在AI硬件公司中首次在Andromeda AI 超級計算機上訓練了一系列七個 GPT 模型，參數分別爲 111M、256M、590M、1.3B、2.7B、6.7B 和 13B
Tenstorrent也是業界很看好的一家初創公司，由頂級芯片設計師Jim Keller於2016年所創立。截止目前，該公司已經融資了近3.35億美元，最近的一次投資者中包括三星和現代，目前估值約爲10億美元。Tenstorrent將利用RISC-V和Chiplet技術打造AI CPU，以此來挑战英偉達的AI主導地位。最近，Tenstorrent剛與三星達成生產合作的協議，計劃使用三星的4nm工藝來生產芯片。
該公司擁有全面的路线圖（如下圖所示），其中包括基於 RISC-V 的高性能 CPU 小芯片以及先進的 AI 加速器小芯片，有望爲機器學習提供強大的解決方案。目前，Tenstorrent有兩款產品：一種名爲Grayskull的機器學習處理器，可提供約315 INT8 TOPS的性能，可插入PCIe Gen4插槽；另一種是聯網Wormhole ML處理器，可提供約350 INT8 TOPS的性能並使用GDDR6內存子系統，一個 PCIe Gen4 x16 接口，並具有與其他機器的 400GbE 連接。今年他們將推出其 Black Hole獨立ML計算機芯片。該公司的重頭戲"Grendel "將於2024年推出，這是一種高配置、高性能的ML芯片設計，將CPU芯片與專用的 ML/AI 芯片相結合，與英偉達的GH200和 Grace/Hopper超級芯片的實現方式類似。
Tenstorrent的AI芯片路线圖（圖片來源：Tenstorrent）
成立於2017年的SambaNova已成爲AI芯片創業領域中資金最雄厚的公司之一。截至目前，該公司已成功籌集了高達10億美元的融資，投資方包括如軟銀和英特爾等知名機構。這使SambaNova不僅成爲融資額最高的AI芯片初創公司，也被視爲英偉達最有力的新興競爭者之一，公司估值達到了50億美元。
SambaNova最近推出了其最新的第四代SN40L處理器。這款處理器擁有超過1,020億個晶體管，採用了台積電的5nm工藝，其計算速度高達638 teraflops。獨特的三層內存系統（包括片上內存、高帶寬內存和高容量內存）旨在處理與AI工作負載相關的龐大數據流。SambaNova宣稱，一個只有8個此類芯片組成的節點就能夠支持多達50萬億參數的模型，這幾乎是OpenAI的GPT-4 LLM報告規模的三倍。該公司的首席執行官Rodrigo Liang表示，使用標准的GPU來執行相同任務將需要數百個芯片，這意味着總成本只有使用標准方法的1/25。然而，SambaNova並不直接將芯片銷售給其他公司。相反，它提供對其定制技術棧的訪問權限，其中包含了爲運行最大型AI模型而專門設計的專有硬件和軟件。
避免與之正面競爭，
會否是AI芯片初創公司的新出路？
盡管英偉達在人工智能計算領域佔據主導地位，但該公司並沒有牢牢鎖定該領域，市場機會仍然有很多。如果按照英偉達的馮·諾依曼架構+HBM+先進工藝+互聯這樣的路线，可能將無人能敵英偉達，而且GPU價格和功耗一直在上漲，這對於人工智能行業本身來說是不可持續的。所以一些AI芯片公司選擇不與英偉達正面競爭，另闢蹊徑，走出一些差異化的路线，試圖在市場中分一杯羹。
d-Matrix：存內計算芯片
d-Matrix公司也是一家AI芯片初創公司，該公司認爲，隨着生成式人工智能的爆發，當前的基礎設施無法維持成本和需求，生成式人工智能需要變革性的計算範式。所以d-Matrix
設計的芯片具有數字“內存計算”功能，使人工智能計算機代碼能夠更有效地運行。d-Matrix 宣稱可以將TCO降低十倍，並在性能和延遲方面具有二十倍的優勢。
據The Register的報道，這家初創公司的最新芯片名爲Jayhawk II，將採用通過高速結構連接的八個小芯片，總共 2GB 的 SRAM，而且只需要350瓦就能提供大約 2,000 TFLOPs 的 FP8 性能和多達 9,600 TOPs 的 Int4 或塊浮點數學性能。
d-Matrix 路线圖（來源：d-Matrix）
該芯片可幫助ChatGPT等生成型AI應用提供支持。不過該公司所針對的僅是人工智能的推理部分，訓練部分則不涉獵。也就是說他們講不與英偉達正面競爭，而是發力在3-600億參數模型領域。對於這種尺寸的模型，在人工智能推理方面，英偉達的H100不一定是最經濟的選擇。運行這些模型的大部分成本都歸結於快速高帶寬內存的使用。相比之下，d-Matrix 加速器中使用的SRAM更快、更便宜，但容量也有限。
d-Matrix已經在微軟的支持下融資1.1億美元，微軟已承諾在明年推出該芯片時對其自用進行評估。d-Matrix預計兩年內年收入將超過 7000 萬至 7500 萬美元，並實現收支平衡。
Ceremorphic：模擬計算AI芯片
Ceremorphic正在設計一款採用台積電5nm工藝的超低功耗超級計算芯片，利用其自己的專利技術和多线程處理架構ThreadArch®。該公司的創始人兼首席執行官Venkat Mattela，此前他所創立的Redpine Signals於2020年3月以3.14億美元的價格出售給了Silicon Labs。Ceremorphic所研發的芯片的核心在於數字電路之下的模擬電路，在芯片功能的層次結構的最低層進行模擬計算，更高層次上則不做模擬計算。該公司的創始人兼首席執行官Venkat Mattela認爲，模擬乘法將比數字乘法更有效地利用電壓，更好的實現低功耗。
該公司的主要技術包括可靠、低能耗和安全的機器學習、圖形神經處理器、抗量子和硅高效安全處理器、高性能模擬電路、可靠的時序電路和系統級互連，使產品能夠針對不同的細分市場進行擴展。右圖描繪了 Ceremorphic的技術組合，涵蓋當前和未來的計算需求。
Ceremorphic的技術組合
結語
就目前的事實證明，在英偉達所主導的GPU生態中，初創芯片公司想要打入自己的產品不是易事，“替代英偉達”難。強如AMD和英特爾都很難撬動這塊大蛋糕。對於這些AI芯片公司而言，機會之窗口很窄，英偉達已經發布了其最新的路线圖。而且，大型的雲廠商幾乎都已經躬身自研芯片了，亞馬遜擁有Inferentia芯片，谷歌最近展示了其第五代張量處理單元，微軟即將發布其自研芯片，這進一步擠壓了希望通過雲提供商進入市場的初創企業的機會。
芯片初創企業所承擔的風險甚至超越了傳統軟件初創公司，因爲它們不僅需要巨額資金來支持復雜的半導體設計和軟件开發，還要承擔實物產品的制造成本。隨着時間的推移，我們可能會目睹一些此類企業的破產倒閉、被收購，但它們中的每一個都懷揣着成爲下一個英偉達的夢想。隨着時間的推進，可能會有更多這樣的公司失敗，但每個公司內心都懷揣着一個共同的夢想——成爲下一個英偉達。
標題：AI芯片初創公司，前景不妙
地址：https://www.iknowplus.com/post/46282.html
