英偉達近期發布本地大模型應用Chat With RTX,我們認爲對於AI PC軟硬件定義有標杆意義,有望加速PC從AI Ready向AI On階段發展。我們看好端側AI的中期發展機遇,AI PC作爲toC產品中算力最強的重量級AI產品之一,有望成爲兵家相爭之地。行業維度,PC市場見底信號明確,疊加換機周期和Win10服務將於2025年終止,2024年全球PC市場有望進入溫和復蘇態勢,而AI助力將成爲換機周期加速的關鍵因素。

英偉達發布Chat With RTX,本地大模型應用加速。

英偉達最新推出的Chat With RTX爲一個可以完全本地運行的LLM軟件,對於AI大模型本地化落地有突出的標杆意義,展示了AI模型與英偉達遊戲顯卡的加速能力相結合,在PC端加速適配和滲透的可能性。Chat With RTX可以幫助用戶檢索、分析保存在電腦上的文件(支持txt、pdf、docx、xml等格式),可以進一步通過用戶提供的YouTube視頻鏈接完成資料收集和文字記錄。該軟件並非英偉達自己創建的大語言模型,而是通過接入开源的大語言模型Mistral及Llama 2實現,並通過檢索增強生成技術(RAG)、TensorRT-LLM軟件以及英偉達遊戲顯卡的RTX加速單元進行加速。配置方面,Chat With RTX安裝大小爲35GB,安裝後需要進一步下載大語言模型Llama 2 13B或Mistral 7B,整體硬盤空間需求超過100GB。運行Chat With RTX需要的PC配置較高,英偉達推薦Win11系統下,配備至少16GB內存以及英偉達30和40系獨立遊戲顯卡,包含至少8GB的顯存VRAM。根據科技網站The Verge等評測反饋,Chat With RTX進行本地文件搜索、信息提取及總結的速度十分出色,但存在“記不住”上下文等問題,整體Mistral 7B的使用體驗與GPT 3水平接近。

行業展望:從AI Ready到AI On,大模型本地化有望帶動AI PC加速滲透。

我們認爲PC市場見底信號明確,疊加換機周期和Win10服務將於2025年終止,2024年全球PC市場有望進入溫和復蘇態勢,而AI助力將成爲換機節奏加速的關鍵因素。根據IDC,23Q4全球PC出貨量達6710萬台,同比-3%(23Q1/23Q2/23Q3同比分別爲-29%/-14%/-8%),環比-2%,同比跌幅已連續三個季度明顯收窄,進一步體現了庫存水平的恢復和需求回暖。

2023年底Win11更新後Copilot AI助手上线敲开AI PC時代大門,深度整合Microsoft 365、Edge和Bing搜索等功能,使其在桌面、Office軟件等多界面中均可便捷調用。此外,高通預計X Elite CPU將於2024年中期與新版Windows系統一起出貨,支持終端運行超130億參數的AI模型

我們認爲,AI PC周期來臨仍然需要循序漸進,從硬件預埋的“AI Ready階段”开始,CPU的升級換代主要來自於NPU功能的增加和優化,我們預計仍需1-2代的芯片升級適配。

從英偉達Chat With RTX可以看到,現有旗艦CPU+高端遊戲顯卡的配置已經能夠初步支持AI本地模型運行,並有望極大助力AI PC普及元年开啓。

而“AI On階段”何時在PC落地,我們認爲很大程度上取決於本地私域環境下個人大模型的微調訓練能否實現,進而爲用戶提供本地個性化數據庫和AI助理類服務。

我們看好AI PC具備更強的生產力屬性、個性化服務能力、創造性工作能力以及隱私安全保護能力。AI PC時代大模型應用、主核、軟件架構交替升級有望重新演繹“Tick Tock”發展模式,進而加速PC換機節奏。

風險因素:

宏觀經濟增速下行風險;PC市場恢復不及預期;服務器行業庫存去化不及預期;AI需求滲透不及預期

投資建議:

PC市場行業庫存水平特別是個人PC領域相對健康,疊加終端需求穩定,我們認爲PC市場見底信號明確,看好2024年全球PC市場有望進入溫和復蘇態勢,PC產業鏈相關廠商有望受益,而AI助力將成爲換機周期加速的關鍵因素。

本文節選自中信證券研究部已於2024年2月21日發布的《電子行業重大事項點評—英偉達發布Chat with RTX加速助力AI PC》報告,分析師:徐濤 S010517080003 雷俊成 S1010520050003



標題:電子:英偉達發布Chat with RTX加速助力AI PC

地址:https://www.iknowplus.com/post/83004.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。