彩燈控制器為什么上熱搜?
新華社北京5月21日電自美國(guó)開(kāi)放人工智能研究中心(OpenAI)發(fā)布聊天機(jī)器人程序ChatGPT及其背后的GPT系列大語(yǔ)言模型以來(lái),,人工智能大模型熱潮持續(xù)蔓延,,全球科技企業(yè)競(jìng)相宣布研發(fā)或推出自己的大模型,數(shù)量迅速增長(zhǎng)的大模型如何實(shí)現(xiàn)商業(yè)化落地成為行業(yè)關(guān)注焦點(diǎn),。
除了OpenAI,、谷歌等公司采取的提供云端大模型應(yīng)用程序編程接口(API)的商業(yè)模式之外,另一條備受關(guān)注的商業(yè)化路徑是銷(xiāo)售“軟硬件結(jié)合”的大模型訓(xùn)推一體機(jī),。這種商業(yè)模式在中國(guó)市場(chǎng)上熱度較高,,特別是多家中小型科技企業(yè)都推出了大模型訓(xùn)推一體機(jī)產(chǎn)品。這類(lèi)“開(kāi)箱即用”的人工智能產(chǎn)品可以在企業(yè)內(nèi)進(jìn)行本地化部署,,使最新人工智能技術(shù)能夠方便地在工業(yè)場(chǎng)景中落地應(yīng)用,,實(shí)現(xiàn)從人工智能技術(shù)到生產(chǎn)力的轉(zhuǎn)化,加速人工智能與產(chǎn)業(yè)深度融合,。
大模型訓(xùn)推一體機(jī)一般指集成了大模型訓(xùn)練和推理功能的“全棧式”人工智能設(shè)備,,通常包含中央處理器(CPU)、圖形處理器(GPU),、存儲(chǔ)器、操作系統(tǒng),、深度學(xué)習(xí)模型等軟硬組件,,能通過(guò)大規(guī)模數(shù)據(jù)訓(xùn)練掌握數(shù)據(jù)處理和預(yù)測(cè)等能力。
與通過(guò)應(yīng)用程序編程接口使用大模型功能相比,,企業(yè)利用訓(xùn)推一體機(jī)實(shí)現(xiàn)大模型部署具有多方面優(yōu)勢(shì),。首先,,訓(xùn)推一體機(jī)可以針對(duì)企業(yè)的特定業(yè)務(wù)需求提供“開(kāi)箱即用”的定制化大模型解決方案,并通過(guò)軟硬件協(xié)同優(yōu)化提高性能,,降低大模型部署,、業(yè)務(wù)方案建設(shè)和調(diào)適的門(mén)檻。例如,,佳都科技基于華為“昇騰AI”基礎(chǔ)軟硬件平臺(tái)推出了“佳都知行交通行業(yè)大模型訓(xùn)推一體機(jī)”,,可面向軌道交通、城市交通,、城市安全等智慧城市重點(diǎn)建設(shè)領(lǐng)域,,提供智能化、高效實(shí)時(shí)的解決方案和決策支持,。
其次,,由于訓(xùn)推一體機(jī)將所有計(jì)算資源集中到一臺(tái)設(shè)備上,在大規(guī)模數(shù)據(jù)訓(xùn)練中可大幅減少數(shù)據(jù)傳輸時(shí)間,,提高計(jì)算速度和模型訓(xùn)練效率,,使企業(yè)能夠更快捷地使用和管理資源,。
此外,,本地化部署的訓(xùn)推一體機(jī)能最大程度保障數(shù)據(jù)隱私和模型安全可控,滿(mǎn)足企業(yè)對(duì)數(shù)據(jù)安全監(jiān)管的需求,。英國(guó)《金融時(shí)報(bào)》日前報(bào)道說(shuō),,在企業(yè)內(nèi)部署的大模型訓(xùn)推一體機(jī)產(chǎn)品正在對(duì)一些大型科技企業(yè)提供的基于公共云的人工智能服務(wù)形成沖擊。
該報(bào)道說(shuō),,近期曝出的人工智能企業(yè)安全漏洞加劇了用戶(hù)對(duì)數(shù)據(jù)安全的擔(dān)憂(yōu),。例如,ChatGPT將用戶(hù)搜索歷史分享給他人,,以及韓國(guó)三星員工在使用ChatGPT處理工作時(shí)無(wú)意間泄露了商業(yè)機(jī)密等,。報(bào)道援引中國(guó)科大訊飛董事長(zhǎng)劉慶峰的話(huà)說(shuō),,機(jī)構(gòu)需要能夠保護(hù)他們的數(shù)據(jù),,而建立私有云是防止有價(jià)值數(shù)據(jù)泄露的方法。
但也有觀點(diǎn)認(rèn)為,,訓(xùn)推一體機(jī)性能會(huì)受到硬件技術(shù)限制,這提高了技術(shù)持有和更新的成本,�,!督鹑跁r(shí)報(bào)》的報(bào)道援引半導(dǎo)體行業(yè)研究機(jī)構(gòu)SemiAnalysis的首席分析師迪倫·帕特爾的話(huà)說(shuō),相比于公共云服務(wù)或使用應(yīng)用程序編程接口接入大模型,訓(xùn)推一體機(jī)效率更低下,。該模式對(duì)人工智能大模型的使用非常零散,,這意味著企業(yè)持有的昂貴人工智能硬件沒(méi)有得到充分利用,。
許多企業(yè)在衡量利弊后選擇了訓(xùn)推一體機(jī),,這正在成為中國(guó)算力行業(yè)的趨勢(shì)之一。2023年7月,,華為聯(lián)合多家伙伴共同發(fā)布“昇騰AI”大模型訓(xùn)推一體化解決方案,,加速大模型在各個(gè)行業(yè)落地應(yīng)用,。目前,,科大訊飛等多家中國(guó)科技企業(yè)都發(fā)布了基于華為“昇騰AI”基礎(chǔ)軟硬件平臺(tái)的訓(xùn)推一體機(jī)產(chǎn)品。
華為董事,、ICT(信息與通信技術(shù))產(chǎn)品與解決方案總裁楊超斌在今年3月舉行的華為中國(guó)合作伙伴大會(huì)上表示,2024年中國(guó)區(qū)人工智能訓(xùn)推一體機(jī)市場(chǎng)規(guī)模有望達(dá)到168億元人民幣,。