有關(guān)情不自禁(qíng bù zì jīn)網(wǎng)友關(guān)心什么?
拉斯維加斯2025年1月8日/美通社/ -- 1月7日-10日,,2025年國際消費(fèi)電子產(chǎn)品展覽會(CES 2025)盛大舉行,廣和通發(fā)布Fibocom AI Stack,,賦智千行百業(yè)端側(cè)應(yīng)用,。Fibocom AI Stack提供集高性能模組、AI工具鏈,、高性能推理引擎,、海量模型、支持與服務(wù)一體化的端側(cè)AI解決方案,,幫助智能設(shè)備快速實(shí)現(xiàn)AI能力商用,。
為適應(yīng)不同端側(cè)場景的應(yīng)用,AI Stack具備海量端側(cè)AI模型及行業(yè)端側(cè)模型,,基于不同等級算力的芯片平臺或模組,,F(xiàn)ibocom AI Stack可將TensorFlow、PyTorch,、ONNX,、MXNet等機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的模型進(jìn)行壓縮,并轉(zhuǎn)換為適合端側(cè)部署的最優(yōu)模型,,以匹配不同智能終端應(yīng)用場景,。AI Stack支持Android,、Linux、Ubuntu等系統(tǒng),,幫助終端客戶實(shí)現(xiàn)跨芯片平臺,、跨操作系統(tǒng)的端側(cè)高性能推理與部署。
AI Stack擁有完整AI工具鏈,,集成易于部署的代碼,,可進(jìn)行數(shù)據(jù)標(biāo)注、模型訓(xùn)練,、模型微調(diào),。針對模型移植,AI Stack提供模型轉(zhuǎn)換,、模型量化和算子替換等能力,。廣和通還提供包含基準(zhǔn)測試、性能監(jiān)控,、性能分析等評測服務(wù),,協(xié)助開發(fā)者更直觀地驗(yàn)證終端部署效果。
高性能推理引擎作為AI部署的關(guān)鍵組件,,將訓(xùn)練,、轉(zhuǎn)換完成的模型高效部署在端側(cè)并執(zhí)行推理任務(wù),從而在實(shí)際業(yè)務(wù)場景中實(shí)現(xiàn)多樣化的AI應(yīng)用,。推理引擎支持C++/Python/Java等多種編程語言接口,,可滿足跨平臺的應(yīng)用開發(fā),顯著降低開發(fā)者端側(cè)AI開發(fā)的難度和復(fù)雜度,。通過異構(gòu)調(diào)度,、和硬件加速等策略,可最大化發(fā)揮AI模組性能,,提升推理速度,,降低功耗,。
同時(shí),,AI Stack提供一套全面、豐富的模型倉,,包含機(jī)器視覺,、聽覺、多模態(tài),、大語言模型以及行業(yè)端側(cè)模型等海量模型,,可助力行業(yè)終端實(shí)現(xiàn)目標(biāo)檢測、語義分割,、對話問答,、語音識別,、圖像問答、多語言翻譯等功能,。
得益于其通用性,、易用性、高效性等特點(diǎn),,AI Stack可最大程度滿足客戶多層級算力要求,,縮短終端開發(fā)周期,降低端側(cè)AI開發(fā)難度,,助力智能座艙,、智能穿戴、智能零售,、機(jī)器人等千行百業(yè)的業(yè)務(wù)場景擁抱端側(cè)AI,。
廣和通于2024年成立AI研究院,并將端側(cè)AI作為公司戰(zhàn)略方向之一,,助力產(chǎn)業(yè)數(shù)智化升級,。隨著終端芯片算力、模型能力增強(qiáng),,以及應(yīng)用場景對實(shí)時(shí)響應(yīng)及隱私保護(hù)需求增加,,端側(cè)AI將助力更多IoT場景智能化。Fibocom AI Stack為客戶提供了一站式端側(cè)AI部署的能力,,未來將廣泛幫助智能零售,、智能網(wǎng)聯(lián)車、智能穿戴,、機(jī)器人等場景快速AI升級,。廣和通將積極聯(lián)合產(chǎn)業(yè)伙伴拓展AI創(chuàng)新應(yīng)用,助推端側(cè)AI商業(yè)落地,。