您的當(dāng)前位置:首頁 >百科 >華為:AI推理創(chuàng)新技術(shù)UCM將于今年9月正式開源 正文
時間:2025-11-30 18:27:01 來源:網(wǎng)絡(luò)整理編輯:百科
新浪科技訊 8月12日晚間消息,在2025金融AI推理應(yīng)用落地與發(fā)展論壇上,中國銀聯(lián)執(zhí)行副總裁涂曉軍、華為數(shù)字金融軍團CEO曹沖出席并發(fā)表致辭。論壇上,華為公司副總裁、數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰發(fā)布AI

新浪科技訊 8月12日晚間消息,推理在2025金融AI推理應(yīng)用落地與發(fā)展論壇上,創(chuàng)新中國銀聯(lián)執(zhí)行副總裁涂曉軍、技術(shù)華為數(shù)字金融軍團CEO曹沖出席并發(fā)表致辭。于今論壇上,年月華為公司副總裁、正式數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰發(fā)布AI推理創(chuàng)新技術(shù)——UCM推理記憶數(shù)據(jù)管理器,開源旨在推動AI推理體驗升級,推理提升推理性價比,創(chuàng)新加速AI商業(yè)正循環(huán)。技術(shù)同時,于今華為攜手中國銀聯(lián)率先在金融典型場景開展UCM技術(shù)試點應(yīng)用,年月并聯(lián)合發(fā)布智慧金融AI推理加速方案應(yīng)用成果。正式
周躍峰在論壇上強調(diào):“AI時代,開源模型訓(xùn)練、推理推理效率與體驗的量綱都以Token數(shù)為表征,Token經(jīng)濟已經(jīng)到來”。為保障流暢的推理體驗,企業(yè)需持續(xù)加大算力投入,但如何在推理效率與成本之間找到最佳平衡點,成為了全行業(yè)亟待解決的重要課題。
為此,華為推出UCM推理記憶數(shù)據(jù)管理器,包括對接不同引擎與算力的推理引擎插件(Connector)、支持多級KV Cache管理及加速算法的功能庫(Accelerator)、高性能KV Cache存取適配器(Adapter)三大組件,通過推理框架、算力、存儲三層協(xié)同,實現(xiàn)AI推理“更優(yōu)體驗、更低成本”。
在與中國銀聯(lián)的聯(lián)合創(chuàng)新技術(shù)試點中,UCM的技術(shù)價值得到驗證。在中國銀聯(lián)“客戶之聲”業(yè)務(wù)場景下,借助UCM技術(shù)及工程化手段,大模型推理速度提升125倍,僅需10秒即可精準(zhǔn)識別客戶高頻問題,促進服務(wù)質(zhì)量提升。未來,中國銀聯(lián)將依托國家人工智能應(yīng)用中試基地,聯(lián)合華為等生態(tài)伙伴共建“AI+金融”示范應(yīng)用,推動技術(shù)成果從“實驗室驗證”走向“規(guī)?;瘧?yīng)用”。
論壇現(xiàn)場,華為正式公布了UCM開源計劃。UCM通過開放統(tǒng)一的南北向接口,可適配多類型推理引擎框架、算力及存儲系統(tǒng)。今年9月,UCM將正式開源,后續(xù)逐步貢獻給業(yè)界主流推理引擎社區(qū),攜手全產(chǎn)業(yè)共同推動AI推理生態(tài)的繁榮發(fā)展。
海量資訊、精準(zhǔn)解讀,盡在新浪財經(jīng)APP 責(zé)任編輯:何俊熹
圍甲雙雄論道烏江寨 魯深交鋒出場陣容介紹2025-11-30 18:16
馬克龍再次任命勒科爾尼擔(dān)任法國總理2025-11-30 17:59
德雷克海峽發(fā)生7.6級地震2025-11-30 17:58
吳清源杯國際預(yù)選各組半決賽結(jié)束 李赫王晨星等晉級2025-11-30 17:44
澤連斯基解除烏總統(tǒng)辦公室主任職務(wù)2025-11-30 16:47
白宮官員稱政府停擺第10天裁員啟動2025-11-30 16:46
吳清源杯國際預(yù)選各組半決賽結(jié)束 李赫王晨星等晉級2025-11-30 16:27
日本執(zhí)政聯(lián)盟突然破裂帶來哪些變數(shù)?2025-11-30 16:11
美國自殺式無人機未通過美軍測試:兩架接連墜毀2025-11-30 16:08
許家印家族33家公司、多個境外銀行賬戶被接管或凍結(jié) 涉及資產(chǎn)最高達77億美元2025-11-30 16:06
貴州茅臺:選舉陳華為董事長2025-11-30 18:15
FM錦標(biāo)賽金世煐并列領(lǐng)先 王馨迎第四張維維T52025-11-30 18:02
深夜!美股直線跳水,國際油價大跌2025-11-30 17:55
高市早苗遭釜底抽薪,盟友公開搶首相之位,石破茂的預(yù)言實現(xiàn)了2025-11-30 17:55
極速打擊、全域覆蓋,揭秘高超武器的關(guān)鍵設(shè)計2025-11-30 17:23
歐洲大師賽第三輪未完賽 勞倫斯暫領(lǐng)先李昊桐T322025-11-30 17:21
指責(zé)俄屢次侵犯領(lǐng)空,北約考慮降低開火門檻2025-11-30 16:42
美國田納西州一炸藥廠發(fā)生爆炸 致多人死亡2025-11-30 16:37
美媒稱德國秘密制訂對俄作戰(zhàn)計劃2025-11-30 16:08
FM錦標(biāo)賽王馨迎領(lǐng)先沖LPGA首冠 張斯洋金世煐T22025-11-30 15:52