期間,英特爾技術專家還分享了第四范式如何應用英特爾傲騰持久內存加速AI應用。為構建高質量在線推理服務,第四范式基于自有的SageOne AI算力平臺,引入英特爾?傲騰?持久內存,為企業(yè)用戶打造了新一代HyperCycle Machine Learning全流程AI系統(tǒng)。一方面,得益于傲騰持久內存提供接近純DRAM內存配置的性能,能夠實現(xiàn)每秒億級KV的查詢能力;同時,傲騰持久內存具備數(shù)據持久性優(yōu)勢,能夠使數(shù)據恢復時??s短至分鐘級,以更好地保障線上服務的連續(xù)性;此外,其更高的存儲密度,能夠大大降低內存資源的單位價格,幫助企業(yè)用戶有效降低系統(tǒng)采購、部署、運維和管理等費用,大幅降低TCO。

此外,由于現(xiàn)有的商用內存數(shù)據庫并不能滿足在線實時決策系統(tǒng)等應用高時效的要求,第四范式自研了針對人工智能在線實時決策系統(tǒng)的開源機器學習數(shù)據庫OpenMLDB中,并在此基礎上引入英特爾傲騰持久內存以重新設計OpenMLDB 的存儲引擎,以解決在線預估系統(tǒng)內存消耗大、離線后恢復慢、長尾延遲的問題。傲騰持久內存除了帶來更低TCO和更持久化特性,得益于其軟件架構的優(yōu)化,亦實現(xiàn)了長尾延遲接近20%的改善。

分享到

zhupb

相關推薦