近日,易道博識(shí)CyberBot賽博學(xué)習(xí)平臺(tái)與趨動(dòng)科技OrionX?AI算力池化方案經(jīng)過(guò)聯(lián)合測(cè)試,雙方產(chǎn)品相互兼容,性能良好,測(cè)試結(jié)果滿足雙方公司兼容性認(rèn)證的各項(xiàng)標(biāo)準(zhǔn),決定聯(lián)合推廣打包解決方案,共同提供最大客戶價(jià)值。
通過(guò)測(cè)試表明,易道博識(shí)CyberBot的AI識(shí)別引擎可以在趨動(dòng)科技OrionX AI算力資源池中正常運(yùn)行、性能穩(wěn)定,各項(xiàng)業(yè)務(wù)均可使用OrionX vGPU提供的AI算力進(jìn)行圖像識(shí)別。
通過(guò)OrionX對(duì)GPU進(jìn)行的算力池化,CyberBot識(shí)別引擎強(qiáng)化了在數(shù)據(jù)中心內(nèi)任意位置部署和按需使用算力資源的能力。同時(shí),CyberBot識(shí)別引擎利用顯存超分的功能可以實(shí)現(xiàn)對(duì)顯卡的分時(shí)復(fù)用,提高GPU顯卡的資源使用率。
通過(guò)與趨動(dòng)科技方案的融合,一方面,易道博識(shí)架構(gòu)體系的基礎(chǔ)設(shè)施層可以通過(guò)OrionX池化方案實(shí)現(xiàn)云原生級(jí)資源池化管理,提高資源利用率,實(shí)現(xiàn)產(chǎn)品異構(gòu)算力部署。另一方面,平臺(tái)層通過(guò)Gemini連接標(biāo)注平臺(tái)、訓(xùn)練平臺(tái)及推理平臺(tái),增強(qiáng)了平臺(tái)的賦能能力,AI研發(fā)效率得到進(jìn)一步提升,加速了CyberBot應(yīng)用產(chǎn)品迭代。
易道博識(shí)與趨動(dòng)科技共同打造聯(lián)合解決方案,可給客戶帶來(lái)以下收益:
1. 釋放更多GPU 算力:GPU卡切分后,依然可以保障OCR業(yè)務(wù)質(zhì)量;?
2. 提升已有GPU利用率:易道博識(shí)應(yīng)用可充分利用vGPU提供的顯存超分能力,在客戶OCR 識(shí)別業(yè)務(wù)閑時(shí)釋放GPU資源,進(jìn)而達(dá)到提高GPU能效的目的;
3. CPU和GPU解耦合:OrionX為CyberBot提供了遠(yuǎn)程調(diào)用GPU能力,提高了應(yīng)用安裝部署的靈活性,同時(shí)也為客戶實(shí)現(xiàn)了CPU與GPU配置的松耦合;
4. 提升系統(tǒng)平穩(wěn)性:在多Docker掛載一張GPU的場(chǎng)景下,通過(guò)GPU算力控制,可有效平抑應(yīng)用在性能方面的波動(dòng),有利于客戶對(duì)GPU資源的使用評(píng)估和資源利用率統(tǒng)計(jì);
5. 性能提升:測(cè)試表明采用多Pod分別掛載25%算力的vGPU,可有效提升整體性能,性能提升最高可達(dá) 20%。