近日，AI異構(gòu)算力軟件Infra供應(yīng)商中科加禾宣布完成數(shù)千萬元Pre-A1輪融資，由北京市人工智能產(chǎn)業(yè)投資基金領(lǐng)投。

中科加禾成立于2023年，聚焦編譯技術(shù)，致力于跨越國產(chǎn)算力芯片與大模型落地之間存在的生態(tài)鴻溝，為我國AI大模型產(chǎn)業(yè)提供通用化、低成本、高性能的算力資源。公司產(chǎn)品為包含AI訓(xùn)練與推理工具、Fine-Tuning工具和算子實(shí)現(xiàn)等在內(nèi)的，跨品牌、跨型號的標(biāo)準(zhǔn)化AI軟件底座，以及連同硬件設(shè)備在內(nèi)的一體化AI算力解決方案。

2024年7月20日，中科加禾正式發(fā)布了異構(gòu)原生算力產(chǎn)品矩陣，其中包含異構(gòu)原生推理引擎「SigInfer」、異構(gòu)原生微調(diào)引擎「SigFT」、算子自動生成\轉(zhuǎn)譯工具「SigTrans」三款產(chǎn)品。這套算力工具能夠兼容多種國產(chǎn)及海外AI芯片，為屏蔽芯片差異提供了高性能的統(tǒng)一接口，將大模型推理時延最高降低74倍，吞吐率最高提升3倍，能效比提升 1.46 倍，支持340B參數(shù)量的稠密大模型，以及640B的MoE大模型。

其中，「SigInfer」定位于跨平臺、高性能的異構(gòu)原生推理引擎。作為異構(gòu)計算的技術(shù)底座，可以做到調(diào)用接口統(tǒng)一，平滑遷移業(yè)務(wù)應(yīng)用，大幅降低企業(yè)使用成本。在調(diào)用多種不同算力的同時進(jìn)行多層次深度優(yōu)化，充分挖掘芯片算力的潛能。

截至目前，中科加禾已與數(shù)十家智算中心、芯片廠商、服務(wù)器廠商、運(yùn)營商及頭部互聯(lián)網(wǎng)公司達(dá)成深度合作及產(chǎn)品級融合，實(shí)現(xiàn)了AI產(chǎn)業(yè)鏈全鏈路覆蓋，打通產(chǎn)業(yè)固有的煙囪式的孤島體系生態(tài)，建立了國產(chǎn)異構(gòu)「聯(lián)合體CUDA」的生態(tài)雛形。

自產(chǎn)品發(fā)布以來，中科加禾憑借行業(yè)頂尖的性能表現(xiàn)和極強(qiáng)的通用性，收獲數(shù)千萬元商業(yè)訂單及意向訂單，客戶包括國內(nèi)頭部芯片和服務(wù)器廠商、運(yùn)營商、互聯(lián)網(wǎng)大廠、智算中心等。