11月15日上午,在深圳舉辦的第25屆高交會開幕式上,雲(yún)天勵飛重磅「亮相」發(fā)布新一代AI晶片DeepEdge10,受到與會領(lǐng)導(dǎo)和中外嘉賓的高度關(guān)注。
據(jù)了解,DeepEdge10是國內(nèi)首創(chuàng)的國產(chǎn)14nm Chiplet大模型推理晶片,採用自主可控的國產(chǎn)工藝,內(nèi)含國產(chǎn)RISC-V核,支持大模型推理部署。依托自研晶片DeepEdge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡,已適配並可承載SAM CV大模型、Llama2等百億級大模型運算,可廣泛應(yīng)用於AIoT邊緣視頻、移動機(jī)械人等場景。雲(yún)天勵飛是國內(nèi)少有的自成立之初就堅持晶片研發(fā)的AI企業(yè),目前已完成了3代指令集架構(gòu)、4代神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)的研發(fā),且已陸續(xù)商用。更可貴的是,通過多年的投入,公司已建立起一支核心晶片團(tuán)隊,設(shè)計經(jīng)驗平均超過14年。雲(yún)天勵飛的晶片還先後獲得工信部、發(fā)改委、科技部三大部委人工智能專項,並三度獲得「吳文俊人工智能科學(xué)技術(shù)獎」。
大模型時代,AI推理晶片是應(yīng)用落地的關(guān)鍵承載體
邊緣計算的市場價值呈現(xiàn)高速發(fā)展趨勢。IDC預(yù)測,到2023年底,全球的邊緣計算市場將達(dá)到2000億美金的規(guī)模;預(yù)計到2026年,邊緣計算市場將突破3000億美金。邊緣計算的場景呈現(xiàn)出算力碎片化、演算法長尾化、產(chǎn)品非標(biāo)化、規(guī)模碎片化的特徵,傳統(tǒng)的演算法開發(fā)和晶片都難以適應(yīng)新一代人工智能邊緣計算場景的產(chǎn)品化需求。大模型的出現(xiàn),為行業(yè)提供了演算法層面的解決之道。但大模型在邊緣計算場景要面向?qū)崙?zhàn)發(fā)揮作用,則需要AI大模型推理晶片的支持。對於AI晶片而言,大模型帶來全新的計算泛式和計算要求。晶片需要具備更大的算力、更大的記憶體帶寬、更大的記憶體容量,才能支持巨量參數(shù)的大模型在邊緣端運行。同時,AI邊緣推理晶片還承擔(dān)了「落地應(yīng)用最後一公里」的職責(zé),這就意味著AI邊緣推理晶片不僅要支持大模型等AI計算任務(wù),還需要具備較強的通用算力。針對上述場景需求,雲(yún)天勵飛打造了新一代邊緣計算晶片DeepEdge10。該晶片具有SoC主控集成度;採用D2D Chiplet技術(shù)和C2C Mesh擴(kuò)展架構(gòu),可實現(xiàn)算力的靈活擴(kuò)展;內(nèi)置雲(yún)天勵飛最新的第四代神經(jīng)網(wǎng)絡(luò)處理器?;兑幌盗袆?chuàng)新技術(shù),雲(yún)天勵飛打造了系列化晶片。目前已開發(fā)出 Edge10C、Edge10 標(biāo)準(zhǔn)版和 Edge10Max 三款晶片;出貨形態(tài)包括晶片、板卡、盒子、加速卡、推理伺服器等,可廣泛應(yīng)用於AIoT邊緣視頻、移動機(jī)械人等場景。依托Dee Edge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡,已適配並可承載SAM CV大模型、Llama2等百億級大模型運算。目前,雲(yún)天勵飛已向國內(nèi)頭部的AIoT晶片設(shè)計廠商、智慧汽車晶片設(shè)計廠商、服務(wù)機(jī)械人廠商、國家重點實驗室等提供神經(jīng)網(wǎng)絡(luò)處理器的IP授權(quán)。
演算法晶片化,雲(yún)天勵飛打造AI晶片的核心「武器」
雲(yún)天勵飛自2014年成立之初一直堅持自主研發(fā)晶片,沉澱「演算法晶片化」的核心能力?!秆菟惴ň箒K不是簡單的「演算法+晶片」,而是雲(yún)天勵飛基於對場景的理解,以及對演算法關(guān)鍵計算任務(wù)在應(yīng)用場景中的量化分析,將晶片設(shè)計者的理念、思想與演算法相融合的AI晶片設(shè)計流程,能夠讓AI晶片在實際應(yīng)用中發(fā)揮更優(yōu)的效果。在演算法晶片化核心能力的支持下,雲(yún)天勵飛目前已完成了3代指令集架構(gòu)、4代神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)的研發(fā),且已陸續(xù)商用。更可貴的是,通過多年的投入,公司已建立起一支核心晶片團(tuán)隊,設(shè)計經(jīng)驗平均超過14年。雲(yún)天勵飛的自主研發(fā)晶片,也是公司自進(jìn)化城市智能體戰(zhàn)略的重要引擎。2020年,雲(yún)天勵飛在高交會上正式發(fā)布自進(jìn)化城市智能體戰(zhàn)略。驅(qū)動自進(jìn)化城市智能體發(fā)展的核心邏輯,是打造「應(yīng)用生產(chǎn)數(shù)據(jù)、數(shù)據(jù)訓(xùn)練演算法、演算法定義晶片、晶片規(guī)模化賦能應(yīng)用」的數(shù)據(jù)飛輪。晶片是決定AI應(yīng)用廣度與深度的關(guān)鍵載體,也是自進(jìn)化城市智能體建設(shè)的重要算力支撐。未來,雲(yún)天勵飛將繼續(xù)加大自主研發(fā)力度,立足自主可控,以自研「芯」,為自進(jìn)化城市智能體發(fā)展提供強大引擎。(記者 蘇偉)