10月16日-18日,首屆灣區(qū)半導(dǎo)體產(chǎn)業(yè)生態(tài)博覽會在深圳舉行。

　　本次展會是在深圳市政府指導(dǎo)和深圳市發(fā)展和改革委員會支持下,由深圳市半導(dǎo)體與集成電路產(chǎn)業(yè)聯(lián)盟攜手深圳市重大產(chǎn)業(yè)投資集團(tuán)有限公司共同主辦,以"半導(dǎo)體重大項(xiàng)目集群和增量市場"為基礎(chǔ),邀請來自灣區(qū)、全國及全球的半導(dǎo)體產(chǎn)業(yè)鏈上下游頭部企業(yè)參加。

　　作為AI芯片領(lǐng)域代表企業(yè),云天勵(lì)飛受邀出席“AI芯片與高性能計(jì)算應(yīng)用論壇”,分享國產(chǎn)邊緣AI芯片架構(gòu)創(chuàng)新思路。

　　云天勵(lì)飛副總裁、芯片產(chǎn)品線總經(jīng)理李愛軍在演講中說道,過去一年半,大模型經(jīng)歷了從語言到多模態(tài)的轉(zhuǎn)變,并且正快速向物理世界演進(jìn);大模型落地應(yīng)用也從云端逐漸走向邊緣端,而大模型在邊緣端的應(yīng)用給AI芯片帶來了全新的挑戰(zhàn)。

　　邊緣端場景具有“多且碎”的特點(diǎn),不同場景應(yīng)用對算力、內(nèi)存、帶寬的要求也不盡相同。如何通過更靈活的芯片架構(gòu)設(shè)計(jì),盡可能讓AI芯片滿足不同場景的需求,是業(yè)界共同思考的問題。

　　在此背景下,云天勵(lì)飛提出了“算力積木”AI芯片架構(gòu),讓芯片能夠像搭積木一樣靈活組建、靈活擴(kuò)展。

　　以云天勵(lì)飛基于“算力積木”打造的國內(nèi)首顆國產(chǎn)工藝邊緣AI芯片DeepEdge10系列為例,DeepEdge10系列芯片基于一個(gè)標(biāo)準(zhǔn)化的大模型計(jì)算單元打造,可實(shí)現(xiàn)1.8B大模型的實(shí)時(shí)高效推理。

　　通過D2D Chiplet技術(shù)、C2C Mesh技術(shù)和C2C Mes Torus技術(shù),云天勵(lì)飛將標(biāo)準(zhǔn)計(jì)算單元像搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算力應(yīng)用,可實(shí)現(xiàn)7B、14B、130B等不同參數(shù)量大模型在邊緣端的高效推理。

　　目前,DeepEdge10系列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構(gòu)的主流模型,并在機(jī)器人、邊緣網(wǎng)關(guān)、服務(wù)器等領(lǐng)域?qū)崿F(xiàn)商業(yè)化應(yīng)用。

　　隨著大模型進(jìn)一步深入行業(yè)和場景,市場對邊緣AI芯片的需求將越來越大,而目前全球邊緣AI芯片市場仍處于萌芽階段。未來云天勵(lì)飛將堅(jiān)持走自主研發(fā)路線,通過架構(gòu)創(chuàng)新,在國產(chǎn)工藝上實(shí)現(xiàn)芯片性能的突破,為行業(yè)帶來更好用、更高性價(jià)比的國產(chǎn)AI芯片產(chǎn)品。