97婷婷狠狠成人免费视频,国产精品亚洲精品日韩已满,高清国产一区二区三区,日韩欧美黄色网站,xxxxx黄在线观看,韩国一级淫片视频免费播放,99久久成人国产精品免费

×

掃碼關(guān)注微信公眾號

云天勵飛DeepEdge10適配DeepSeek開(kāi)源周“首個(gè)大招”：FlashMLA

2025/2/27 10:45:12     

2月24日,DeepSeek"開(kāi)源周"正式啟動(dòng),并發(fā)布首個(gè)代碼庫FlashMLA,引發(fā)全球關(guān)注。

FlashMLA是針對英偉達Hopper GPU優(yōu)化的高效MLA解碼內核,專(zhuān)為可變長(cháng)度序列優(yōu)化設計,是DeepSeek高效使用算力的核心程序模塊。FlashMLA通過(guò)MLA解碼優(yōu)化與分頁(yè)KV緩存技術(shù),顯著(zhù)提升硬件利用率,加速大語(yǔ)言模型解碼過(guò)程,有效提高響應速度與吞吐量,適用于各種實(shí)時(shí)對話(huà)生成場(chǎng)景。

云天勵飛芯片團隊在FlashMLA開(kāi)源后,迅速完成了DeepEdge10平臺與FlashMLA的適配工作。在適配過(guò)程中,云天勵飛采用了Op fusion tiling、Online softmax、Double buffer、細粒度存算并行等先進(jìn)技術(shù),并基于自研的Triton-like編程語(yǔ)言快速開(kāi)發(fā)驗證了高效的FlashMLA算子。通過(guò)一系列優(yōu)化,不僅顯著(zhù)提升了計算效率,還大幅降低了顯存占用,充分展現了DeepEdge10平臺“算力積木”芯片架構的卓越優(yōu)勢,以及其與DeepSeek生態(tài)的高度契合性。

今日,云天勵飛已將相關(guān)代碼提交至開(kāi)源平臺Gitee,為開(kāi)源AI貢獻了重要的技術(shù)力量。

image.png

DeepEdge10系列芯片是專(zhuān)門(mén)針對大模型時(shí)代打造的芯片,支持包括 Transformer 模型、BEV 模型、CV 大模型、LLM 大模型等各類(lèi)不同架構的主流模型;基于自主可控的先進(jìn)國產(chǎn)工藝打造,采用獨特的“算力積木”架構,可靈活滿(mǎn)足智慧城市、智慧交通、智能制造、智慧倉儲、機器人、邊緣智算中心等不同場(chǎng)景對算力的需求,為大模型推理提供強大動(dòng)力。

image.png

目前,DeepEdge10芯片平臺已成功適配DeepSeek R1系列模型及國產(chǎn)鴻蒙操作系統。未來(lái),云天勵飛將持續加大研發(fā)力度,推動(dòng)芯片在國產(chǎn)化領(lǐng)域取得更大突破,為國產(chǎn)AI生態(tài)建設貢獻更多力量。