5月10日，北京，一場(chǎng)硬核技術(shù)沙龍即將開啟。

SGLang、TileLang、Triton、Mooncake等技術(shù)大牛，將齊聚一堂，深度探討「SGLang × MUSA」落地實(shí)踐，分享推理引擎、算子編譯和工程優(yōu)化的硬核干貨。

無(wú)論你是框架開發(fā)者、算子工程師，還是關(guān)注國(guó)產(chǎn)GPU生態(tài)的AI從業(yè)者，將有機(jī)會(huì)與技術(shù)專家進(jìn)行深度交流，獲取行業(yè)前沿洞察。（掃描文末二維碼報(bào)名或預(yù)約直播）

這場(chǎng)Meetup的契機(jī)，源于一個(gè)重磅消息：摩爾線程MUSA后端，正式加入全球領(lǐng)先的開源推理框架SGLang的官方支持體系，相關(guān)代碼也已成功合入SGLang主線。

圖注：SGLang GitHub官方倉(cāng)庫(kù)展示的 Moore Threads（MUSA）GPU 支持開發(fā)規(guī)劃與路線圖

代碼合入SGLang主線，標(biāo)志著摩爾線程全功能GPU獲得SGLang“原生支持”（First-Class Support），成為官方后端矩陣一員。

現(xiàn)在，無(wú)論是用SGLang框架本體sglang、高性能算子庫(kù)sgl-kernel，還是多模態(tài)生成組件multimodal_gen，開發(fā)者均可原生調(diào)用摩爾線程GPU，享受極致性能優(yōu)化。

▼SGLang 開源地址：

https://github.com/sgl-project/sglang

▼SGLang × MUSA Roadmap 地址：

https://github.com/sgl-project/sglang/issues/16565

打破壁壘：國(guó)產(chǎn)GPU融入全球開源生態(tài)

SGLang是業(yè)界領(lǐng)先的大語(yǔ)言模型推理與服務(wù)框架，憑借卓越的吞吐性能和靈活的編程接口，受到開發(fā)者廣泛關(guān)注。

此次，摩爾線程貢獻(xiàn)的MUSA后端，原生支持MUSA架構(gòu)的算子加速與顯存管理，同時(shí)開源MATE算子庫(kù)，為SGLang在摩爾線程GPU上的高效運(yùn)行提供了堅(jiān)實(shí)的核心性能支撐。開發(fā)者在AI訓(xùn)推一體智算卡MTT S5000上運(yùn)行DeepSeek、Qwen等主流模型，可實(shí)現(xiàn)“開箱即用”的推理加速。

摩爾線程進(jìn)入SGLang官方后端矩陣，不僅意味著國(guó)產(chǎn)GPU在生態(tài)適配上擁有更充分、更直接的兼容路徑，也為中文AI社區(qū)提供了一條基于國(guó)產(chǎn)硬件的高性能推理路徑。

開發(fā)者只需克隆 SGLang 官方倉(cāng)庫(kù)，并執(zhí)行以下命令，即可獲得同時(shí)支持大語(yǔ)言模型（LLM）與多模態(tài)模型（文生圖/文生視頻等）的運(yùn)行能力：

安裝 SGLang kernel（MUSA支持）

python setup_musa.py install

安裝SGLang及其完整MUSA依賴環(huán)境

pip install "python[all_musa]"

未來(lái)，隨著SGLang官方發(fā)布針對(duì)MUSA架構(gòu)優(yōu)化的正式sglang-kernel build，還可以通過以下命令安裝專為摩爾線程硬件優(yōu)化的kernel版本：

pip install sglang-kernel --index-url https://docs.sglang.io/whl/musa<<version>>

MUSA開源技術(shù)沙龍：

SGLang × MUSA Meetup

為慶祝這一重要合作，摩爾線程聯(lián)合SGLang社區(qū)將于5月10日（周日）下午在北京舉辦技術(shù)Meetup，采用「線下活動(dòng) + 線上直播」雙通道形式。

▼ 議題一：框架適配與架構(gòu)演進(jìn)

SGLang核心貢獻(xiàn)者Xiaoyu Zhang（BBuf）與摩爾線程核心貢獻(xiàn)者，將分享SGLang Roadmap、kernel優(yōu)化、Vibe Coding應(yīng)用、MUSA移植落地等。

▼ 議題二：算子編譯與性能優(yōu)化

Triton、TileLang項(xiàng)目技術(shù)大牛，揭秘算子工程，分享高性能算子生成、MUSA專項(xiàng)優(yōu)化、MATE技術(shù)協(xié)同。

▼ 議題三：系統(tǒng)整合與生態(tài)共建

Mooncake等明星項(xiàng)目專家將探討訓(xùn)推一體系統(tǒng)與開源社區(qū)協(xié)同，共建 AI 新生態(tài)。

誠(chéng)摯邀請(qǐng)開發(fā)者朋友們

掃碼報(bào)名線下參會(huì)，或預(yù)約線上直播，與技術(shù)大牛面對(duì)面，共探 AI 無(wú)限可能。