星環(huán)科技近日宣布，其企業(yè)級(jí)大模型運(yùn)營(yíng)管理平臺(tái)Sophon LLMOps現(xiàn)已全面支持DeepSeek R1的全參版本以及蒸餾版本。這一消息標(biāo)志著星環(huán)科技在AI大模型管理領(lǐng)域邁出了重要一步。

Sophon LLMOps作為一款功能強(qiáng)大的企業(yè)級(jí)平臺(tái)，致力于為用戶提供全面的大模型運(yùn)營(yíng)管理解決方案。該平臺(tái)支持大模型與小模型的統(tǒng)一管理，能夠輕松納管開(kāi)源及商業(yè)化大模型，滿足用戶多樣化的需求。同時(shí)，Sophon LLMOps還具備底層國(guó)內(nèi)外GPU/NPU(ARM/x86)異構(gòu)算力的混合部署能力，實(shí)現(xiàn)了資源的精細(xì)化切分及高效調(diào)度，進(jìn)一步提升了系統(tǒng)的靈活性和性能。

此外，Sophon LLMOps還提供了模型及應(yīng)用效果評(píng)估、全局狀態(tài)監(jiān)控及預(yù)警等功能，幫助用戶實(shí)時(shí)掌握模型運(yùn)行狀況，確保系統(tǒng)的穩(wěn)定運(yùn)行。這些功能的加入，使得Sophon LLMOps成為了一款真正意義上的企業(yè)級(jí)大模型運(yùn)營(yíng)管理平臺(tái)，為用戶提供了從模型部署到運(yùn)行管理的全方位支持。