2月17日，記者從市數(shù)據(jù)局組織召開的DeepSeek大模型應(yīng)用工作研討會上獲悉，該局在南京市政務(wù)云的華為昇騰 910B虛擬化AI算力資源池內(nèi)，成功部署上線滿血版DeepSeek-R1-671B，成為省內(nèi)首個基于算力虛擬化部署的滿血版DeepSeek-R1-671B政務(wù)類大模型，實現(xiàn)了“南京+DeepSeek滿血版”的人工智能政務(wù)應(yīng)用一體化賦能升級。
據(jù)介紹，我市本次DeepSeek部署采用了先進(jìn)的虛擬化切片技術(shù)，將物理GPU集群抽象為可動態(tài)分配的虛擬算力單元，實現(xiàn)訓(xùn)練/推理任務(wù)的細(xì)粒度資源配給。資源利用率峰值可達(dá)物理集群的85%，對比傳統(tǒng)獨占模式提升30%以上。相較裸金屬部署僅產(chǎn)生7%性能損耗，但資源復(fù)用率提升3.2倍，特別適合政務(wù)云中周期性波動的AI負(fù)載特征。
當(dāng)天，多個基于DeepSeek開發(fā)的“南京政務(wù)版AI助手”“數(shù)據(jù)局智能助手”、智能問數(shù)、公文起草等一系列智能化應(yīng)用也同步上線測試，為政府決策、公共服務(wù)和社會治理注入強大的智能化動力，有力推動政府部門工作效率與服務(wù)質(zhì)量的提升。其中，智能辦公，聚焦智能公文、智能會議、智能督辦和智能辦事四大場景，提供智能化服務(wù)。智能問答，基于本地模型，灌注本地相關(guān)知識庫，形成完全私有的市級或者部門級的智能問答雛形。智能問數(shù)，以人口數(shù)據(jù)為切口，形成問答式統(tǒng)計；針對12345工單數(shù)據(jù)提供智能分析功能，包括數(shù)據(jù)分級分類檢索匯聚、數(shù)據(jù)資產(chǎn)目錄主題管理等功能，并支持根據(jù)數(shù)據(jù)主題自動生成分析報告。
今年春節(jié)以來，市數(shù)據(jù)局組織局相關(guān)處室、市數(shù)治中心以及局下屬事業(yè)單位等相關(guān)技術(shù)骨干，建立了政務(wù)大模型工作專班，下設(shè)基礎(chǔ)保障組、應(yīng)用支撐組、數(shù)據(jù)工作組以及平臺研究組等，確保DeepSeek大模型本地化部署工作有序推進(jìn)。
市數(shù)據(jù)局相關(guān)負(fù)責(zé)人表示，接下來，將緊密圍繞應(yīng)急、公安、12345熱線中心等部門的實際需求，積極探索并孵化更多基于DeepSeek的場景應(yīng)用，推進(jìn)政務(wù)大模型在“一網(wǎng)統(tǒng)管”“一網(wǎng)通辦”“一網(wǎng)協(xié)同”等全領(lǐng)域的應(yīng)用落地，加強頂層規(guī)劃。同時，通過持續(xù)拓展應(yīng)用邊界，進(jìn)一步優(yōu)化政務(wù)服務(wù)流程，為公眾帶來更加便捷、智能的服務(wù)體驗，讓政務(wù)服務(wù)更加貼近民生、服務(wù)社會。
