用得起更要用得好

【圓桌論壇·大模型應用全景掃描】

編者按：當政務大模型加速融入政務服務與行業實踐，“成本”成為繞不開的核心議題。面對政務場景的特殊性與預算規范要求，如何構建兼顧安全需求、使用靈活性與成本平衡的收費模式，讓大模型的價值落地既符合財力要求，又能真正服務于政務效率提升？本期圓桌論壇，業內專家將圍繞這些焦點展開深度探討。

主持人：

本報記者 張明柳

嘉賓：

博思數采科技股份有限公司副總裁 陳  旭

國泰新點軟件股份有限公司副總裁 何永龍

浪潮云總經理助理               陳  堯

采招云數智化采購研究中心       宋  軍

用得起更要用得好

——業內專家共話如何以合理成本撬動大模型高效應用

主持人：開源不等于免費，以DeepSeek為代表的開源大模型的低成本體現在哪些方面？

何永龍：DeepSeek在訓練成本上的優勢顯著，摒棄了傳統大模型“暴力堆料”式的訓練資源消耗模式。采用高效的模型蒸餾復用技術，將從大型基礎模型中提取的關鍵知識應用到招標采購領域的專項訓練，減少了從零訓練所需的海量數據和算力投入。同時，通過智能的數據篩選和增量學習方式，精準選取與行業相關的高質量數據進行訓練，有效降低了數據預處理與標注成本。例如，在處理政策法規更新時，只需針對變化部分進行訓練，而非對整個模型重新訓練，大幅提升了訓練效率，降低了訓練成本。

陳旭：在推理階段，DeepSeek的混合專家模式（MoE）架構僅調用最相關的小部分模型參數，大幅縮減每次推理的計算開銷。這意味著單次推理所需算力和顯存占用大幅降低，服務器可用更少GPU或更低功耗完成相同推理任務。DeepSeek還通過模型壓縮技術進一步降低部署成本。官方開源了多種不同規模的模型（如1.5億、7億、14億、70億參數等）供開發者按需使用。這些小模型通過剪枝或蒸餾自大模型而來，去除了冗余參數，保留關鍵知識，使模型體積大幅縮小而性能接近。剪枝后的輕量模型不僅降低推理時的內存和計算需求，還能在資源受限環境下實現流暢運行。例如，有些設備只支持參數量較小的蒸餾版DeepSeek模型，即通過剪裁精簡從而適配單機部署。這種按需裁剪的形式讓不同算力條件的用戶都能以更低成本使用DeepSeek，大幅減少了運行維護的負擔。

陳堯：DeepSeek深度進行算法與硬件的協同設計，充分利用GPU特性，采用FP8進行訓練，大幅提高了資源利用率，降低了成本。DeepSeek R1模型通過純強化學習（RL）訓練，無須提供顯式思維鏈數據，而是通過獎勵機制引導模型自我演化。這種訓練方式減少了人工標注數據的依賴，降低了數據準備和微調成本。

宋軍：DeepSeek在推理階段采用了多頭潛在注意力（MLA）技術，通過壓縮注意力機制中的鍵和值，有效減少了計算量。這種技術顯著提高了模型的運行效率，降低了推理成本。在推理芯片的優化選擇上，DeepSeek R1模型將單次推理的能耗壓縮至競品的1/30。合理選擇適合DeepSeek大模型的GPU，使其顯存和帶寬、算力匹配更適合DeepSeek R1模型的需求。低成本高效算力卡的選擇使得推理成本大幅降低。

主持人：DeepSeek的較低成本對政務和各行業的AI應用落地具有怎樣的促進作用？

陳旭：DeepSeek顯著降低了大模型使用成本，對政務和各行業的AI應用落地具有積極促進作用。

首先，研發成本的下降讓中小型企業和政府機構有能力訓練或定制大模型，不再只有科技巨頭才能承擔相關投入。DeepSeek開源權重和低硬件需求，使得科研院所、行業龍頭甚至初創團隊都可利用其模型進行二次開發，在垂直領域構建定制AI服務，加速了AI在政務、金融、醫療、制造等行業的落地進程。

其次，推理成本的降低意味著部署和運行大模型的日常開銷大幅減少。對于政務應用，如政務服務問答、智慧城市決策支持等，采用DeepSeek可以以可控的預算長期運行AI助手，無須昂貴的云服務開支。這降低了公共部門引入AI系統的財政門檻。

再次，低成本使本地化部署成為現實，政府和企業能夠將模型部署在內網或國產硬件上，保障數據主權和安全合規。許多政府機構對數據隱私要求嚴格，DeepSeek的低成本本地方案使他們無須依賴第三方云即可享受大模型智能，從而更愿意將其引入實際業務。

最后，低成本帶來的門檻降低將推動大模型應用的普及：越來越多行業用戶可以負擔得起AI模型，將其嵌入生產流程，提高效率和決策能力。這種大規模的應用擴展又將反過來創造更多訓練數據和應用需求，形成良性循環。可以預見，在DeepSeek開啟的低成本范式下，政務和各行業將更快、更廣泛地落地大模型應用，實現智能化升級。

宋軍：DeepSeek的較低成本對政務及各行業AI應用落地的促進作用主要體現在開源生態、開放硬件支持等核心優勢上，這些因素共同降低了技術應用門檻，加速了場景化創新落地。

開源策略顯著降低開發成本。DeepSeek通過開源模型和工具鏈，允許政府及企業直接利用預訓練模型進行二次開發，避免從零構建算法的資源投入。例如，醫療行業可基于開源框架快速開發病歷分析模塊，教育部門可定制智能輔導系統。開源社區還能推動技術迭代，形成產學研協作生態，進一步壓縮研發周期與成本。

開放硬件支持提升部署靈活性。DeepSeek兼容各種芯片及通用GPU，用戶可根據預算選擇硬件方案，避免被特定廠商綁定。例如，地方政府在財力緊張情況下可采用性價比更高的硬件部署AI政務助手，而企業可通過混合算力方案平衡性能與成本。

這些核心優勢最終轉化為對AI應用落地的多重促進作用，具體體現在三方面：一是加速普惠化應用。低成本讓中小企業和基層政府也能接入AI，如縣域農業部門利用定制模型實現病蟲害識別。二是激發行業創新。二次開發門檻降低后，垂直領域可深度挖掘場景潛力，如法律AI衍生合同審查、案件預測等細分功能。三是深化生態協同效應。“開源+開放硬件”形成正向循環，吸引更多開發者與行業伙伴加入，推動AI生態繁榮。

主持人：對于政務領域應用，采用什么樣的收費模式比較合理？如何平衡成本與價值，既能滿足政務用戶需求，又能符合預算管理和性價比要求？

陳旭：在政務大模型應用中，選擇合理收費模式是關鍵。不同層級政務客戶需求不同，中央機關適合私有部署加維護費，地方政府可按年訂閱，事業單位通用場景用SaaS訂閱、敏感業務本地部署。收費策略有SaaS訂閱、私有化部署、API調用和混合模式。SaaS訂閱成本低但需解決安全問題，私有化部署數據可控但投入大，API調用適合小規模試用，混合模式可降低成本。

政府采購流程和預算機制要求定價規范透明。廠商需契合年度預算周期，采用按年收費或多年折扣的方式開展。公開招標項目報價要考慮競爭，框架協議采購需標準化定價，小額項目可先試點。

陳堯：在政務領域應用中，收費模式的合理設計需兼顧公共服務的公益性、成本回收的可行性以及用戶體驗的便捷性。政務領域收費模式需跳出傳統IT項目的“一次性采購”思維，轉向“持續服務+價值共享”的范式，采用“服務訂閱”收費模式更加合理，用戶可根據需求及預算，靈活選取任意產品，后續可根據業務需求進行動態擴容或場景變更，按使用量或使用周期收費，降低用戶的成本投入壓力，實現成本與價值的平衡。

創新性收費策略可以采用“政府買設備、企業投配套、收取服務費”的創新模式，政企雙方基于各自優勢進行差異化分工，形成互補。一是借助設備采購補貼政策，降低地區財政壓力及避免全部由企業投入的前期資金占用壓力；二是其余配套（如智算設備、大模型、云平臺、網絡安全設備等）由企業預投，進一步降低財政壓力。

此外，還可以深化政府和企業合作機制，通過資源整合、風險共擔、優勢互補，降低雙方成本投入及運營風險，通過聯合運營提升服務效率及質量，推動產業升級，打造“1+1>2”的效果，實現政企雙贏。

本報擁有此文版權，若需轉載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。