行業首批！騰訊云TI平臺支持DeepSeek全系模型精調與推理

近日，DeepSeek全系列模型在騰訊云TI平臺上第一時間上架，并在業內率先實現企業級精調與推理全鏈路功能。此次支持精調的模型涵蓋了滿血版DeepSeek V3、R1以及六款蒸餾版模型，為金融、醫療、制造、零售等多個行業提供了更高效、便捷的AI模型構建及應用方案，進一步降低企業在大模型應用中的技術門檻和研發成本。

 

隨著DeepSeek引發行業廣泛關注，企業客戶在模型精調與部署過程中可能面臨數據預處理難、模型訓練門檻高、在線部署及運維復雜等多重挑戰。騰訊云TI平臺憑借全流程AI開發工具，實現了從數據準備到模型部署上線的一站式解決方案。

 

平臺內置的數據構建模塊不僅支持快速清洗、去重與格式轉換，還能根據具體任務進行Prompt優化。同時，通過靈活的訓練調度策略和自研的大模型計算與并行優化技術，有效加速訓練與推理過程，大幅提升資源利用率。

 

據悉，TI平臺同時支持公有云、私有化版本。其中，公有云版本在騰訊云上開箱即用，按需訂閱；私有化版本可部署在客戶本地機房、專屬云服務器等自有算力上，更適合金融等更高數據安全要求的場景，從而靈活滿足政府和企業的多樣化需求。

 

支持DeepSeek的兩種精調方式，滿足多樣化需求

 

為適應不同行業的個性化模型構建需求，騰訊云TI平臺面向DeepSeek提供了兩種精調模式。

 

一、直接精調滿血版DeepSeek。針對希望直接對原始DeepSeek模型進行微調的用戶，平臺內置DeepSeek滿血版等全系模型，并預置訓練鏡像和訓練代碼，用戶只需按平臺規范準備好訓練數據，并設置學習率、迭代步數等參數，即可一鍵啟動精調任務。

 

在訓練階段，平臺支持全參和LoRA兩種精調方式，為用戶提供兼顧訓練成本和模型效果的靈活選擇，確保模型在金融、醫療等垂直領域滿足業務要求。在數據準備階段，平臺內置了可高度自定義的數據標注和構建工具，顯著提升數據質量，并有效降低數據處理成本。

 

二、基于DeepSeek R1蒸餾其他較小尺寸模型。DeepSeek R1雖具備卓越的長思維鏈（Long CoT）能力，但模型尺寸大（參數量671B），實際推理成本較高。針對希望以更低成本、更高響應速度應用R1的用戶，TI平臺也支持基于R1蒸餾其他較小尺寸模型，可將R1的能力遷移至較小尺寸的“學生”模型中。

 

用戶首先在TI平臺部署DeepSeek R1推理服務，然后調用R1生成包含長思維鏈的高質量蒸餾數據，緊接著進行數據清洗，最后利用這些數據對較小尺寸的“學生模型”（如Llama 3.2-3B）進行精調，從而實現知識遷移。在保留優秀推理性能的同時，大幅降低推理成本或提升模型推理速度，有效滿足高推理性能或成本敏感的場景。

 

提供模型評測及部署完整工具鏈，助推行業智能轉型

 

騰訊云TI平臺還提供了全面的模型評測與部署功能。模型評測包括輕量體驗、客觀評測和主觀評測三階段能力，幫助企業多維度驗證模型性能。模型部署支持多種模型框架和格式，支持異構算力和資源彈性伸縮，可將模型快速發布為生產級API接口，接入企業應用。

 

自 DeepSeek 模型發布以來，TI 平臺已成功助力多個行業客戶部署專屬 DeepSeek 服務并開展驗證工作，部分已接入企業應用。未來，騰訊云將持續優化TI平臺功能，依托領先的大模型訓練推理技術，為客戶提供更安全、穩定、高效的AI解決方案，助推各行業加速數字化轉型。

雷峰網版權文章，未經授權禁止轉載。詳情見轉載須知。