微云全息（NASDAQ: HOLO）解鎖 LLMs 安全計算密碼：TDX 賦能 DeepSeek 模型高效部署

在數(shù)字化浪潮奔涌的當下，云環(huán)境已成為技術(shù)創(chuàng)新與應(yīng)用拓展的關(guān)鍵陣地。大型語言模型（LLMs）憑借其強大的語言理解與生成能力，在云環(huán)境中得到了越來越廣泛的應(yīng)用，從智能客服的高效交互到內(nèi)容創(chuàng)作的智能輔助，從智能翻譯的精準輸出到數(shù)據(jù)分析的智能洞察，LLMs 正深刻改變著各行各業(yè)的運營模式與服務(wù)體驗。然而，隨著 LLMs 應(yīng)用的深度與廣度不斷拓展，一系列嚴峻的安全問題也隨之浮出水面，尤其是模型機密性和數(shù)據(jù)隱私方面的隱患，如同一把高懸的達摩克利斯之劍，給行業(yè)的健康發(fā)展帶來了巨大挑戰(zhàn)。

現(xiàn)有基于 CPU 的 TEE 實現(xiàn)，在面對 LLMs 推理和訓(xùn)練時卻顯得力不從心。LLMs 的推理和訓(xùn)練過程涉及海量數(shù)據(jù)的處理與復(fù)雜運算，對計算資源的需求呈指數(shù)級增長。傳統(tǒng)基于 CPU 的 TEE，由于其計算能力的局限，難以滿足如此高強度的資源需求，在處理速度和效率上無法達到理想狀態(tài)，這在一定程度上限制了 LLMs 在安全環(huán)境下的廣泛應(yīng)用與進一步發(fā)展。

面對這一困境，微云全息（NASDAQ: HOLO）憑借其敏銳的技術(shù)洞察力與勇于探索的創(chuàng)新精神，開展了一項具有開創(chuàng)性的研究工作。首次在支持 TEE 的機密計算環(huán)境中對 DeepSeek 模型進行全面評估，特別引入了 Intel Trust Domain Extensions（TDX）技術(shù)，為解決問題開辟了新的路徑。

在研究過程中，微云全息對 DeepSeek 模型在純 CPU、CPU - GPU 混合和基于 TEE 的不同實現(xiàn)方式下的性能，展開了嚴謹且全面的基準測試。測試結(jié)果令人振奮：對于較小的參數(shù)集，如 DeepSeek - R1 - 1.5B，基于 TDX 的實現(xiàn)在安全環(huán)境中執(zhí)行計算時，性能表現(xiàn)顯著優(yōu)于傳統(tǒng)的 CPU 版本。這一發(fā)現(xiàn)意義非凡，它充分證明了即使在資源受限的系統(tǒng)中，借助 TDX 技術(shù)，依然能夠在保障數(shù)據(jù)安全與模型機密性的同時，高效地部署 LLM 模型，為那些對安全性要求極高且資源有限的應(yīng)用場景帶來了新的希望。

通過進一步深入分析不同模型大小下的性能數(shù)據(jù)，微云全息發(fā)現(xiàn) GPU 與 CPU 的整體性能比平均達到 12，并且較小的模型呈現(xiàn)出相對較低的比率。這一精準的數(shù)據(jù)為優(yōu)化計算資源的配置提供了關(guān)鍵依據(jù)，有助于開發(fā)者在實際應(yīng)用中，根據(jù)不同模型的特點，更加科學(xué)合理地分配 CPU 和 GPU 資源，從而顯著提升計算效率，降低計算成本。

此外，微云全息的研究并不僅限于性能測試，還深入到優(yōu)化 CPU - GPU 機密計算解決方案的層面，為實現(xiàn)可擴展和安全的 AI 部署提供了寶貴的基礎(chǔ)見解和指導(dǎo)。這些見解和指導(dǎo)涵蓋了從硬件資源的巧妙搭配，到軟 件算法的精細優(yōu)化，再到系統(tǒng)架構(gòu)的合理設(shè)計等多個關(guān)鍵方面，為構(gòu)建高效、安全且可擴展的 AI 計算環(huán)境提供了一套全面且系統(tǒng)的思路。

微云全息（NASDAQ: HOLO）通過在機密計算環(huán)境中對 DeepSeek 模型的深入研究與實踐，為在同樣環(huán)境下進行高效和安全的 LLMs 推理奠定了堅實基礎(chǔ)。未來，有望在更多領(lǐng)域?qū)崿F(xiàn)安全與效率并重的 AI 部署，助力各行業(yè)在嚴守數(shù)據(jù)隱私和模型機密的前提下，充分釋放 LLMs 的巨大潛力，推動行業(yè)向智能化、安全化的方向加速邁進。