大模型垂直領域低算力遷移：微調、部署與優化（簡體書）

本書是一本深度探討大模型在低算力環境下實現遷移與微調的實踐指南，並深入講解了大模型的部署與優化策略。書中結合多個垂直領域的應用場景，從理論到技術實現，全程詳盡講解了如何應對大模型在行業落地中的技術挑戰，幫助讀者逐步掌握大模型的遷移與微調核心技術。 通過閱讀本書，你將能夠：(1)全面理解垂直領域遷移方式與技術選型。深入了解開源大模型向垂直領域遷移的核心方式，包括提示工程、檢索增強生成、參數高效微調與全參數微調等技術路徑，並靈活應對低算力場景下的遷移技術挑戰。(2)快速獲取高質量領域數據的低成本方案。學習通過指令自舉、無監督標注、自我策展等方法構建高質量數據集，同時掌握數據清洗、去重和質量過濾等關鍵技術，顯著降低數據獲取成本。(3)掌握低算力環境下的訓練與推理優化技術。全面掌握低算力訓練與微調方法(如LoRA和QLoRA)，並結合推理優化技術(如量化、剪枝和模型編譯)，高效實現低成本的大模型訓練與推理。(4)精通大模型的生產環境部署與優化。系統學習生產環境中大模型的部署方案，涵蓋服務器推理加速、分佈式集群架構和多平台適配技術，確保模型在實際應用中的高效、安全運行。 無論你是大模型開發者、人工智能研究人員，還是對垂直領域AI應用感興趣的行業專家，本書都將帶你深入大模型的核心領域，提供從構建、優化到部署的全流程指導，助你掌握這一前沿技術的實踐精髓。 程戈，博士生導師，湘潭大學技術轉移中心副主任，湘潭市京東智能城市與大數據研究院副院長，湘潭大學計算機學院.網絡空間學院教授，CCF計算法學會執委，湖南省知識產權保護專家，湖南省知識產權行政保護技術調查官。2011年獲得華中科技大學計算機系統結構專業的工學博士學位。研究方面，主要從事知識表示學習與內容安全問題研究，並逐漸聚焦于採用類似Chatgpt大規模語言模型解決人工智能在司法行業中應用的相關場景。近年來，主持國家重點研發子課題2項，湖南省重點研發1項，國家自科基金1項，教育部博士點基金1項，參與其他國家與省部級項目10余項；在國內外重要SSCI/SCI/EI學術期刊和會議發表論文30多篇；申請發明專利20多項，獲得發明專利授權20