Building Generative AI Services with FastAPI

「軟體開發者與資料科學家必備的實戰資源！Ali以深厚技術與清晰教學，手把手帶你用FastAPI打造可上線的生成式AI服務，從實作中保持領先地位。」 ―Joe Rowe，Applied Data Science Partners技術保證與合規主管 「這是一本極實用的生成式AI入門書籍，詳盡說明如何打造真正能運作的服務，非常適合當成邁入 AI 開發領域的首選書籍。」 ―Julian Brendel，Vitol資深Python開發者 準備好要用生成式AI打造真正可上線的應用程式了嗎？ 本書以實作為核心，教你如何運用FastAPI網頁框架來設計與部署AI服務。你將學到如何整合模型，處理文字、圖像、音訊與影片，並讓服務與資料庫、檔案系統、網站與API自然串接。無論你是網頁開發者、資料科學家，還是DevOps工程師，本書提供的範例、工具與策略，都能幫你打造高效、可隨需擴展、能即時提供服務的AI應用程式。 作者Alireza Parandeh透過清楚的解說與實際範例來介紹身分驗證、並行、快取，同時結合向量庫的檢索增強生成（RAG）技術。你將學會如何檢驗AI輸出品質、提升效能，以及保護微服務的最佳做法，並利用Docker來部署容器，在雲端自信啟動你的AI應用程式。 • 建立可與資料庫、檔案系統、網站及API互動的AI服務。 • 管理並行的AI工作與長時間運行的任務。 • 透過WebSockets與伺服器傳送事件（SSE），以串流形式傳送AI生成的結果。 • 使用身分驗證、內容過濾、限流與速率限制機制來保護服務。 • 透過快取、批次處理與微調技術強化AI效能。 Alireza Parandeh 是獲得英國工程委員會（UK Engineering Council）認證的特許工程師（Chartered Engineer），也是微軟與Google認證的開發者、資料工程師與資料科學家。 #FastAPI #生成式AI #AI服務/應用開發 #RAG #Docker部署AI #Context-rich AI

Core Insight：Cross-Domain Data Collaboration: Unlocking Chip PotentialEliminating the "efficiency gap" caused by knowledge silos is the starting point for industry potential. Data doesn't lie; Data Science provides the solution: Through innovation and cross-domain restructuring, we visualize results to become the critical accelerator for boosting efficiency.GenAI Reshaping the Future of SemiconductorsFacing the immense challenge of the slowing pace of Moore's Law, the semiconductor industry urgently requires new breakthroughs. This book is specifically designed to solve the "Efficiency Black Hole" that consumes tens of billions of dollars annually in the industry.The Empowering DTCO Innovation with AI and Machine Learning offers readers a practical DTCO.ML Framework, demonstrating how to leverage Machine Learning (ML) and Generative AI (GenAI) technologies to inject new acceleration into chip manufacturing processes. Learn to master process variability and optimize chip energy efficien

生成式AI已開始真正進入產品、服務與企業流程，但當團隊實際開發GenAI應用程式與AI Agent時，往往很快就遇到各種工程問題： 模型產生幻覺、回應結果不穩定該如何處理？ 怎麼讓生成內容符合品牌風格與指定格式？ 如何讓Agent具備規劃、自我修正與協作能力？ 多個Agent又該如何組合成可落地的應用系統？ 本書整理了32種生成式AI設計模式（Generative AI Design Patterns），將研究論文與第一線實務經驗轉化為可直接套用的工程解法。 無論是拿來作為參考手冊、架構設計指南，或是培養整體GenAI設計思維，這本書都是對工程師、資料科學家、軟體架構師或產品經理極具價值的工具書。 【專業推薦】 「這是一本引領GenAI從原型邁向正式部署的實戰手冊。書中收錄的設計模式匯集了現實的工程經驗，可讓開發者充滿信心地應對幻覺、可靠性與規模化的種種挑戰。」 ――Marily Nika博士，《Building AI-Powered Products》作者 「Hannes與Lak將寶貴的實戰智慧寫成這本全方位指南，幫助你將理論轉化為實際做法。」 ――Chip Huyen，《設計機器學習系統》與《AI工程》作者 生成式AI帶來強大的新能力，然而，在正式交付可靠的應用程式或代理之前，你仍然會面臨有一些棘手的限制。幸運的是，來自業界專家的二位作者已經整理了32種經得起考驗的設計模式。在開發LLM專案時難以避免的難題都可以在本書中找到對策，包括幻覺、不確定的回應，以及模型知識斷層。 本書將論文研究跟實務經驗整理成可以直接套用的建議。在每一種模式中，作者會先說明問題在哪，再附上完整的範例程式來示範解法，最後還會分析解決方案背後的取捨。 • 因應LLM的侷限性 • 確保生成的內容符合特定風格、語調與格式 • 在權衡各類風險的同時，將創意極大化 • 讓代理具備規劃能力、自我修正能力、行動能力，而且能與其他代理協作 • 將多種模式組合成適合各種應用場景的代理型應用程式

《內容介紹》 看懂時代、掌握工具、開始行動 對接全球AI浪潮，帶領組織邁向AI驅動的下一個十年 未來十年，AI將重新定義企業競爭力。一本為領導者、創新者與實踐者撰寫的AI轉型航圖，讓你真正看懂AI如何改變產業、如何落地，以及如何讓組織產生可持續的成長。兩位重量級作者結合設計思考、系統思考與指數型思維三大創新核心，提出可落地的AI策略框架，協助企業在指數型變革時代重新設計策略、文化與人才結構，從「看懂AI」進化到「用好AI」。 四大核心主題 l 為何AI如此重要。深入淺出解析AI基礎概念、指數型變革的時代意義，以及企業必備的新思維與能力評估模型。 l 如何用AI開創新局。提供AI策略設計四步驟、Team of Teams跨域協作模式、組織能力建構框架，以及AI倫理與法規合規實務。 l 工具方法及行動。詳解AI價值鏈、Transformer等關鍵技術、Prompt Engineering應用，以及AI三大導入視角（員工生產力、創新驅動、營收成長）。 l AI與創新的未來。展望AGI時代、多模態應用、負責任AI治理，以及對各產業部門的深遠影響。

探索生成式人工智慧的無限可能！ 「如果你是開發者，想要掌握過去十年來最大規模的AI革命背後的工具及概念，本書是必備的指南。」 ―Lewis Tunstall，Hugging Face機器學習工程師及《Hugging Face and coauthor of Natural Language Processing with Transformers》一書共同作者 「本書包含學習生成式AI的一切資源，包括全面的解說、深思熟慮的技巧，與DIY練習，可謂應有盡有。」 ―Luba Elliott，AI藝術策展人，elluba.com 深入的理論解析與實用的程式碼範例，帶您掌握生成文本、圖像和音訊的最新技術。無論您是數據科學家還是軟體工程師，本書都將助您輕鬆上手，創造出令人驚豔的AI生成作品。立即開啟您的生成式AI之旅，讓創意與技術完美融合！ 本書將教導資料科學家和軟體工程師，如何使用生成式媒體技術和人工智慧來創造新穎的圖像或音樂。書中介紹了理論概念，並提供豐富的程式碼範例和插圖，讓讀者能夠在Google Colaboratory、Kaggle或Hugging Face Spaces等服務上執行這些範例，並學習使用開源庫。 本書還探討了從頭開始訓練和使用大型預訓練模型之間的權衡，如何建立能夠修改圖像風格的模型，以及調整變形模型以達到創意目的。內容涵蓋了文本、圖像和音頻等多種數據類型的生成模型，並詳細講解了Transformer和擴散模型等先進技術的構建和訓練方法。最後介紹了如何訓練一個能夠根據個人風格撰寫文字的模型，以及如何部署模型作為互動展示或服務。 -------------------------------------------------- 透過這本實作指南，學習運用生成式AI技術來建立奇妙的文本、圖像、音訊，甚至音樂。你將瞭解最先進的生成模型如何運作、如何微調與調整它們來滿足需求，以及如何結合現成的基礎模組來建立新模型，並在不同領域中開發創新的應用程式。 這本首選指南透過豐富的範例程式與容易瞭解的插圖來介紹理論概念，並帶你實際應用它們。 你將學習如何透過開源的程式庫來應用transformers和擴散模型，並探索程式、研究幾個既有的專案，藉以完成你的專案。 • 建立並自訂文本與圖像生成模型 • 瞭解「使用預訓的模型」與「微調自有的模型」之間的取捨 • 做出能夠以任

若要打造可推理及提取外部資料、理解前後脈絡、可投入正式環境的 AI 應用程式，你就必須熟悉熱門的開發框架與平台 LangChain。它可以用來建立、執行與管理有自主行動能力的 app。目前已有許多頂尖公司採用 LangChain，包括 Zapier、Replit、Databricks 等。對於已經學會 Python 或 JavaScript，且想要掌握 AI 能力的新手開發者而言，本書是必備的學習資源。 作者 Mayo Oshin 與 Nuno Campos 透過實用的見解與深入的教學，帶領你逐步掌握 LangChain 的運用。從基礎概念開始，一步步帶你建立一個可正式上線，並且能夠使用個人資料的 AI agent。 • 運用 retrieval-augmented generation（RAG）技術，結合外部的即時資料來提升 LLM 的準確性。 • 開發並部署能夠與使用者聰明地互動，並且記得前後脈絡的 AI 應用程式。 • 透過 LangGraph 來使用強大的 agent 架構。 • 整合並管理第三方 API 與工具，以擴充 AI 應用程式的功能。 • 監控、測試與評估 AI 應用程式，以提升效能。 • 瞭解 LLM app 開發的基礎知識，並學習如何在 LangChain 上加以活用。 ------------------------------------------------------------- 「本書包含條理分明的講解和可落實的技巧，是掌握 LangChain 的強大功能，並用它來製作可上線的生成式 AI 與 agent 的首選資源。對於想充分利用此平台之潛力的開發者來說，是必讀之作。」 ── Tom Taulli，IT 顧問暨《AI輔助程式開發》作者 「這本完整的指南涵蓋文件提取與檢索，以及在正式環境中部署與監控 AI agent 的完整知識。透過引人入勝的範例、直覺的圖解與實際的程式碼，讓 LangChain 變得既有趣又好玩！」 ── Rajat K. Goel，IBM 資深軟體工程師 「這是一本完整的 LLM 指南，不只介紹基礎知識，也探討生產階段，充滿技術見解、實用策略，以及強大的 AI 模式。」 ── Gourav Singh Bais，Allianz Services 資深資料科學家暨技術內容撰寫人

揭示專業人士如何擺脫「臨時顧問」的角色，轉而建立長期且有價值的客戶關係。作者 Andrew Sobel 根據與多位企業高層的訪談，提出實務可行的策略，說明任何專業人士都能透過正確的態度與技巧，培養持久的信任與合作。他打破「業務高手（Rainmaker）」的傳統神話，主張穩定關係比短暫成功更能創造價值。書中內容具啟發性，適合顧問、業務與專業服務從業者閱讀。Professionals who work with clients or large accounts can create lifetime relationships based on these well-researched secrets. Based drawing from extensive interviews with client executives, Making Rain offers a series of provocative insights on how to shed the expert-for-hire label and develop long-term advisory relationships. Exploding the popular myth of the "Rainmaker," a dated and dysfunctional figure that clients no longer welcome, Andrew Sobel argues that any professional can learn to "make rain" on an ongoing basis with existing clients by developing a special set of skills, attitudes, and strategies. These innovative tips and techniques from a recognized leader in the field of professional services will enable any consultant, salesperson, or service professional to create enduring client loyalty.

「這是關於建構 AI 代理人系統最棒的單冊入門指南――你可以去讀數百篇論文，或是只讀這一本書。」 ――Arun Rao，Meta GenAI前團隊成員，UCLA 兼任教授 生成式 AI 已經徹底改變了組織解決問題的方式，加速了從概念、原型到解決方案的旅程。隨著模型變得越來越強大，我們見證了一種新的設計模式出現：AI 代理人。透過將工具、知識、記憶與學習，跟先進的基礎模型結合在一起，我們現在可以將多次模型推論串接起來，藉此解決定義模糊且困難的問題。從編寫代理人程式碼、研究代理人到分析代理人等等，我們已經看到代理人加速了團隊與組織的運作。雖然這些代理人提升了效率，但它們通常需要廣泛的規劃、草擬與修改才能完成複雜的任務，而且對許多組織來說，部署它們仍然是一項挑戰，尤其是在技術與研究快速發展的當下。 在這個錯綜複雜且快速演進的領域中，本書是你不可或缺的指南。作者 Michael Albada 提供了一套結合實務與研究的方法，用於設計與實作單一代理人及多代理人系統。本書簡化了其中的複雜性，並提供所需的工具，讓你能更高效將概念轉化為實際解決方案。 • 了解由基礎模型驅動的 AI 代理人所具備的獨特功能 • 探索 AI 代理人的核心元件與設計原則 • 探討設計上的權衡取捨，並實作有效的多代理人系統 • 設計並部署量身打造的 AI 解決方案，促進你所在領域的效率與創新

◈《華爾街日報》暢銷作者全新力作◈★亞馬遜電腦書分類第一★生成式 AI正在從根本上改變軟體開發的世界，其影響力是自網際網路誕生以來前所未見的。作為一本劃時代的著作，本書將帶領開發者學會如何擁抱這個全新的領域。科幻小說如今已成為現實，程式設計師不再需要為了程式碼和語法苦苦鑽研，只要描述自己想要的結果，就能立刻看到它成形。歡迎來到程式設計的未來――vibe coding。在這本劃時代的著作中，業界資深工作者 Steve Yegge（Google、Amazon、Sourcegraph）與華爾街日報暢銷書作者 Gene Kim（鳳凰專案、DevOps Handbook）揭示了 vibe coding 如何徹底改變我們所熟知的軟體開發方式。透過善用 AI 助手的力量，「意圖」與「心流」變得比語法更加重要，開發者得以實現前所未有的生產力、創造力與樂趣。汲取了在軟體工程與開發者生產力領域數十年的綜合經驗，Yegge 與 Kim 展示了 vibe coding 如何讓開發者能夠：◇將複雜的程式設計挑戰轉化為與生成式 AI 的流暢對話◇以更快的速度打造更具野心的專案，同時維持令你引以為傲的程式碼品質◇獨自完成以往需要整個團隊才能做到的驚人成果◇掌握與 AI 夥伴共同創作的藝術◇擺脫語法、環境設定等傳統程式設計的束縛◇自信地使用你從未接觸過的多種程式語言與框架進行開發但這不只是加快寫程式的速度而已，而是從根本上改變我們看待軟體開發的方式。作者分享了在現實世界中導入生程式 AI 驅動開發的實務策略，從小型專案到企業級應用，都能維持現代系統所需的工程卓越標準。無論你是希望在 AI 革命中保持領先的資深開發者、引領團隊經歷轉型的 Tech Lead、重返程式設計的前程式設計師，還是剛踏入職場的新手，這本書都為你提供了在軟體開發新時代中茁壯成長所需的路線圖。別在這場自網際網路革命以來最大的產業變革中落後。學習如何駕馭 vibe coding 的力量，釋放你作為開發者的全部潛能。本書特色: ▋從「產線上的廚子」到「指揮 AI 的主廚」▋本書將帶你完成一次角色升級，從產線上的工程師，轉變為能指揮 AI 團隊、掌控品質與節奏的「主廚型開發者」。◤FAAFO：vibe coding 的五大優點◢◇Fast：開發速度將大幅提升到過去難以想像的層級◇Ambitious：擴大專案的範圍，嘗試過去無法完成的專