Language Processing Problems

探索生成式人工智慧的無限可能！ 「如果你是開發者，想要掌握過去十年來最大規模的AI革命背後的工具及概念，本書是必備的指南。」 ―Lewis Tunstall，Hugging Face機器學習工程師及《Hugging Face and coauthor of Natural Language Processing with Transformers》一書共同作者 「本書包含學習生成式AI的一切資源，包括全面的解說、深思熟慮的技巧，與DIY練習，可謂應有盡有。」 ―Luba Elliott，AI藝術策展人，elluba.com 深入的理論解析與實用的程式碼範例，帶您掌握生成文本、圖像和音訊的最新技術。無論您是數據科學家還是軟體工程師，本書都將助您輕鬆上手，創造出令人驚豔的AI生成作品。立即開啟您的生成式AI之旅，讓創意與技術完美融合！ 本書將教導資料科學家和軟體工程師，如何使用生成式媒體技術和人工智慧來創造新穎的圖像或音樂。書中介紹了理論概念，並提供豐富的程式碼範例和插圖，讓讀者能夠在Google Colaboratory、Kaggle或Hugging Face Spaces等服務上執行這些範例，並學習使用開源庫。 本書還探討了從頭開始訓練和使用大型預訓練模型之間的權衡，如何建立能夠修改圖像風格的模型，以及調整變形模型以達到創意目的。內容涵蓋了文本、圖像和音頻等多種數據類型的生成模型，並詳細講解了Transformer和擴散模型等先進技術的構建和訓練方法。最後介紹了如何訓練一個能夠根據個人風格撰寫文字的模型，以及如何部署模型作為互動展示或服務。 -------------------------------------------------- 透過這本實作指南，學習運用生成式AI技術來建立奇妙的文本、圖像、音訊，甚至音樂。你將瞭解最先進的生成模型如何運作、如何微調與調整它們來滿足需求，以及如何結合現成的基礎模組來建立新模型，並在不同領域中開發創新的應用程式。 這本首選指南透過豐富的範例程式與容易瞭解的插圖來介紹理論概念，並帶你實際應用它們。 你將學習如何透過開源的程式庫來應用transformers和擴散模型，並探索程式、研究幾個既有的專案，藉以完成你的專案。 • 建立並自訂文本與圖像生成模型 • 瞭解「使用預訓的模型」與「微調自有的模型」之間的取捨 • 做出能夠以任

▍GPT、Transformer、attention / self-attention 機制、seq2seq 架構...，大型語言模型 (LLM) 背後的建模技術「硬派」揭密！▍AI 界扛霸子 NVIDIA 的指定教材！近年來，在 NVIDIA (輝達) GPU、CUDA 技術的推波助瀾下，大型語言模型 (LLM) 的發展有著爆炸性的成長，例如最為人知的 ChatGPT 正是運用深度學習 (Deep Learning) 技術打造而成的熱門 LLM 應用。□【★徹底看懂 LLM 核心建模技術 - GPT、Transformer 的模型架構】自從 ChatGPT 爆紅之後，LLM 建模技術一直是熱門的研究話題，ChatGPT 的背後核心是 GPT 模型，而 GPT 裡面最重要的技術就是最後那個「T」- 也就是大名鼎鼎、使用了 attention (注意力) 機制的 Transformer 模型，這當中所用的建模技術可說是一環扣一環，也容易讓初學者學起來暈得不得了，只要一個關鍵地方沒搞懂，後面就全花了...為此，本書經過精心設計，是帶你看懂 GPT、Transformer、attention...這些 LLM 關鍵技術的最佳救星！本書設計了「環環相扣」的 NLP 章節內容，循序漸進介紹 LLM 的基礎建模技術：🔹看懂循環神經網路 (RNN、LSTM) 的缺點就知道為什麼需要 attention 機制以及 seq2seq 架構🔹看懂 attention 機制就能看懂 Transformer 的 self-attention 神經層🔹看懂 seq2seq 架構就能看懂 Transformer 的 encoder-decoder 架構🔹看懂 Transformer 就能看懂 GPT你可以深刻感受到次一章的模型架構幾乎都是為了解決前一章模型的不足之處而誕生的，經此一輪學習下來，保證讓你對 GPT、Transformer、attention / self-attention 等技術清清楚楚！這絕對是其他書看不到的精彩內容！【★學 LLM 基礎，跟 AI 重要推手 - NVIDIA 學最到位！】NVIDIA 除了在硬體上為 AI 帶來助益外，為了幫助眾多初學者快速上手 LLM 用到的深度學習基礎，任職於 NVIDIA 的本書作者 Magnus Ekman 凝聚了他多年來在 N

2023年以來， OpenAI相繼釋出了聊天機器人模型ChatGPT、 新一代多模態大模型GPT-4等產品， 以強大的能力俘獲了大量使用者， 顛覆了使用者對於AI的認知。 ▶什麼是ChatGPT？ ChatGPT是一個由OpenAI開發的聊天機器人模型，其透過NLP（Natural Language Processing，自然語言處理）技術實現與使用者智慧對話，開啟了全新AI（Artificial Intelligence，人工智慧）時代。ChatGPT的智慧程度引起了業界的廣泛關注，引發了使用者的熱議，使使用者對AI的未來有了更多的期待。 ▶技術底座：多技術融合助推ChatGPT發展走到11公尺的盡頭，蔡京的題ChatGPT並不是孤立存在的，其成功離不開眾多技術的支持。其背後的技術主要有生成式AI技術、自然語言處理技術、預訓練大模型技術和多模態技術。 ▶內容變革：ChatGPT開啟內容生產力革命 ChatGPT可以輔助使用者輸出多種內容，使內容生產變得更加簡單、高效。可以說，ChatGPT拓展了數位時代的創造力極限，開啟了內容生產力革命。 ▶ 商業展望：ChatGPT商業化之路雛形已現 AIGC技術在發展中完成了深厚的技術累積，這使得ChatGPT在B端與C端實現商業化的條件已經成熟。未來，以ChatGPT為代表的AIGC應用將會更好地服務B端與C端，提升其運作效率。 本書共12章，前5章從5個方面對ChatGPT進行了解讀，幫助使用者全面了解ChatGPT，對其形成完整的認知。第6～12章從傳媒、教育、娛樂、電商、金融、製造和醫療7個方面講解了ChatGPT的應用，展現了ChatGPT的商業價值。 本書特色：本書以ChatGPT為中心，對ChatGPT的相關知識進行詳細的講解。在講述ChatGPT理論知識的同時，還結合許多相關案例，內容詳實，引人深思。本書面向的讀者對象為對ChatGPT感興趣的人士、AI研究者、AIGC領域從業者、科技企業管理者等，能夠為讀者提供全新見解。

NLP專用Python開發環境架設自然語言處理的發展歷程無監督學習的原理與應用及實作Pretraing的完整實作文字分類、機器閱讀理解、命名實體辨識ChatGPT的原理 - 文字生成損失函式與模型瘦身大型語言模型已經成為現代AI的範式，不管是ChatGPT或是llama、Falcon等，這個新興學科是人工智慧時代最熱門的話題，沒有一個有志於AI的人可以忽略這個趨勢。而大型語言模型的基礎，當然就是自然語言處理（Natural Language Processing，簡稱NLP）。自然語言處理主要工作包括了語言理解、語言生成、機器翻譯、語音識別等。目前見的應用非常多，包括了自動化客服、垃圾郵件檢測、社交媒體情感分析、醫療記錄分析、金融預測和新聞摘要等。總結來說，自然語言處理是一個動態且充滿潛力的領域，它正在不斷改變我們與計算機和數字訊息互動的方式。隨著技術的不斷發展，我們可以期待在更多領域看到 NLP 的創新應用，同時也需要持續關注與其發展相關的倫理和社會問題。本書最重要目的就是將你帶入這個行業，如果你是程式設計師，網頁設計師，又或者是App的開發者，如果不想被人工智慧搶掉工作，加入是最好的選擇。

這是華人史上第一本與AI圖像共創的圖文輯在歷年臺北數位藝術節前瞻性地策展過第二自然、超機體、再轉存等里程碑大展後，如今人類世界真正迎接到AI時代的來臨。AI超乎預期的能力，甚至逼近了人類引以為豪的藝文與創作表現。本書的起心動念，是人類不該屈服於AI，而是正向思維地與AI進行共創。這本書裡的所有作品，都是運用作者的詩句為輸入元素，然後讓AI依此生成畫作，這是作者和AI的對話成果。作者宛若是個賽博格，AI為其增能，在Metaverse中以作者的分身來作畫，並以此詮釋其詩句。作者從AI繪畫熱潮一開始就加入實驗，先後試過Disco Diffusion, Midjournal, Stable Difussuion, DALL E, Mega.Space. 它們各有不同特性與優缺點，但其中最大的共同點，就是它們俱皆以驚人的速度在進化。很多人都只是嘗試採用提示詞去「命令」AI畫畫，以相當工具理性的態度去「利用」AI. 但作者關心的是新媒材本身的當代性，是否能反映個人的當下狀態，所以他摸索了一整年，試著與AI共處。作者年輕時的博論是做NLP (自然語言處理, Natural Language Processing) 的，啃了大量語言學的著述，醉心於Noam Chomsky的Universal Grammar. 而就在這幾年裡，深度學習Transformer Model的不斷演進，讓AI對人類文字語意的理解，有了驚人的進展，諸如OpenAI ChatGPT等等. 所以作者開始以詩與AI對話，將其詩句輸入AI去生成畫作, 而一年來它「懂」作者的詩的程度，愈來愈令人驚豔。再加上原本作者的詩作就習於空間與時間的交織，充滿各種畫面感，所以他很開心找到了與AI共創的方式，作者寫詩，調整參數，讓AI理解並畫出其詩中的景緻。而這樣的「共創」，正是本書企圖紀念的一個刻度。我們可以叫AI模仿甚至組合各種繪畫風格，但AI沒辦法創造風格。而我們每個人類卻都可以創造風格，即便畫得很醜，那也是你的風格。AI只能模仿和追隨你。繪畫風格這回事，是和人的身體息息相關的。你對自身肌理的控制與不可控制性，你生理上無形的各種慣性，形成了你的風格。那不只是心理的，更是生理的。對於缺乏身體性的AI而言，他沒辦法懂。無論是 Rule-based 或 Data-driven 的年代，AI 都無法無中生有。它必須靠模仿和訓練，才能

從建構交易策略到使用Python的機器人投資顧問 機器學習和資料科學將在未來幾年顯著改變金融業。透過本實用指南，避險基金、投資和零售銀行以及金融科技公司的專業人士將學到如何建構對該行業極為關重要的ML演算法。您將研究ML概念和20多個案例研究，包括了監督式、非監督式和強化學習，以及自然語言處理(natural language processing, NLP)。 分析師、交易員、研究人員和開發人員還將深入研究投資組合管理、演算法交易、衍生性商品定價、詐欺偵測、資產價格預測、情緒分析和聊天機器人開發。您將探索現實生活中的問題，並學習以程式碼和範例作為後盾的科學上合理的解決方案。 本書包括： ‧基於迴歸的監督式學習交易策略和衍生性商品定價模型 ‧基於分類的監督式學習信用違約風險預測與詐欺偵測模型 ‧投資組合管理與收益率曲線建構中的降維技術及實例研究 ‧利用演算法和分群技術尋找交易策略和投資組合管理中相似物件的案例研究 ‧建立交易策略的強化學習模型和技巧，衍生性商品避險和投資組合管理 ‧使用Python函式庫(例如NLTK和Scikit-learn)的NLP技術