Part.1

AI工程師都要會(huì)些什么？

大語(yǔ)言模型（Large Language Model，LLM）技術(shù)的興起，正在深刻影響軟件的形態(tài)，開(kāi)發(fā)者的工作也從實(shí)現(xiàn)業(yè)務(wù)邏輯、構(gòu)建獨(dú)立應(yīng)用，轉(zhuǎn)向以L(fǎng)LM為底層引擎快速搭建智能應(yīng)用的模式。

當(dāng)下，傳統(tǒng)軟件也許都要基于A(yíng)I重寫(xiě)一遍，而這對(duì)開(kāi)發(fā)者提出了新的要求：開(kāi)發(fā)者要從單一的代碼編寫(xiě)者成為駕馭大模型能力的AI工程師。那么，要如何修煉自己的LLM開(kāi)發(fā)技術(shù)棧呢？

首先是深入理解當(dāng)前主流大模型的核心架構(gòu)——Transformer模型，明晰自注意力機(jī)制如何捕捉文本語(yǔ)義、多頭注意力如何并行處理信息，這是自定義大模型結(jié)構(gòu)的基礎(chǔ)。

接著要知曉L(fǎng)LM可能存在的不足之處，通過(guò)提示詞工程、微調(diào)、檢索增強(qiáng)生成（Retrieval-Augmented Generation，RAG）等技術(shù)工具解決知識(shí)過(guò)時(shí)問(wèn)題。

此外，還要掌握框架工具的使用，例如LlamaIndex、LangChain等，學(xué)會(huì)編排大模型應(yīng)用，比如構(gòu)建“檢索 + 生成”的問(wèn)答系統(tǒng)。最后是構(gòu)建智能體驅(qū)動(dòng)LLM自主決策，部署LLM應(yīng)用并監(jiān)控其穩(wěn)定運(yùn)行。

針對(duì)這些知識(shí)，小白要學(xué)多久才能上手干活？只需讀完《動(dòng)手構(gòu)建大模型》這本書(shū)即可。全書(shū)沒(méi)有廢話(huà)，講完必要的理論，直接手把手給出實(shí)操案例，讀者照著書(shū)做便能積累實(shí)戰(zhàn)經(jīng)驗(yàn)，在工作中邊用邊提升，穩(wěn)步成長(zhǎng)為L(zhǎng)LM應(yīng)用開(kāi)發(fā)實(shí)戰(zhàn)高手。

▼點(diǎn)擊下方，即可購(gòu)書(shū)

事不宜遲，這就動(dòng)手開(kāi)始學(xué)吧。

Part.2

零基礎(chǔ)進(jìn)階大模型實(shí)戰(zhàn)高手

本書(shū)為讀者規(guī)劃了一條循序漸進(jìn)的學(xué)習(xí)路線(xiàn)，零基礎(chǔ)也能輕松上手。書(shū)中內(nèi)容分為三大篇：基礎(chǔ)理論篇解讀LLM的概念、核心架構(gòu)及其不完美之處；核心技術(shù)篇詳解提示詞工程、RAG、LLM框架工具；高階應(yīng)用篇講透高級(jí)RAG、Agent（智能體）、微調(diào)、LLM部署與優(yōu)化。

為獲得更好的學(xué)習(xí)體驗(yàn)，讀者需要具備簡(jiǎn)單的Python編程知識(shí)，并在計(jì)算機(jī)上搭建一個(gè)版本高于3.8.1的Python編程環(huán)境，以使用Visual Studio Code工具。在學(xué)習(xí)過(guò)程中一定要積極動(dòng)手實(shí)踐，從而快速吸收所學(xué)知識(shí)。

我們現(xiàn)在正式踏上學(xué)習(xí)之旅。

基礎(chǔ)理論篇

開(kāi)篇用通俗的語(yǔ)言拆解LLM的組成結(jié)構(gòu)，從Transformer架構(gòu)的核心邏輯，到分詞、嵌入、上下文窗口這些基礎(chǔ)概念，梳理LLM的發(fā)展簡(jiǎn)史，并給出用GPT-3.5 API做翻譯、通過(guò)小樣本學(xué)習(xí)控制LLM輸出的實(shí)戰(zhàn)小項(xiàng)目。

接著深入講解Transformer架構(gòu)，闡釋“Attention Is All You Need”論文的核心內(nèi)容，拆解編碼器 - 解碼器、僅解碼器等設(shè)計(jì)選擇，對(duì)比專(zhuān)有模型與開(kāi)源模型，還列出了LLM在商業(yè)、醫(yī)療、教育等9大領(lǐng)域的應(yīng)用場(chǎng)景。

最后解釋了LLM產(chǎn)生幻覺(jué)（生成錯(cuò)誤信息）、偏見(jiàn)等問(wèn)題的根源，并給出應(yīng)對(duì)之道：通過(guò)控制輸出格式、調(diào)整解碼方法減輕幻覺(jué)，用基準(zhǔn)測(cè)試評(píng)估模型性能。

核心技術(shù)篇

打好基礎(chǔ)之后，本篇就聚焦LLM應(yīng)用核心技術(shù)，教大家如何與LLM對(duì)話(huà)，向其輸入特定數(shù)據(jù)，建立知識(shí)庫(kù)。

首先，講透提示工程的核心技巧：

零樣本提示：不提供示例，直接讓模型完成任務(wù)。

上下文學(xué)習(xí)和小樣本提示：給出一些示例，提示模型給出符合期望的回答。

思維鏈（CoT）提示：驅(qū)使LLM逐步思考，以提供推理能力。

角色提示：給模型設(shè)定身份，獲得專(zhuān)業(yè)方向的精確回答。

然后，以RAG手段解決LLM知識(shí)過(guò)時(shí)、產(chǎn)生幻覺(jué)等問(wèn)題，詳解從頭構(gòu)建RAG管道，把文檔轉(zhuǎn)成嵌入向量、存進(jìn)向量數(shù)據(jù)庫(kù)、查詢(xún)時(shí)讓模型結(jié)合檢索結(jié)果生成答案，從此大模型便能引用專(zhuān)屬數(shù)據(jù)，生成準(zhǔn)確內(nèi)容。

接著，介紹LangChain和LlamaIndex兩大框架的用法，用兩個(gè)項(xiàng)目實(shí)戰(zhàn)演示：構(gòu)建新聞?wù)?、使用LangChain構(gòu)建 LLM驅(qū)動(dòng)的應(yīng)用。動(dòng)手跟著做一遍，就能秒懂如何搭建LLM應(yīng)用的骨架。

▲新聞文章摘要器的工作流程

將上述工具和框架綜合運(yùn)用，書(shū)中給出了貼近真實(shí)場(chǎng)景的項(xiàng)目開(kāi)發(fā)實(shí)例：

用LangChain做知識(shí)圖譜：從文本中提取關(guān)聯(lián)關(guān)系，讓LLM輸出更加結(jié)構(gòu)化。

搭建客服問(wèn)答機(jī)器人：把專(zhuān)業(yè)領(lǐng)域知識(shí)投放給模型，用戶(hù)提問(wèn)時(shí)自動(dòng)匹配答案，解放人工。

做YouTube視頻摘要器：用Whisper轉(zhuǎn)語(yǔ)音為文本，再讓LLM生成摘要，多模態(tài)應(yīng)用輕松實(shí)現(xiàn)。

▲基于文本數(shù)據(jù)創(chuàng)建知識(shí)圖譜的工作流程

這些項(xiàng)目都提供了Google Colab Notebook方式，“開(kāi)箱即練”，可以直接在云端運(yùn)行，不用本地配置復(fù)雜環(huán)境，方便學(xué)習(xí)并獲得反饋。

高階應(yīng)用篇

能用工具干活了，接下來(lái)學(xué)習(xí)解決難題、優(yōu)化性能、部署上線(xiàn)，覆蓋企業(yè)級(jí)應(yīng)用的全流程。

首先重點(diǎn)講解基于LlamaIndex的高級(jí)RAG技術(shù)，包括嵌入模型與LLM微調(diào)、RAG監(jiān)控與評(píng)估、混合檢索與嵌入向量檢索。LlamaIndex查詢(xún)環(huán)節(jié)，涵蓋查詢(xún)構(gòu)建、查詢(xún)擴(kuò)展、查詢(xún)轉(zhuǎn)換、重排序、遞歸檢索以及從小到大的檢索邏輯。

還介紹了RAG評(píng)估方法，教你如何衡量檢索效果。這些都是企業(yè)評(píng)估LLM應(yīng)用的標(biāo)準(zhǔn)流程，掌握后即可與專(zhuān)業(yè)工程師對(duì)齊。

▲RAG系統(tǒng)中的檢索評(píng)估指標(biāo)

智能體是大模型的進(jìn)階形態(tài)，能自主調(diào)用工具、規(guī)劃任務(wù)。書(shū)中給出多種智能體構(gòu)建案例：用OpenAI Assistants做分析助手、用 LlamaIndex做數(shù)據(jù)庫(kù)查詢(xún)智能體，還講解了AutoGPT、BabyAGI等經(jīng)典智能體的原理。

如果API調(diào)用的通用模型滿(mǎn)足不了需求，就需要使用微調(diào)技術(shù)，書(shū)中講透了LoRA、RLHF等微調(diào)技術(shù)，并給出詳細(xì)的行業(yè)案例，包括用醫(yī)療數(shù)據(jù)微調(diào)LLM、用金融數(shù)據(jù)做情感分析。

▲RLHF過(guò)程的可視化示意圖

最后講解模型部署上線(xiàn)步驟，部署優(yōu)化環(huán)節(jié)涵蓋使用模型量化、剪枝、蒸餾、投機(jī)解碼，還演示了在谷歌云CPU上部署量化模型的具體過(guò)程。

至此，讀者完成了AI工程師的能力閉環(huán)。

作者團(tuán)隊(duì)介紹

本書(shū)作者團(tuán)隊(duì)有著深厚的學(xué)術(shù)積淀、一線(xiàn)工程實(shí)戰(zhàn)經(jīng)驗(yàn)與教育傳播能力。他們創(chuàng)作本書(shū)，旨在為讀者打開(kāi)LLM工程應(yīng)用的大門(mén)，讓更多人參與用AI技術(shù)改變世界的行動(dòng)中。

路易斯 - 弗朗索瓦?布沙爾 蒙特利爾學(xué)習(xí)算法研究所醫(yī)學(xué)人工智能博士，2020年起擔(dān)任初創(chuàng)公司AI部門(mén)負(fù)責(zé)人，組建團(tuán)隊(duì)推進(jìn)早期計(jì)算機(jī)視覺(jué)研發(fā)項(xiàng)目，開(kāi)設(shè)個(gè)人YouTube頻道分享AI知識(shí)，專(zhuān)注于A(yíng)I現(xiàn)實(shí)應(yīng)用落地。

路易?彼得斯 擁有帝國(guó)理工學(xué)院物理學(xué)專(zhuān)業(yè)背景，曾就職于摩根大通集團(tuán)從事投資研究。他現(xiàn)任Towards AI首席執(zhí)行官，密切關(guān)注AI帶來(lái)的顛覆性社會(huì)影響和經(jīng)濟(jì)影響，持續(xù)推動(dòng)AI在更多實(shí)際場(chǎng)景中落地的技術(shù)突破。

Towards AI 的使命是通過(guò)課程、博客、教程、新聞、圖書(shū)和Discord社區(qū)，讓AI技術(shù)觸手可及。自2019年以來(lái)，已經(jīng)幫助超過(guò)40萬(wàn)人了解AI知識(shí)。

Part.3

結(jié)語(yǔ)

對(duì)于技術(shù)人來(lái)說(shuō)，要想盡快讓LLM為業(yè)務(wù)賦能，就一定要?jiǎng)邮终娴墩鏄尩馗善饋?lái)?！秳?dòng)手構(gòu)建大模型》提供了最直接的實(shí)操過(guò)程，不繞彎子，精準(zhǔn)解決各類(lèi)實(shí)際智能化應(yīng)用需求。

本書(shū)最大特點(diǎn)是實(shí)戰(zhàn)導(dǎo)向、項(xiàng)目驅(qū)動(dòng)學(xué)習(xí)，代碼完整可復(fù)用，案例豐富多元。每章均配套“小案例 + 大項(xiàng)目”，且項(xiàng)目貼合真實(shí)業(yè)務(wù)場(chǎng)景。

基礎(chǔ)階段：GPT-3.5 API翻譯、小樣本學(xué)習(xí)控制輸出，助力新手快速上手；

核心階段：新聞?wù)?、客服?wèn)答機(jī)器人、YouTube視頻摘要器，覆蓋文本處理、多模態(tài)交互等高頻需求；

高級(jí)階段：醫(yī)療數(shù)據(jù)微調(diào) LLM、谷歌云部署量化模型，直接對(duì)標(biāo)企業(yè)級(jí)任務(wù)。

書(shū)中語(yǔ)言通俗易懂，方便零基礎(chǔ)學(xué)習(xí)者快速入門(mén)，每章固定設(shè)置理論講解、代碼演示、項(xiàng)目實(shí)戰(zhàn)模塊，不同層次的讀者可以快速定位自己的核心內(nèi)容，切實(shí)掌握技術(shù)并應(yīng)用落地。

▲精彩書(shū)摘

另外，本書(shū)學(xué)習(xí)體驗(yàn)優(yōu)異，提供Google Colab Notebook，所有項(xiàng)目代碼均適配云端環(huán)境，讀者無(wú)須本地配置復(fù)雜依賴(lài)，復(fù)制鏈接即可運(yùn)行，大幅降低實(shí)踐門(mén)檻。

配套資源豐富，在towardsai.net/book提供代碼倉(cāng)庫(kù)、requirements.txt依賴(lài)清單、研究論文鏈接，且代碼定期更新以適配LLM生態(tài)變化，確?？蓮?fù)現(xiàn)性。

▲代碼示例

無(wú)論是想從傳統(tǒng)程序員轉(zhuǎn)型AI工程師，還是需要落地大模型應(yīng)用的企業(yè)工程師，又或者是高校相關(guān)專(zhuān)業(yè)的師生，都能在書(shū)中找到對(duì)應(yīng)學(xué)習(xí)模塊，從理論到實(shí)踐全貫通。

吃透理論，熟練應(yīng)用，《動(dòng)手構(gòu)建大模型》助你零基礎(chǔ)進(jìn)階大模型實(shí)戰(zhàn)高手！