AI大模型應(yīng)用開發(fā)（需掌握Python基礎(chǔ)）

《AI大模型應(yīng)用開發(fā)》
【課程背景】
2021年ChatGPT橫空出世，打開了人工智能發(fā)展大門，AGI（通用人工智能）時(shí)代來臨。經(jīng)過3年的發(fā)展，國內(nèi)外互聯(lián)網(wǎng)類企業(yè)和傳統(tǒng)企業(yè)大廠都已經(jīng)進(jìn)入了AI大模型的應(yīng)用探索。目前AI大模型百花齊放，各家公司紛紛發(fā)布了自己的大模型產(chǎn)品?；A(chǔ)模型的發(fā)展已經(jīng)成熟，應(yīng)用開始發(fā)力，AI大模型的實(shí)際應(yīng)用路徑逐漸清晰，最佳實(shí)踐公司已經(jīng)開始了將AI大模型融入到業(yè)務(wù)中。頭部IT軟件，已經(jīng)將AI大模型能力集成到自己的軟件中，如微軟將大模型集成到Windows中，金山公司將AI大模型能力融入到了WPS中，一些實(shí)用性的探索，也在很多企業(yè)開始。
基本的模型平臺(tái)可以滿足基礎(chǔ)的應(yīng)用需求，但更強(qiáng)大、更復(fù)雜的應(yīng)用就需要編程來解決，本課程詳細(xì)講述了如何調(diào)用大模型接口來是業(yè)務(wù)具備智能，如何通過代碼開發(fā)，來實(shí)現(xiàn)RAG、Agent功能，實(shí)現(xiàn)將大模型能力與企業(yè)業(yè)務(wù)進(jìn)行結(jié)合，實(shí)現(xiàn)智能化的業(yè)務(wù)輔助系統(tǒng)，實(shí)現(xiàn)流程自動(dòng)化、業(yè)務(wù)智能化。
【課程收益】
培訓(xùn)完結(jié)后，學(xué)員能夠：
了解AI大模型和人工智能的發(fā)展情況
了解AI大模型的能力和適用場景
了解AI大模型常用平臺(tái)和工具
了解人工智能、深度學(xué)習(xí)、大模型的技術(shù)
掌握使用程序調(diào)用AI大模型接口的能力
掌握提示詞的編寫技巧和使用技巧
掌握llamaindex等RAG平臺(tái)的使用
了解RAG相關(guān)的知識(shí)處理技術(shù)
掌握langchain等開源平臺(tái)的使用
掌握業(yè)務(wù)系統(tǒng)與AI大模型的接口對接技術(shù)
了解AI大模型微調(diào)技術(shù)
掌握AI大模型本地化部署相關(guān)技術(shù)
了解AI大模型運(yùn)行環(huán)境相關(guān)內(nèi)容
【課程對象】企業(yè)技術(shù)人員、業(yè)務(wù)人員
【課程時(shí)長】6天 (6小時(shí)/天）
【課程特點(diǎn)】密切結(jié)合案例，貼近實(shí)際應(yīng)用，培訓(xùn)完即可應(yīng)用與工作；工具可用，使用平臺(tái)工具皆國內(nèi)可用。
【課程大綱】
人工智能和大模型技術(shù)基礎(chǔ)和開發(fā)準(zhǔn)備
人工智能和大模型的技術(shù)發(fā)展
AI大模型的智能應(yīng)用案例展示和介紹
AI大模型的革命性能力介紹
AI大模型的應(yīng)用情況和前景介紹
人工智能的發(fā)展歷史
機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的技術(shù)理論
AI大模型的技術(shù)發(fā)展介紹
主流大模型的發(fā)展情況和應(yīng)用
RAG、Agents、FunctionCalling、微調(diào)等概念簡介
大模型應(yīng)用的前景和挑戰(zhàn)
AI實(shí)操入門
主流平臺(tái)接口接入方式介紹（阿里、百度為主實(shí)操，OpenAI介紹）
阿里靈積平臺(tái)介紹和申請
百度千帆平臺(tái)介紹和申請
國內(nèi)大模型API聚合平臺(tái)介紹和申請（可使用OpenAI）
編寫第一個(gè)接口調(diào)用程序
零碼等編程助手介紹與安裝
編程助手代碼編寫介紹與演示
實(shí)踐：完成接口申請，并完成第一個(gè)大模型訪問程序
大模型調(diào)用開發(fā)
AI大模型接口調(diào)用基礎(chǔ)
各平臺(tái)Playground使用介紹和體驗(yàn)
模型和token等基本概念介紹
env配置文件使用介紹與實(shí)操
URL調(diào)用方式介紹和演練
大模型API參數(shù)詳細(xì)介紹
API函數(shù)調(diào)用方式介紹和演練
大模型調(diào)用高級應(yīng)用
API調(diào)用Json格式返回輸出
流式調(diào)用和批量調(diào)用使用演練
多模態(tài)大模型音頻功能調(diào)用
多模態(tài)大模型翻譯功能調(diào)用
多模態(tài)大模型圖像功能調(diào)用
通過大模型實(shí)現(xiàn)Function Calling
實(shí)踐：完成大模型各類調(diào)用功能
提示詞工程和編程應(yīng)用
Prompt提示詞工程
使用大模型的最基礎(chǔ)能力培養(yǎng)
經(jīng)典提示詞體驗(yàn)
如何寫出好的提示詞（調(diào)優(yōu)）--開發(fā)流程
提示工程簡介
什么是提示工程
為什么需要提示工程
提示工程的作用和效果
提示工程的語言
結(jié)構(gòu)化提示詞主要構(gòu)成部分
角色定義及使用價(jià)值
指示：任務(wù)的詳細(xì)描述
上下文：更準(zhǔn)確的回復(fù)
例子：更好的避免歧義
輸入：清晰的輸入可以讓AI更好理解
輸出：定義自己想要的輸出格式
提示詞高級開發(fā)應(yīng)用
在提示詞中使用流程，指明大模型思考模式
記錄提示詞，支持多輪對話
加入專業(yè)知識(shí)和具體約束，使答案更準(zhǔn)確
使用思維鏈，使大模型能力更強(qiáng)
使用自洽性，對抗幻覺
基于AI大模型的智能業(yè)務(wù)應(yīng)用開發(fā)
考慮安全，防止Prompt攻擊
實(shí)踐：完成一個(gè)基于提示詞的助手
基于 Langchain 的應(yīng)用開發(fā)（一）
Langchain 框架簡介
Langchain 框架架構(gòu)
Langchain 基本模塊
Langchain 基本應(yīng)用場景
Langchain 框架的輸入輸出(I/O)
Langchain進(jìn)行模型封裝
Langchain實(shí)現(xiàn)多輪對話
Langchain進(jìn)行Prompts封裝
輸出解析器 Output Parser 進(jìn)行結(jié)構(gòu)化輸出
通過Langchain實(shí)現(xiàn)Function Calling
實(shí)操：Lnagchain 框架（I/O）案例
Langchain 框架中的檢索增強(qiáng)生成(RAG)
檢索增強(qiáng)生成(RAG)介紹
索引、檢索和生成
文檔和文檔加載器
TextLoader、WebBaseLoader 和 pypdfLoader
分割器和 RecursiveCharacterTextSplitter
嵌入模型
向量存儲(chǔ)庫
檢索器
基于 Langchain 的應(yīng)用開發(fā)（二）
Langchain 框架中的記憶(Memory)
記憶（Memory）的概念
BaseChatMessageHistory 接口及其子類
RunnableWithMessageHistory
基于 Langchain 的聊天機(jī)器人
實(shí)操：通過Memory實(shí)現(xiàn)多輪交互
LangChain 框架的鏈和表達(dá)式語言 LCEL
Langchain 框架中的鏈（Chain）
Langchain 表達(dá)式語言 LCEL
LCEL 中的 RunnableLambda
LCEL 中的 RunnableSequence
LCEL 中的 RunnableParallel
LCEL 中的 RunnablePassthrough
LCEL 中的 RunnableBranch
實(shí)操：通過LCEL實(shí)現(xiàn)簡單流程
Langchain 框架中的智能體(Agent)
AI Agent 介紹
Langchain 中的 AI Agent 實(shí)現(xiàn)方式
LangGraph 庫介紹
LangGraph 中的圖
LangGraph 中的狀態(tài)
LangGraph 中的節(jié)點(diǎn)
LangGraph 中的邊
Langchain 中的工具
ReAct 方法
實(shí)操：Langchain 框架 AI 智能體案例
大模型私有化部署
使用 Ollama 本地部署大模型
Ollma 簡介
Ollma 安裝
Ollma 部署案例
量化技術(shù)
量化技術(shù)基本原理
常見的量化技術(shù)
模型量化的影響和選擇
模型微調(diào)
模型微調(diào)原理
模型微調(diào)技術(shù)
Adapter Tuning
Prefix Tuning
Prompt tuning
P-Tuning
LoRA
QLoRA
使用 LlamaFactory 微調(diào)模型
Dify本地部署實(shí)現(xiàn)智能體

郭振杰老師的其它課程