AIGC-6天

基于人工智能的內容生成（AIGC）
【課程簡介】
無論是火遍全網的AI繪畫，還是震驚世人的ChatGPT，都屬于AIGC（基于人工智能的內容生成）這一概念。AIGC并不是一個全新的概念，它最早出現在深度學習模型“對抗生成網絡”GAN的應用中，被譽為“21世紀最強大的算法模型之一” ，后續(xù)發(fā)展起來的擴散模型，以及自然語言領域BERT、GPT等都是典型的AIGC模型。
本課程以AIGC發(fā)展歷程為主線，由淺入深介紹了AIGC相關模型的技術和應用場景，可以作為AIGC領域學習者的入門到進階級課程。
【課程時長】
6天（6小時/天）
【課程對象】
理工科本科及以上，且至少了解一門編程語言。
【課程大綱】（培訓內容可根據客戶需求調整）
時間
內容
案例實踐與練習
Day1上午
綜述與準備
AIGC綜述
AIGC的概念
AIGC的應用場景
AIGC的知識地圖
準備工作
概念與術語
Python（Anaconda）的安裝
Pycharm的安裝與使用
Jupyter Notebook的安裝與使用
Tensorflow與pytorch的安裝
Opencv、Sklearn工具包的運用
案例實踐：
Anaconda安裝
Pip install的技巧
Tensorflow-GPU的安裝
pytorch的安裝
Jupyter Notebook的使用
Opencv的基本例子
Day1下午
基礎模型
基礎的基礎：神經網絡
人工神經元及感知機模型
Sigmoid激活函數
前向神經網絡的架構
梯度下降
誤差反向傳播詳解
基礎的基礎：性能評價指標（5）
精確率；
P、R與F1
ROC與AUC
對數損失
泛化性能評價：k折驗證驗證
案例實踐：
手算神經網絡BP算法
只用numpy，手推BPNN
Day2上午
深度學習基礎
深度學習基礎
連接主義的興衰
深度學習與神經網絡的區(qū)別與聯系
目標函數與激勵函數
學習步長
權重初始化
權重衰減（Weight Decay）
梯度下降的方法
避免過適應
圖像處理基礎：用于分類的CNN
圖像分類概述
AlexNet
ZF-Net
卷積層的誤差反向傳播
池化層的誤差反向傳播
VGG（5層變?yōu)?組）
遷移學習
GoogLenet和Inception模塊
模型退化與ResNet
DenseNet（充分利用特征）
最新的efficientnet
案例實踐：
通過深度BP網絡實現手寫數字的識別
各種梯度下降方法的實戰(zhàn)效果
Batch normalization的實戰(zhàn)效果
VGG各層的可視化展現
遷移學習：識別貓和狗
Resnet用于圖像分類
Day2下午
圖像生成模型
VAE
GAN
早期圖像生成模型：VAE
圖像生成模型
AE
VAE
DAE
圖像生成經典模型：GAN
生成對抗網絡（GAN）
KL散度與JS散度
改進的GAN：DCGAN
加上約束：infoGAN
根本上解決：Wasserstein GAN
Zoo of GAN
案例實踐：
GAN生成的數字
VAE生成的數字
babyGAN：特朗普的孩子？
styleGAN：查無此人
Day3上午
圖像分類 CNN
圖像分類CNN
自然語言處理基礎（1）
語言模型
Bi-Gram與N-Gram
機械分詞與統計分詞
詞性標注
命名實體識別
情感分析
自然語言生成基礎：RNN
RNN基本原理
LSTM、GRU
雙向循環(huán)神經網絡
編碼器與解碼器結構
seq2seq模型
Attention
圖片->文字的生成：NIC
案例實踐：
jieba的分詞效果
交易數據的預測；
《絕代雙驕》人物關系分析
SnowNLP：褒義的中性詞
Show and tell模型效果
Day4上午
自然語言處理
自然語言生成基礎：詞向量
W2V:CBOW
W2V:skip-gram
W2V:Hierachical Softmax
W2V:Negative Sampling
自然語言生成進階：Transformer
所需的僅僅是“注意力”
Transformer中的block
自注意力機制
多頭注意力
位置編碼（拋棄RNN）
Batch Norm與Layer Norm
解碼器的構造
案例實踐：
藏頭詩生成；
《絕代雙驕》分析
SnowNLP：褒義的中性詞
Word2vec代碼解讀
手撕Transformer
Day4下午
預訓練模型基礎
自然語言生成進階：BERT
BERT整體架構
Masked-LM
Next Sentence Prediction
改造下游任務
WordPiece作為輸入
哪些改進起作用？
自然語言生成進階：GPT
“獨角獸”的威力
GPT的內部架構
基于Transformer的改造
自注意力機制的改進
GPT的應用場景
GPT-3
最新的GPT-3.5
基于圖像補全的模型：MAE
iGPT
Vision Transformer（ViT）
BEiT
MAE令人驚奇的效果
MAE詳解
案例實踐：
BERT代碼解讀
BERT下游任務的改造
讓GPT寫一篇散文
GPT會做小學應用題嗎？
MAE的效果
Day5上午
強化學習
強化學習基礎
agent的屬性
馬爾科夫獎勵/決策過程
exploration and exploitation
狀態(tài)行為值函數
Bellman期望方程
最優(yōu)策略
強化學習經典方法
策略迭代與價值迭代
蒙特卡洛法
時序差分法
DP、MC、TD的關系
案例實踐：
格子世界
谷底的小車
倒立擺
blackjack
Day5下午
深度強化學習
深度強化學習
值函數的參數化表示
值函數的估計過程
深度學習與強化學習的結合
基礎的DQN 方法
Double DQN
Prioritized Replay
Dueling Network
基于信賴域的深度強化學習
信賴域系方法背景
信賴域系方法發(fā)展路線圖
TRPO方法
PPO方法
案例實踐：
井字棋
笨鳥先飛：DQN
Day6上午
最新生成模型
擴散模型（圖像生成最新模型）綜述
1、擴散模型與GAN、VAE的關系
2、擴散模型常用算法
3、擴散模型的應用領域
擴散模型之DDPM
1、整體流程
2、前向與還原步驟
3、訓練與采樣過程
4、模型結構
5、實驗效果
擴散模型之DDIM
1、前提條件
2、優(yōu)化推理與優(yōu)化前置條件
4、實驗效果
擴散模型之CLIP
1、基本概念
2、模型架構
3、實驗效果
案例實踐：
DDPM的效果
CLIP的效果
Day6下午
最新生成模型及chatGPT
擴散模型之DALLE-2
1、整體架構
2、PIROR模塊與DECODER模塊
4、效果對比
擴散模型之Stable-Diffusion
1、整體架構
2、潛在表達得生成模型
3、條件化機制
4、實驗效果
chatGPT（自然語言生成最新模型）
1、技術背景
2、主要特點
3、ChatGPT的訓練過程
4、InstructGPT與PPO
5、WebGPT和CICERO
6、chatGPT的應用領域
7、chatGPT引發(fā)的討論
案例實踐：
異想天開的DALL-E 2
匪夷所思的chatGPT
其他生成模型效果演示

葉梓老師的其它課程