最佳答案

• 

  課程顧問-小管家 2023-12-15 16:36:58

  立即咨詢

  香港城市大學EE5438應用深度學習課程旨在讓學生熟悉當前先進的深度學習技術，如MPL、CNN、LSTM、Transformer、BERT、GPT-3、VAE、GAN、CLIP、DALL-E 2等。若想在考試中獲得高分，你需要理解深度神經網絡的理論和實踐概念，并且能夠開發(fā)和訓練深度神經網絡、重現研究成果并開展原創(chuàng)研究。此外，你還應該掌握Python編程語言，通過TensorFlow Keras或PyTorch軟件實現深度學習應用。下面是你應該在EE5438考試之前重點復習的內容。

  1、深度學習的機器學習背景

  人工智能、機器學習和深度學習之間的關系；回歸和分類問題；傳統(tǒng)神經網絡；進行深度學習的原因。

  2、神經網絡基礎

  ? 感知和多層感知器（MLP）；

  ? 激活函數：Sigmoid、Rectified Linear Unit (ReLU)、Softmax；

  ? 正則化：L1 (Lasso) 和 L2 (Ridge) 以及 Dropout；

  ? 損失函數：均方誤差、均方根誤差和交叉熵損失。

  3、神經網絡的訓練

  ? 反向傳播：經典反向傳播、動量反向傳播、批量和在線反向傳播隨機梯度下降及其他技術；

  ? 交叉驗證、早期停止、最佳權重和超參數管理；

  ? 混淆矩陣、ROC 曲線和提升曲線；

  ? TensFlow Keras 或 Pytorch。

  4、卷積神經網絡（CNN）

  卷積神經網絡基礎知識、提高測試準確性的技巧、特征縮放和批量規(guī)范化、流行的卷積神經網絡架構（AlexNet、VGG、GoogleNet、ResNet、DenseNet、MobileNet 和 EfficientNet）。

  

  5、遞歸神經網絡 (RNN)

  ? 簡單 RNN、長短期記憶（LSTM）、門遞歸單元（GRN）、堆疊 RNN、雙向 RNN；

  ? RNN 應用：情感分析、文本生成、機器翻譯、圖像標題生成。

  6、變壓器模型

  注意、自注意、變換器、預訓練語言模型、BERT、GPT-3、視覺變換器 (ViT)。

  7、生成模型

  自動編碼器 (AE)、變異自動編碼器 (VAE)、生成對抗網絡 (GAN)、DCGAN、條件 GAN、CycleGAN、StyleGAN、Fréchet Inception Distance (FID)。

  8、自我監(jiān)督學習（SSL）

  ? 自我預測算法：圖像旋轉、相對補丁位置、拼圖、著色和超分辨率前置任務；

  ? 對比學習算法：MoCo、MoCo v2、MoCo v3、SimCLR、SimCLR v2、BYOL、SimSiam、DINO。

  9、文本到圖像生成模型

  擴散模型、DALL-E、CLIP、GLIDE、DALL-E 2 和 Google Imagen。

  總的來說，如果你能夠解釋推動深度學習的主要技術趨勢，確定深度神經網絡何時適合特定應用，了解當前先進的深度學習技術，并能為不同類型的應用構建、訓練和應用深度學習模型，同時將深度學習應用于實際問題，那么你一定能夠在考試中獲得高分。如果你需要有針對性的香港城市大學考試輔導，可以直接與我們聯系喲。

其他答案