李宏毅 2024 年《生成式人工智能导论》
鹿小编 随着生成式人工智能的快速发展和广泛应用，为了让学生系统地了解其背后的原理和技术，李宏毅开设了这门导论课程 。课程旨在为不同背景的学生提供生成式人工智能的基础知识，是进入该领域的绝佳起点，无需先修机器学习或人工智能等相关课程.
课程背景与定位
- 随着生成式人工智能的快速发展和广泛应用，为了让学生系统地了解其背后的原理和技术，李宏毅开设了这门导论课程 。课程旨在为不同背景的学生提供生成式人工智能的基础知识，是进入该领域的绝佳起点，无需先修机器学习或人工智能等相关课程.
课程内容
- 基础概念讲解：介绍生成式人工智能的基本定义，如生成式 AI 是让机器产生复杂有结构的物件，像写一篇特定主题的文章等，还会讲解与之相关的机器学习、深度学习等基础概念，以及它们之间的关系，帮助学生建立起对该领域的初步认知.
- 核心技术剖析：深入讲解生成式人工智能背后的关键技术，如预训练（自监督学习）、Transformer 架构等。以 ChatGPT 为例，分析其训练过程和原理，包括如何进行文字接龙、如何利用大量的网络数据进行预训练等，让学生理解模型是如何生成文本的.
- 应用与实践：探讨生成式人工智能在各个领域的应用，如文章生成、图像生成、代码生成等，以及如何通过一些方法和技巧更好地应用生成式 AI， 比如改变输入的指令、提供额外信息等，从而引导模型生成更符合需求的结果。同时，课程也会涉及到一些实践作业，让学生亲身体验训练和应用生成式 AI 的过程.
- 问题与挑战：研究生成式人工智能带来的一系列问题和挑战，如如何精准地向模型提出需求、如何避免模型生成错误或有害内容、如何检测 AI 生成的内容等，培养学生对该领域的深入思考和批判性思维能力.
课程内容
- 1.课程说明
- 2.第1讲：生成式AI是什么
- 3.（延申）80分钟快速了解大型语言模型
- 4.作业 1：真假难辨的世界
- 5.第2讲：今日的生成式人工智能厉害在哪里？
- 6.第3讲：训练不了人工智能？你可以训练你自己（上）
- 7.作业2：都是 AI 的作文比赛
- 8.第4讲：训练不了人工智能？你可以训练你自己（中）
- 9.（延申）能够使用工具的AI：New Bing, WebGPT, Toolformer
- 10.作业3：以 AI 搭建自己的应用
- 11.第5讲：训练不了人工智能？你可以训练你自己（下）
- 12.第6讲：大型语言模型修炼史 — 第一阶段- 自我学习，累积实力
- 13.(延申)让 AI 村民组成虚拟村庄会发生什么事
- 14.(延申)机器学习模型的可解释性 (Explainable ML) (上) – 为什么类神经网络可以正确分辨宝可梦和数码宝贝呢
- 15.作业四：Become an AI Hypnosis Master
- 16.第7讲：大型语言模型修炼史 — 第二阶段_ 名师指点，发挥潜力 (兼谈对ChatGPT 做逆向工程与LLaMA 时代的开始)
- 17.作业五：LLM Fine-tuning
- 18.第8讲：大型语言模型修炼史 — 第三阶段- 参与实战，打磨技巧 (Reinforcement Learning from Human Feedback, RLH
- 19.第9讲：以大型语言模型打造的AI Agent
- 20.作业六：Learning from Human Preferences
- 21.第10讲：今日的语言模型是如何做文字接龙的 — 浅谈Transformer 已经熟悉 Transformer 的同学可跳过)
- 22.第11讲：大型语言模型在「想」什么呢？ — 浅谈大型语言模型的可解释性
- 23.（延申）Transformer (上)
- 24.（延申）Transformer (下)
- 25.（延申）用语言模型來解释语言模型 (上)
- 26.（延申）用语言模型來解释语言模型 (下)
- 27.作业七：Understanding what AI is thinking
- 28.第12讲：浅谈评估大型语言模型能力的各种方式
- 29.第13讲：浅谈大型语言模型相关的安全性议题 (上) — 亡羊补牢、语言模型的偏见、有多少人用 ChatGPT 写论文审查意见
- 30.作业八：Safety Issue of Generative AI
- 31.第14讲：浅谈大型语言模型相关的安全性议题 (下) — 欺骗大型语言模型
- 32.第15讲：为什么语言模型用文字接龙，图片生成不用像素接龙呢？— 浅谈生成式人工智能的生成策略
- 33.第16讲：可以加速所有语言模型生成速度的神奇外挂 — Speculative Decoding
- 34.作业九：Quick Summary of Lecture Video
- 35.第17讲：有关影像的生成式AI (上) — AI 如何产生图片和影片 (Sora背后可能用的原理)
- 36.第18讲：有关影像的生成式AI (下) — 快速导读经典影像生成方法 (VAE, Flow, Diffusion, GAN) 以及与生成的影片互动
- 37.（延申）Variational Auto-encoder (VAE)
- 38.（延申）Generative Adversarial Network (GAN)
- 39.（延申）Flow-based Method
- 40.（延申）Diffusion Method
- 41.作业十：Stable Diffusion Fine-tuning
课程优势
- 讲师优秀：李宏毅作为知名的人工智能领域学者，具有丰富的教学经验和深厚的专业知识，能够清晰、生动地讲解复杂的技术概念和原理，使学生更容易理解和掌握.
- 内容系统全面：课程内容涵盖了生成式人工智能的各个方面，从基础概念到核心技术，再到应用和问题挑战，形成了一个完整的知识体系，有助于学生全面深入地了解该领域.
- 适合初学者：无需先修知识的要求，使得没有相关背景的学生也能够轻松入门，降低了学习的门槛，能够吸引更多对生成式人工智能感兴趣的人投身该领域的学习和研究.
