机器学习课程

课程档案

1. 参考书：Pattern Recognition and Machine Learning. Christopher Bishop. Published by Springer. 2006

pdf

1. 参考书：统计学习方法. 李航. 清华大学出版社. 2014

教学进度

week 1

• 内容简介 绪论 (2学时)
• 知识点 课件
  1. 模式识别、机器学习、人工智能的概念。
  2. 有监督学习、无监督学习、强化学习。
  3. 机器学习工作流程。
• 阅读 PRML 1~3
• 课后作业：设计题（课堂布置）

week 2 ~ week 3

• 内容简介 回归问题：多项式曲线拟合 （3学时）
• 知识点
  1. 多项式回归
  2. 梯度下降算法
  3. 模型复杂度和泛化性
  4. 正则化
• 阅读 PRML 4~11
• 课后作业：选择完成课后习题

week 3

• 内容简介 概率基础 （1学时）
• 知识点
  1. 概率
  2. 期望、方差、协方差
• 阅读 PRML 12~20
• 课后作业：选择完成课后习题

week 4 ~ week 6

• 内容简介 概率曲线拟合（6学时）
• 知识点
  1. 高斯分布
  2. 最大似然估计
  3. bias-variance decomposition
• 阅读 PRML 24~29, 137~144, 147~152, 78~84, 93~97
• 课后作业：选择完成课后习题

week 7

• 内容简介 贝叶斯曲线拟合（2学时）
• 知识点
  1. 贝叶斯概率
  2. MAP 估计
• 阅读 PRML21~24, 152~158, 144~147, (85~93,97~105)
• 课后作业

week 8

复习、期中考试

week 9

• 内容简介 分类问题（2学时）
• 知识点
  1. 分类问题定义：二类、多类
  2. 逻辑斯蒂回归
  3. 线性分类器
• 阅读 PRML 38~48
• 课后作业：选择完成课后习题

week 10 ~ week 12

• 内容简介 线性分类器（6学时）
• 知识点
  1. 判别函数、判别模型、生成模型
  2. Fisher’s LDA
  3. 感知机
  4. 朴素贝叶斯分类器
• 阅读 PRML 179~209
• 课后作业：选择完成课后习题

week 13 ~ week 14

• 内容简介 支持向量机（4学时）

• 知识点
  1. 最大间隔
  2. 软间隔
  3. SMO
• 阅读 PRML 325~338
• 课后作业：选择完成课后习题

week 15

• 内容简介 EM算法（2学时）
• 知识点
  1. 聚类问题
  2. 期望最大算法
• 阅读 PRML 423~455
• 课后作业：选择完成课后习题