数学基础
数学是机器学习与深度学习的语言。本章节涵盖AI研究中常用的数学工具与理论。
本章内容:
- 微积分 — 导数、积分、多元函数优化
- 线性代数 — 矩阵运算、特征分解、SVD
- 概率论 — 概率分布、贝叶斯定理、随机过程
- 信息论 — 熵、KL散度、互信息
- 统计学 — 假设检验、估计理论、回归分析
- 自动微分 — 前向模式、反向模式、计算图
- 离散数学 — 集合论、图论、组合数学、布尔代数
- 数值方法 — 插值、数值积分、ODE求解、数值稳定性
- 优化理论 — 凸优化、梯度下降、KKT条件、对偶理论
- 图论基础 — 有向/无向图、欧拉路径、图着色、网络流