202X机器学习知识框架2020-12-31演讲人阈值函数01阈值函数Sigmoid函数子主题损失函数02损失函数负的Log似然函数（NLL
）子主题数理统计03似然估计极大似然估计？？？优化算法04优化算法梯度下降法（GD）初始点下降方向步长凸优化问题概览05概览概念
机器学习是从数据中学习和提取有用的信息，不断提升机器的性能算法增强学习(ReinforcementLearning)68%半监
督学习(Semi-SupervisedLearning)44%无监督学习(UnsupervisedLearning)聚类（C
lustering）21%监督学习(SupervisedLearning)分类（Classification）回归（Regres
sion）15%监督学习06监督学习分类算法回归算法监督学习分类算法LogisticRegressionSoftmaxRe
gressionBP神经网络010206FactorizationMachine随机森林（RandomForest）03050
4支持向量机监督学习分类算法KNN算法LogisticRegressionLogisticRegression模型监督学习回
归算法0102线性回归算法逻辑回归算法050304SoftmaxRegression算法岭回归和Lasso回归CART树回归线性
回归算法目标函数（模型）优化算法线性回归函数随机梯度下降最小二乘法312损失函数求误差平方和最小逻辑回归算法目标函数（模型）损失函
数极大似然估计对数似然逻辑回归算法优化算法010203随机梯度下降牛顿法L-BFGSSoftmaxRegression算法目标函
数损失函数优化算法酉函数07酉函数梯度08梯度微积分09微积分求偏导泰勒级数模型训练思考方式10模型训练思考方式0102确定问
题特征工程030405设计目标函数（模型）设计损失函数设计优化方法均方误差（MSE）子主题子主题梯度下降算法随机梯度下降凸函
数11凸函数L1/L2正则化12L1/L2正则化决策树算法13决策树算法单棵树子主题子主题集成学习bagging算法随机森林b
oosting算法数学基础14数学基础微积分导数/偏导数中心极值定理概率论基础矩估计协方差特征工程15特征工程无监督学习1
6无监督学习聚类算法K-meansMeanShiftDBSCANLablePropagation1234推荐算法17推荐算法协
调过滤算法基于矩阵分解的推荐算法基于图的推荐算法深度学习18深度学习AutoEncoder卷积神经网络项目实践19项目实践感谢聆听 |
|
