课程内容提交

MachineLearningFundamentals/Task1_ml_overvirew.md

@@ -0,0 +1,326 @@
+[TOC]
+
+# Task0-机器学习综述
+
+2016年3月，阿尔法围棋与围棋世界冠军、职业九段棋手李世石进行围棋人机大战，以4比1的总比分获胜. 深度学习开始进行大众的视野中. 深度学习其实是机器学习的一个分支,我们今天来看看机器学习是什么. 机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径.  
+
+## 机器学习的发展
+
+</table><p>其中，机器学习（Machine Learning）的各个阶段发展历程列表如下。</p>
+<table>
+<thead>
+<tr><td bgcolor=" "><b>时间段</b></td><td bgcolor=" "><b>机器学习理论</b></td><td bgcolor=" "><b>代表性成果</b></td></tr>
+</thead>
+<tbody align="left">
+<tr><td rowspan="2" bgcolor=" ">二十世纪五十年代初</td><td>人工智能研究处于推理期</td><td>A. Newell和H. Simon的“逻辑理论家”（Logic Theorist）程序证明了数学原理，以及此后的“通用问题求解”（General Problem Solving）程序。</td></tr>
+<tr><td>已出现机器学习的相关研究</td><td>1952年，阿瑟·萨缪尔（Arthur Samuel）在IBM公司研制了一个西洋跳棋程序，这是人工智能下棋问题的由来。</td></tr>
+<tr><td bgcolor=" ">二十世纪五十年代中后期</td><td>开始出现基于神经网络的“连接主义”（Connectionism）学习</td><td>F. Rosenblatt提出了感知机（Perceptron），但该感知机只能处理线性分类问题，处理不了“异或”逻辑。还有B. Widrow提出的Adaline。</td></tr>
+<tr><td rowspan="4" bgcolor=" ">二十世纪六七十年代</td><td>基于逻辑表示的“符号主义”（Symbolism）学习技术蓬勃发展</td><td>P. Winston的结构学习系统，R. S. Michalski的基于逻辑的归纳学习系统，以及E. B. Hunt的概念学习系统。</td></tr>
+<tr><td>以决策理论为基础的学习技术</td><td>&nbsp;</td></tr>
+<tr><td>强化学习技术</td><td>N. J. Nilson的“学习机器”。</td></tr>
+<tr><td>统计学习理论的一些奠基性成果</td><td>支持向量，VC维，结构风险最小化原则。</td></tr>
+<tr><td rowspan="4" bgcolor=" ">二十世纪八十年代至九十年代中期</td><td>机械学习（死记硬背式学习）<br>示教学习（从指令中学习）<br>类比学习（通过观察和发现学习）<br>归纳学习（从样例中学习）</td><td>学习方式分类</td></tr>
+<tr><td>从样例中学习的主流技术之一：（1）符号主义学习<br>（2）基于逻辑的学习</td><td>（1）决策树（decision tree）。<br>（2）归纳逻辑程序设计（Inductive Logic Programming, ILP）具有很强的知识表示能力，可以较容易地表达出复杂的数据关系，但会导致学习过程面临的假设空间太大，复杂度极高，因此，问题规模稍大就难以有效地进行学习。</td></tr>
+<tr><td>从样例中学习的主流技术之二：基于神经网络的连接主义学习</td><td>1983年，J. J. Hopfield利用神经网络求解“流动推销员问题”这个NP难题。1986年，D. E. Rumelhart等人重新发明了BP算法，BP算法一直是被应用得最广泛的机器学习算法之一。</td></tr>
+<tr><td>二十世纪八十年代是机器学习成为一个独立的学科领域，各种机器学习技术百花初绽的时期</td><td>连接主义学习的最大局限是“试错性”，学习过程涉及大量参数，而参数的设置缺乏理论指导，主要靠手工“调参”，参数调节失之毫厘，学习结果可能谬以千里。</td></tr>
+<tr><td bgcolor=" ">二十世纪九十年代中期</td><td>统计学习（Statistical Learning）</td><td>支持向量机（Support Vector Machine，SVM），核方法（Kernel Methods）。</td></tr>
+<tr><td bgcolor=" ">二十一世纪初至今</td><td>深度学习（Deep Learning）</td><td>深度学习兴起的原因有二：数据量大，机器计算能力强。</td></tr>
+</tbody>
+</table>
+
+## 机器学习分类
+
+1. 监督学习
+
+    监督学习是指利用一组已知类别的样本调整分类器的参数，使其达到所要求性能的过程，也称为监督训练或有教师学习。在监督学习的过程中会提供对错指示，通过不断地重复训练，使其找到给定的训练数据集中的某种模式或规律，当新的数据到来时，可以根据这个函数预测结果。监督学习的训练集要求包括输入和输出，主要应用于分类和预测。
+
+2. 非监督学习
+
+    与监督学习不同，在非监督学习中，无须对数据集进行标记，即没有输出。其需要从数据集中发现隐含的某种结构，从而获得样本数据的结构特征，判断哪些数据比较相似。因此，非监督学习目标不是告诉计算机怎么做，而是让它去学习怎样做事情。
+
+3. 半监督学习
+
+    半监督学习是监督学习和非监督学习的结合，其在训练阶段使用的是未标记的数据和已标记的数据，不仅要学习属性之间的结构关系，也要输出分类模型进行预测。
+
+4. 强化学习
+
+    强化学习（Reinforcement Learning, RL），又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题. 
+
+## 机器学习模型
+
+机器学习 = 数据（data） + 模型（model） + 优化方法（optimal strategy）
+
+机器学习的算法导图[来源网络]
+
+<img src="https://blog.griddynamics.com/content/images/2018/04/machinelearningalgorithms.png">
+
+
+机器学习的注意事项[来源网络]
+<img src=https://nanjunxiao.github.io/img/A%20few%20useful%20things%20to%20know%20about%20machine%20learning.jpg>
+
+常见的机器学习算法
+
+1. Linear Algorithms
+   1. Linear Regression
+   2. Lasso Regression 
+   3. Ridge Regression
+   4. Logistic Regression
+2. Decision Tree
+   1. ID3
+   2. C4.5
+   3. CART
+3. SVM
+4. Naive Bayes Algorithms
+   1. Naive Bayes
+   2. Gaussian Naive Bayes
+   3. Multinomial Naive Bayes
+   4. Bayesian Belief Network (BBN)
+   5. Bayesian Network (BN)
+5. kNN
+6.  Clustering Algorithms
+    1.  k-Means
+    2.  k-Medians
+    3.  Expectation Maximisation (EM)
+    4.  Hierarchical Clustering
+
+7.  K-Means
+8.  Random Forest
+9.  Dimensionality Reduction Algorithms
+10. Gradient Boosting algorithms
+    1.  GBM
+    2.  XGBoost
+    3.  LightGBM
+    4.  CatBoost
+11. Deep Learning Algorithms
+    1.  Convolutional Neural Network (CNN)
+    2.  Recurrent Neural Networks (RNNs)
+    3.  Long Short-Term Memory Networks (LSTMs)
+    4.  Stacked Auto-Encoders
+    5.  Deep Boltzmann Machine (DBM)
+    6.  Deep Belief Networks (DBN)
+
+
+## 机器学习损失函数
+1. 0-1损失函数
+$$
+L(y,f(x)) =
+\begin{cases}
+0, & \text{y = f(x)}  \\
+1, & \text{y $\neq$ f(x)}
+\end{cases}
+$$
+2. 绝对值损失函数
+$$
+L(y,f(x))=|y-f(x)|
+$$
+3. 平方损失函数
+$$
+L(y,f(x))=(y-f(x))^2
+$$
+4. log对数损失函数
+$$
+L(y,f(x))=log(1+e^{-yf(x)})
+$$
+5. 指数损失函数
+$$
+L(y,f(x))=exp(-yf(x))
+$$
+6. Hinge损失函数
+$$
+L(w,b)=max\{0,1-yf(x)\}
+$$
+
+## 机器学习优化方法
+
+梯度下降是最常用的优化方法之一，它使用梯度的反方向$\nabla_\theta J(\theta)$更新参数$\theta$，使得目标函数$J(\theta)$达到最小化的一种优化方法，这种方法我们叫做梯度更新. 
+1. (全量)梯度下降
+$$
+\theta=\theta-\eta\nabla_\theta J(\theta)
+$$
+2. 随机梯度下降
+$$
+\theta=\theta-\eta\nabla_\theta J(\theta;x^{(i)},y^{(i)})
+$$
+3. 小批量梯度下降
+$$
+\theta=\theta-\eta\nabla_\theta J(\theta;x^{(i:i+n)},y^{(i:i+n)})
+$$
+4. 引入动量的梯度下降
+$$
+\begin{cases}
+v_t=\gamma v_{t-1}+\eta \nabla_\theta J(\theta)  \\
+\theta=\theta-v_t
+\end{cases}
+$$
+5. 自适应学习率的Adagrad算法
+$$
+\begin{cases}
+g_t= \nabla_\theta J(\theta)  \\
+\theta_{t+1}=\theta_{t,i}-\frac{\eta}{\sqrt{G_t+\varepsilon}} \cdot g_t
+\end{cases}
+$$
+6. 牛顿法
+$$
+\theta_{t+1}=\theta_t-H^{-1}\nabla_\theta J(\theta_t)
+$$
+其中:
+$t$: 迭代的轮数
+
+$\eta$: 学习率
+
+$G_t$: 前t次迭代的梯度和
+
+$\varepsilon:$很小的数,防止除0错误
+
+$H$: 损失函数相当于$\theta$的Hession矩阵在$\theta_t$处的估计
+
+
+## 机器学习的评价指标
+1. MSE(Mean Squared Error)
+$$
+MSE(y,f(x))=\frac{1}{N}\sum_{i=1}^{N}(y-f(x))^2
+$$
+2. MAE(Mean Absolute Error)
+$$
+MSE(y,f(x))=\frac{1}{N}\sum_{i=1}^{N}|y-f(x)|
+$$
+3. RMSE(Root Mean Squard Error)
+$$
+RMSE(y,f(x))=\frac{1}{1+MSE(y,f(x))}
+$$
+4. Top-k准确率
+$$
+Top_k(y,pre_y)=\begin{cases}
+1, {y \in pre_y}  \\
+0, {y \notin pre_y}
+\end{cases}
+$$
+5. 混淆矩阵
+
+混淆矩阵|Predicted as Positive|Predicted as Negative
+|:-:|:-:|:-:|
+|Labeled as Positive|True Positive(TP)|False Negative(FN)|
+|Labeled as Negative|False Positive(FP)|True Negative(TN)|
+
+* 真正例(True Positive, TP):真实类别为正例, 预测类别为正例
+* 假负例(False Negative, FN): 真实类别为正例, 预测类别为负例
+* 假正例(False Positive, FP): 真实类别为负例, 预测类别为正例 
+* 真负例(True Negative, TN): 真实类别为负例, 预测类别为负例
+
+* 真正率(True Positive Rate, TPR): 被预测为正的正样本数 / 正样本实际数
+$$
+TPR=\frac{TP}{TP+FN}
+$$
+* 假负率(False Negative Rate, FNR): 被预测为负的正样本数/正样本实际数
+$$
+FNR=\frac{FN}{TP+FN}
+$$
+
+* 假正率(False Positive Rate, FPR): 被预测为正的负样本数/负样本实际数，
+$$
+FPR=\frac{FP}{FP+TN}
+$$
+* 真负率(True Negative Rate, TNR): 被预测为负的负样本数/负样本实际数，
+$$
+TNR=\frac{TN}{FP+TN}
+$$
+* 准确率(Accuracy)
+$$
+ACC=\frac{TP+TN}{TP+FN+FP+TN}
+$$
+* 精准率
+$$
+P=\frac{TP}{TP+FP}
+$$
+* 召回率
+$$
+R=\frac{TP}{TP+FN}
+$$
+* F1-Score
+$$
+\frac{2}{F_1}=\frac{1}{P}+\frac{1}{R}
+$$
+* ROC
+
+ROC曲线的横轴为“假正例率”，纵轴为“真正例率”. 以FPR为横坐标，TPR为纵坐标，那么ROC曲线就是改变各种阈值后得到的所有坐标点 (FPR,TPR) 的连线，画出来如下。红线是随机乱猜情况下的ROC，曲线越靠左上角，分类器越佳. 
+
+
+* AUC(Area Under Curve)
+
+AUC就是ROC曲线下的面积. 真实情况下，由于数据是一个一个的，阈值被离散化，呈现的曲线便是锯齿状的，当然数据越多，阈值分的越细，”曲线”越光滑. 
+
+<img src="https://gss3.bdstatic.com/-Po3dSag_xI4khGkpoWK1HF6hhy/baike/c0%3Dbaike80%2C5%2C5%2C80%2C26/sign=b9cb389a68d0f703f2bf9d8e69933a58/f11f3a292df5e0feaafde78c566034a85fdf7251.jpg">
+
+用AUC判断分类器（预测模型）优劣的标准:
+
+- AUC = 1 是完美分类器，采用这个预测模型时，存在至少一个阈值能得出完美预测。绝大多数预测的场合，不存在完美分类器.
+- 0.5 < AUC < 1，优于随机猜测。这个分类器（模型）妥善设定阈值的话，能有预测价值.
+- AUC < 0.5，比随机猜测还差；但只要总是反预测而行，就优于随机猜测.
+
+## 机器学习模型选择
+
+1. 交叉验证
+
+所有数据分为三部分：训练集、交叉验证集和测试集。交叉验证集不仅在选择模型时有用，在超参数选择、正则项参数 [公式] 和评价模型中也很有用。
+
+2. k-折叠交叉验证
+
+- 假设训练集为S ，将训练集等分为k份:$\{S_1, S_2, ..., S_k\}$. 
+- 然后每次从集合中拿出k-1份进行训练
+- 利用集合中剩下的那一份来进行测试并计算损失值
+- 最后得到k次测试得到的损失值，并选择平均损失值最小的模型
+
+3. Bias与Variance，欠拟合与过拟合
+
+**欠拟合**一般表示模型对数据的表现能力不足，通常是模型的复杂度不够，并且Bias高，训练集的损失值高，测试集的损失值也高.
+
+**过拟合**一般表示模型对数据的表现能力过好，通常是模型的复杂度过高，并且Variance高，训练集的损失值低，测试集的损失值高.
+
+<img src="https://pic3.zhimg.com/80/v2-e20cd1183ec930a3edc94b30274be29e_hd.jpg">
+
+<img src="https://pic1.zhimg.com/80/v2-22287dec5b6205a5cd45cf6c24773aac_hd.jpg">
+
+4. 解决方法
+
+- 增加训练样本: 解决高Variance情况
+- 减少特征维数: 解决高Variance情况
+- 增加特征维数: 解决高Bias情况
+- 增加模型复杂度: 解决高Bias情况
+- 减小模型复杂度: 解决高Variance情况
+
+
+## 机器学习参数调优
+
+1. 网格搜索
+
+一种调参手段；穷举搜索：在所有候选的参数选择中，通过循环遍历，尝试每一种可能性，表现最好的参数就是最终的结果
+
+2. 随机搜索
+
+与网格搜索相比，随机搜索并未尝试所有参数值，而是从指定的分布中采样固定数量的参数设置。它的理论依据是，如果随即样本点集足够大，那么也可以找到全局的最大或最小值，或它们的近似值。通过对搜索范围的随机取样，随机搜索一般会比网格搜索要快一些。
+
+3. 贝叶斯优化算法
+
+贝叶斯优化用于机器学习调参由J. Snoek(2012)提出，主要思想是，给定优化的目标函数(广义的函数，只需指定输入和输出即可，无需知道内部结构以及数学性质)，通过不断地添加样本点来更新目标函数的后验分布(高斯过程,直到后验分布基本贴合于真实分布。简单的说，就是考虑了上一次参数的信息，从而更好的调整当前的参数。
+
+
+## 参考文献
+1. https://www.jianshu.com/p/a95d33fea777
+2. https://baike.baidu.com/item/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/217599?fr=aladdin
+3. https://blog.csdn.net/gongxifacai_believe/article/details/91355237
+4. https://baike.baidu.com/item/%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0/2971075?fr=aladdin
+5. https://www.analyticsvidhya.com/blog/2017/09/common-machine-learning-algorithms/
+6. https://machinelearningmastery.com/a-tour-of-machine-learning-algorithms/
+7. https://www.kaggle.com/getting-started/83518
+8. https://www.cnblogs.com/lliuye/p/9549881.html
+9. https://blog.csdn.net/fisherming/article/details/80209182
+10. https://www.jianshu.com/p/b0f56b7d7ee8
+11. https://blog.csdn.net/qq_20011607/article/details/81712811
+12. https://baike.baidu.com/item/AUC/19282953?fr=aladdin
+13. https://zhuanlan.zhihu.com/p/30844838
+14. https://www.jianshu.com/p/55b9f2ea283b
+15. https://www.jianshu.com/p/5378ef009cae
+16. https://www.jianshu.com/p/5378ef009cae
+
+**注**: 资源很多来自网络,已给出引用,如有问题请联系: xiaoranone@126.com
+

MachineLearningFundamentals/img/readme.md

@@ -0,0 +1 @@
+### hai