机器学习-Day_12

2020-03-19

吴恩达机器学习第12天

15-1问题动机

异常检测anomaly detection

密度估计

　　　
　　　感觉有点像高斯分布的3sigma法则……

　　　建一个模型p(X)
　　　若p(x)小于某个阈值则判断为异常

15-2高斯分布

15-3算法

　　　假设各变量之间独立，所以有
　　　$$P(X) = P(X_1;\mu,\sigma_1^2)P(X_2;\mu,\sigma_2^2) \dots P(X_n;\mu,\sigma_n^2) = \prod_{j=1}^n{P(X_j;\mu_j,\sigma^2_j)}$$

　　　即使不独立用这个代码也可以算出较好的答案

步骤

　　　1.选择合适的特征$x_i$
　　　2.参数拟合$\mu,\sigma^2$
　　　3.给一个新的样本x，计算p(x)
　　　4.判断是否异常（小于阈值）
　　　

15-4开发和评估异常检测系统

　　　开发一个评估系统，决定是否纳入一个新的特征。
　　　1. 假设你有一些标签样本，标明哪个是异常哪个是正常
　　　2. 正常的训练集
　　　3. 交叉集和测试集
　　　假设你有10000个正常数据和20个异常数据，分配如下
　　　　　　

算法评估

　　　评估标准：
　　　　　　-真假阴阳性
　　　　　　-召回率和命中率
　　　　　　-F1-score
　　　还有p(x)的阈值epslion

15-5异常检测VS监督学习

$$
\begin{array}{l|l}
{异常检测}&{监督学习}\\
\hline
{非常少的正样本，常常是0-20个}&{很大数量的正样本和负样本}\\
{大量的负样本}\\
{如果有多种类的异常，很难从正样本看出是哪种异常}&{}\\
{很难预测出未在正样本中出现的异常}&{有足够的正样本去预测是何种异常和未知异常}\\
\end{array}
$$
　　　所以如果使用异常检测的时候需要用大量的负样本来保证算法能够学到足够多的知识
　　　从应用上
$$
\begin{array}{l|l}
{异常检测}&{监督学习}\\
\hline
{欺骗检测}&{邮件分类}\\
{工业生产}&{天气预测}\\
{数据监测机器}&{癌症分类}\\
\end{array}
$$
　　　如果异常样本较少，则使用异常检测，如果正负样本都很多，则用监督学习。