Chinaunix首页 | 论坛 | 博客
  • 博客访问: 1022369
  • 博文数量: 197
  • 博客积分: 4141
  • 博客等级: 中将
  • 技术积分: 2263
  • 用 户 组: 普通用户
  • 注册时间: 2009-03-21 20:04
文章存档

2019年(32)

2016年(1)

2014年(16)

2011年(8)

2010年(25)

2009年(115)

分类: 系统运维

2019-04-21 16:39:08



  1. B. 智能运维 --- 质量保障 --- 异常检测 --- 指标异常检测
  2.     概述
  3.         核心思想
  4.             核心指标:高准召率,基于标注训练或者人工精细化调参
  5.             非核心指标:低成本接入,中准召率,无标注训练,冷启动,基于反馈自动调整 
  6.         阈值设置手段
  7.             人工设置
  8.                 维护成本高
  9.                 需要有丰富经验的人
  10.                 在业务快速发展的情况下,容易产生漏报、误报
  11.             自动设置
  12.                 基于规则的监控项自发现
  13.                 阈值参数:设置基于预测基准值的系数决定阈值上下限区间、分时段阈值预测系数、分alarm灵敏度阈值预测系数;
  14.                 预测参数:样本数量、异常样本过滤的高斯函数水位或者过滤比例、基于均值漂移模型的样本分段选取置信度等。
  15.         数据预处理
  16.             指标聚合
  17.                 关键点
  18.                     不能够完全不聚合
  19.                     不能够完全聚合
  20.                 指标聚合平台,支持离线的,也支持实时的
  21.                     flink、spark做预处理
  22.                     druid做数据聚合
  23.     算法概述
  24.         时序预测、异常检测
  25.             固定阈值
  26.             动态阈值计算
  27.                 线性预测
  28.                     一次、二次平滑指数
  29.                     y(t + 1)  = y(t)
  30.                     简单均值法/移动均值法
  31.                     简单指数平滑法
  32.                     霍尔特线性趋势法
  33.                 非线性预测
  34.                     三次平滑指数
  35.                     回归预测
  36.                     神经网络
  37.                     LSTM
  38.                     Holt-Winters方法
  39.                     自回归积分移动平均:ARIMA
  40.                 多趋势相结合
  41.             其他
  42.                 均值漂移算法
  43.                 变点检测
  44.                     类型
  45.                         单点变点
  46.                         多点变点
  47.                     算法
  48.                         wavelet analysis:小波分析
  49.                         cosine transforms:余弦变换
  50.                         CUMSUM
  51.                         Singular Spectrum Transform奇异谱变换
  52.     解决方案1 --- 百度
  53.         场景分类
  54.             指标特性
  55.                 场景一:数据无规律波动,但正常基本在一个较小的波动范围内
  56.                 场景二:数据的长期波动幅度较大,但正常情况下短期的波动幅度较小
  57.                 场景三:数据有规律地周期性波动
  58.                 变点检测
  59.         算法选择:算法选择决策树&参数自动配置算法
  60.             场景
  61.                 周期性数据选择配置同比算法,非周期数据会通过波动范围来界定
  62.                 当数据的全局波动(长期波动)远大于局部波动(短时波动)的时候,我们倾向于选择突升突降
  63.                 当全局波动近似等于局部波动的时候,恒定阈值算法就会更合适
  64.             解决方案
  65.                 我们提出了一种基于差分的数据周期特征判断方法
  66.                 数据方差可以直接表达全局波动范围。对数据施加小尺度的小波变换可以得到局部波动,局部波动的方差反应了局部波动的大小。
  67.             调参
  68.                 恒定阈值的自动参数配置
  69.                 突升突降算法
  70.                 同比算法也一样
  71.     解决方案2 --- 阿里
  72.         静态阈值设置
  73.             给指标M1设置一个水位线,低于(或高于)水位,触发Alarm;
  74.             给指标M1设置同比、环比波动幅度,比如同比波动20%、环比波动10%触发Alarm;
  75.         动态阈值设置
  76.             样本选取
  77.             异常样本筛除
  78.             样本截取
  79.             预测基准值
  80.     首届AIOps挑战赛——冠军LogicMonitor-AI团队方案分享
  81.         需求分析
  82.             有标注
  83.             禁用手工干预
  84.             禁用未来信息
  85.             时效性
  86.         设计原则
  87.             监督学习
  88.             自动化
  89.             流处理
  90.             普适性
  91.         具体思路
  92.             数据采样 --- 正常样本和异常样本悬殊太大,需要预处理
  93.                 对正常样本进行欠采样以达到正负样本1:1,实验发现这种方案因为丢失了大量的样本信息,模型会出现比较严重的过拟合,泛化性能不佳
  94.                 欠采样加集成学习。这种方式虽然效果有所提升,但由于每个基分类器的正确率很低,集成后的效果也不是很理想
  95.                 异常样本过采样以达到正负样本1:1,最后通过阈值进行决策调整。实测下来,这种方式的结果比较理想,成为了我们的最终方案。
  96.             特征提取
  97.                 方法
  98.                     第一类,通过滑动窗口,提取该窗口类数据的统计特征
  99.                     第二类,通过序列前后值的对比,得到对比特征
  100.                     第三类,结合滑动窗口和对比,得到比统计特征
  101.                 算法
  102.                     第一个是IsolationForest,这是一种常用的异常检测模型,但由于它对局部异常不敏感,在这个问题上表现欠佳
  103.                     第二个是随机森林,作为一种集成模型,总体表现很稳定,泛化能力也不错,实测结果略低于DNN
  104.                     最终的选择方案是深度学习模型,主要考虑到模型有足够的表达能力,能适应大数据,泛化能力强。实测下来,表现也是非常的好。
  105.     指标模式漂移后的准确异常检测
  106.         项目背景
  107.             概念偏移被运维工程师分成符合预期的与不符合预期的,符合预期的是由运维工程师主动操作或者业务实际增长导致的 KPI 剧变,而不符合预期意味着异常的突变,比如软件变更后导致服务性能受损甚至中断,需要快速回滚到之前的版本。
  108.         复杂度分析
  109.             频繁出现的符合预期的概念偏移:大型 web 服务每天都会有上千次的软件升级和配置变更,使得 KPI 中会出现很多符合预期的概念偏移。
  110.             海量的 KPI 数据:有数十个业务部署在上万的服务器上。每个服务器上都有多种关键指标。
  111.             不同类型的异常检测器:针对不同的 KPI 曲线,实际会用到不同种类的异常检测器甚至是几种检测器的组合。
  112.             需要快速适应:发生预期之中的概念偏移,运维人员会收到大量的误报和错报。
  113.         设计思想
  114.             概念偏移的检测:StepWise 系统要位于异常检测系统之前,KPI 数据流输入后首先检测是否有概念偏移。iSST-EVT
  115.             区分概念偏移是否符合预期:如果有概念偏移,我们需要区分其是否符合预期,不符合预期的概念偏移运维工程师要快速处理该异常,符合预期的进行下一步。DiD
  116.             迅速适应符合预期的概念偏移:就是要使得概念偏移后新的数据分布也能快速适配原来精心设计的异常检测算法和参数,输出的数据进行异常检测。RLM
  117.     基于主动学习的异常检测
  118.         复杂度分析
  119.             标注异常是一种暴力的融入领域知识的方法,通过标注出来的异常和正常,将异常检测问题转换成分类问题。但是标注数据是一直个很棘手的问题,
  120.                 1)需要有业务背景的专业人员;
  121.                 2)时间成本高;
  122.                 3)需要标注的数据量太大
  123.         核心思想
  124.             为了节约排查时间,在这篇论文中,运维人员会把自己的领域知识融入到异常检测中,针对初始的异常分数排名,给出排名靠前的样本的反馈之后,模型会根据这个反馈来重新调整参数,从而输出新的异常分数排名,目的是使运维人员感兴趣的异常排在靠前的位置,从而节约排查异常所需的时间。
  125.         具体实现
  126.             在线凸优化
  127.             损失函数
  128.                 线性损失(linear loss)
  129.                 对数似然损失(log-likelihood loss)
  130.                 逻辑斯蒂损失(logistic loss)
  131.             镜像下降学习算法

阅读(1110) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~