云智慧 AIOps 社区是由云智慧发起,针对运维业务场景,提供算法、算力、数据集整体的服务体系及智能运维业务场景的解决方案交流社区。该社区致力于传播 AIOps 技术,旨在与各行业客户、用户、研究者和开发者们共同解决智能运维行业技术难题,推动 AIOps 技术在企业中落地,建设健康共赢的AIOps 开发者生态。

引言

随着数字化时代的到来,各个行业的应用系统从传统私有化部署逐渐转向公有云、行业云、微服务,这种变迁给运维部门和应用部门均带来了较大的挑战。基于当前企业 IT 运维均为多部门负责,且使用多种运维工具,因此,当业务出现问题时很难快速定位故障根源。而随着业务上云,云平台运维和应用运维的责任归属不同,业务方(租户)只负责云平台之上运维,若是要对业务体验全链路负责,就会导致有责任没手段。同时,容器微服务架构应用后的业务之间的访问关系更加复杂,也会产生应用出现故障后分析困难等问题。基于以上的背景,企业数字化时代应用的健康诊断变得至关重要。

问题及挑战

如下图,当代码量的增长达到100倍,故障被企业 IT 部门察觉前已由用户申报达到80%时,作为企业会非常被动。用户对服务超时非常敏感,当5秒打不开应用时便会直接选择放弃。同时,用户对故障解决时效要求也比较高,75%的用户希望在5分钟内解决业务故障,而业务系统需要超过24小时才能解决的故障占比在25%左右。

应用是一个端到端的多技术栈复杂整合环境,用户端包括移动端、浏览器、小程序,网络层包括路由器、防火墙和负载均衡等,后台支撑应用包括中间件、数据库、主机、MQ等。所以如何去高效精细化的实现整个应用端到端的全链路性能问题洞察和诊断、快速找到故障的边界、以及特别是VIP用户出现性能问题如何快速追踪。这些应用的复杂度是企业运维部门和业务部门都需要考虑的问题。

传统的监控工具早已无法满足当前企业面临的问题。因为一个应用会涉及到数据库、第三方的API 调用、应用服务器、中间件、Web、网络层等多个链路,因此,当系统慢是无法快速定位就是是拿个环节、组件以及指标导致。日常企业去判断上述问题时,会需要网络团队、开发团队、数据库团队、基础设施团队等多方协助排查,且排查效率较低。

解决方案与功能场景介绍

基于以上问题与挑战,云智慧提供了全新一代架构的应用性能管理解决方案。以提升数字化用户体验,帮助企业实现数字化转型赋能为目标,提供了web用户、移动用户、主动拨测、压力测试前端侧性能监控,同时贯穿网络层到后端各个组件的全栈一体化性能监控方案,包含Web服务器支持IIS、Nginx等。此外,应用后端支持市面上主流的开发语言以及微服务容器架构,基于Smart Agent的探针技术,部署在容器宿主机上就可以自动发现容器内部应用拓扑关联关系,实现整体的业务关联快速分析和根因快速诊断。

产品技术架构

下图为产品整体的技术架构,主要是分三层:

  • 数据采集层:APM产品支持市面上比较主流的开发语言,如Java、PHP、Python等。APP端支持 android 和 iOS 等各种版本。依赖主动拨测,基于全球IDC实现Monitor数据监测。
  • 数据存储层:采集到的数据统一放到产品的数据存储层进行数据存储。云智慧产品基于列式存储的技术,在各行业项目上经过大量数据实践,可以实现秒级查询和展示。
  • 数据分析与展示层:该层主要提供了具体产品的相关功能。包括拓扑展示,请求分析、用户追踪,代码堆栈详情分析,网页性能分析,页面响应时间分析、可用率分析等相关功能。

整个平台提供告警通知功能及标准API接口,方便用户其他业务系统调用数据进行应用。接下来,我们主要围绕APM和拨测两款产品的应用场景进行整体阐述。

监控宝:7*24小时主动IT性能监控

云智慧拨测产品监控宝提供7*24小时主动IT性能监控;产品在全球范围内大概有 300 家的 IDC 节点,提供 800 家的服务器,IDC数量决定了数据反馈的全面性,可以有效保障业务在全球的用户体验;国内节点覆盖30多个省份和100多个城市和地区,更能精准的定位问题所在区域。此外,也较为全面的覆盖了多个运营商,包括移动、联通、电信、教育四大运营商。以上三个维度,可以看出云智慧监控宝产品可以为各行业企业提供业务保驾护航的能力。

监控宝平台支持的协议包括http/https、ping、DNS、ftp、traceroute等,支持协议类型种类丰富,满足企业多方面使用需求。功能包括网页性能诊断、CDN评估效果、网络质量探测、网站访问速度、接口服务可用率等。同时,整个产品支持多页面脚本录制,方便企业在大型网站上提供多页面监控能力,以及能够快速发现深层次的页面性能问题。

透视宝:端到端全链路应用性能诊断

云智慧APM透视宝产品提供端到端全链路的应用性能诊断。用户体验端包括APP、浏览器、小程序的全栈性能分析和性能探测。后端支持应用拓扑的发现和代码质量的追踪,真正做到端到端一体化,实时掌握前端、透视后端,实现全业务链环节问题监控与分析。

下图为透视宝产品的技术实现原理, APP 端通过嵌入 SDK 实现用户行为和 APP 崩溃卡顿数据的抓取;浏览器通过页面嵌入 JS 方式实现页面详情的分析;主机操作系统通过部署 agent 实现 cpu、内存、网络、io等指标监测;应用后端根据不同开发语言部署不同的探针,在中间件启动脚本里注入参数,重启应用后就可以实现数据的采集,小程序通过mini agent抓取相关数据。

应用场景介绍

  • 业务服务持续监测与告警

业务服务的持续监测和告警在一些互联网企业当中经常会遇见。比如北京区域网站访问是健康的,但其他区域网站访问异常时,也会收到的其他区域用户投诉。针对上述问题,由于目前各行业网站页面加载时序元素复杂,外加整个页面会有一些动画图片效果的呈现,所以需要能够实时探测网站在中国区域到地市级别和区级别的监控的主动拨测产品。监控宝可监测不同运营商链路访问网站速度、404相关错误,以及可通过IDC节点主动收集数据,帮助企业及时分析并主动探测业务问题。该场景主要应用于互联网企业,电商企业,还有企业官网、在线教育等行业。

  • 内外网及网络专线质量监测与告警

企业内外网业务服务于全国。运营商网络不稳定的用户投诉,分公司专线或 VPN 经常出现的各种问题,均会导致业务运营受到较大影响。 外网网络质量监测依托于云智慧在全球 IDC 节点提供主动的 ping、MTR、traceroute网络探测,60秒的探测频率可以让问题被及时发现。针对内网专线的监测,云智慧提供魔盒产品。类似机顶盒的小盒子,使用寿命长、无风扇设计、节能环保,直接部署在分公司数据中心机房中即可使用。该场景主要应用于医疗行业、电商、金融、政府军工等集团企业。

  • 网页用户体验分析与持续优化

随着网站内容更加复杂化,大量元素加载耗时变长,首屏响应时间变得更加重要。如:当用户点击二级页面时会出现404错误或响应慢等现象,企业虽然做了 CDN 加速,在此情况下也很难确定加速的质量的好坏。然而在互联网时代下,用户对网页的加载速度提出更高要求,出现网页响应过慢或无法访问则会导致用户失去耐心而流失,以此便会给企业业务收入以及品牌均会带来损失。基于上述问题,监控宝产品提供了多页面脚本录制功能,可以模拟人点击操作所有页面各个环节的性能诊断,及时发现元素性能问题。此外,基于企业同时使用多家 CDN 厂商导致具体加速质量难以判断的现象,监控宝也提供了 CDN 整体性能评估功能,方便用户做 CDN 厂商性能体验对比。该场景主要应用在网站有丰富的大型logo/图片/轮播要展示的企业,如汽车类、广告展示类以及大量使用 CDN 服务商的企业。

  • 业务流程监测与优化

业务流程监测与优化主要解决业务调用第三方 API 接口性能问题。由于业务流程现状复杂性,完整的互联网或内部业务访问需要经历多重用户认证,以及多个内部环节处理才能最终完成。任何一个环节出现问题都可能导致业务不能正常进行,以及用户体验不佳、满意度下降,甚至出现用户流失。所以需要监控宝帮助企业从业务视角准确感知整体业务的性能和质量状况。该场景主要应用在使用第三方 API 服务的互联网企业、关注用户业务访问过程及体验的企业。

  • 应用拓扑自动发现与监控

全自动发现应用所有技术栈及其关联关系可以帮助企业从宏观视角把握一个应用及其关联应用的整体状态以及请求数、响应时间、错误等变化趋势,以此快速定位各层级问题。

随着企业应用上云和容器微服务化,应用之间调用关系愈来愈复杂。全局拓扑自动发现与监控是通过将复杂的请求调用关系拓扑图化来帮助运维人员和业务开发人员快速定位性能问题。产品可以直观的通过颜色变化分辨出是缓慢问题还是错误问题。同时拓扑上能发现各个组件的调用情况以及自身应用访问的组件,数据库、MQ、Nosql 和 API 接口情况。此外,通过拓扑可以直观的判断是自身应用问题还是其他应用性能导致的间接问题。此外,产品提供类似时光机的回溯功能,选择一定时间范围可以统计请求次数,缓慢次数、非常缓慢次数和错误次数。

  • 应用性能问题及故障快速诊断

随着云计算、大数据、容器、微服务等技术在企业的广泛采用,企业业务系统数量不断增加,运行环境也愈加复杂,需要不断根据市场环境和客户需求的变化进行快速响应和迭代,不断推出新的业务,减少业务故障风险,推动业务营收的增加;

第二个场景是应用性能问题及故障快速诊断,使用人员通过拓扑发现问题后需要第一时间定位问题,产品提供简单直观的操作界面,在拓扑图上点击应用实例就可以快速跳转到详细问题分析界面,比如上面截图的内容,可以看到后台代码堆栈追踪,慢SQL语句、外部接口详情、自身耗时、请求参数等详细分析问题的指标,性能问题一目了解,问题定位运筹帷幄。

  • 端到端全链路性能问题追踪

目前企业业务都是通过APP、小程序或浏览器访问,因此在使用 APM 产品排查分析前端各种崩溃、卡顿、网络等问题后还是不能解决业务慢的问题。然而此时更多的是支撑业务后端的应用产生了性能故障,企业该如何去快速判断,精准的定位呢?云智慧产品提供了前端页面一键跳转后端的串联功能。如下方图片所示,当业务在登陆时已经能看到体验非常差,此时,在点击请求性能分析界面的查看按钮,便可以直接跳转到后端代码分析详情页面。该操作的前提条件是监测应用已经注入探针,不然是无法实现的。该场景可以有效的把前端和后端打通,串联追踪。

案例分享

某银行部署了 APM 整套产品,实现了应用后端整体性能监控,探针数量115个、接入应用数量225个、日均业务请求量1500tps、日均应用请求的落盘数据量150G左右。截止到现在平台稳定7*24小时运行、探针对业务系统资源占用率控制在3%以内。在大量请求并发的情况下,云智慧基于列式存储的技术架构,也能实现页面妙级查询和妙级响应。

写在最后

近年来,在AIOps领域快速发展的背景下,IT工具、平台能力、解决方案、AI场景及可用数据集的迫切需求在各行业迸发。基于此,云智慧在2021年8月发布了AIOps社区, 旨在树起一面开源旗帜,为各行业客户、用户、研究者和开发者们构建活跃的用户及开发者社区,共同贡献及解决行业难题、促进该领域技术发展。

社区先后 开源 了数据可视化编排平台-FlyFish、运维管理平台 OMP 、云服务管理平台-摩尔平台、 Hours 算法等产品。

可视化编排平台-FlyFish:

项目介绍:https://www.cloudwise.ai/flyFish.html

Github地址: https://github.com/CloudWise-OpenSource/FlyFish

Gitee地址: https://gitee.com/CloudWise/fly-fish

行业案例:https://www.bilibili.com/video/BV1z44y1n77Y/

部分大屏案例:

Logo

华为开发者空间,是为全球开发者打造的专属开发空间,汇聚了华为优质开发资源及工具,致力于让每一位开发者拥有一台云主机,基于华为根生态开发、创新。

更多推荐