他来了！袋鼠云大数据基础平台EasyMR正式上线
7月28日，在袋鼠云2022产品发布会上，袋鼠云技术负责人思枢正式宣布旗下产品「大数据基础平台EasyMR」发布。
EasyMR是袋鼠云自研的大数据基础平台，提供Hadoop、Hive、Spark、Trino、HBase、Kafka等组件，完全兼容Apache开源生态；支持企业级安全管控，一键开启LDAP+Kerberos+Ranger认证权限体系；提供一站式运维管理平台，帮助企业快速构建大数据平台，降低运维成本。
结合袋鼠云在数字化领域多年的寸积铢累，此次全新发布的大数据基础平台EasyMR紧跟开源生态的先进技术，不仅可以帮助客户轻松应对海量数据的采集、存储、计算、分析挖掘和数据安全等应用场景，并且对于智能运维的部署、升级、扩缩容、监控等进行全方位支持，真正做到成为企业便捷、智能、高效的“数据底座”。
六大特性打造国产大数据基础平台
不同于十年前的新奇，现在大家已经完全习惯自己身处于“大数据时代”这件事情，所有人都能够深切地感受到大数据对于生活带来的各种改变和便利，数据爆发的时代推动着每个个人、企业、行业，甚至是国家往前走。
当前国际形势风云变幻，中美双边关系的割裂，国家对于信创国产化的大力支持，给国内的大数据行业带来巨大冲击的同时，也带来了全新机遇。
数据基础平台作为一切的基础和底座，自然成为国产替代的重中之重。只有真正拥有了自主可控的平台建设能力，才能逐步建立基于自己的 IT 底层架构和标准，形成自有开放生态。
EasyMR就是这样一款自主研发、完全可控的，致力于助力企业信息化智慧转型的“企业数据底座”。
下面通过描述EasyMR的主要特性，来具体说说，EasyMR是如何帮助企业实现智能的？
● 界面化集群运维
Hadoop集群、大数据平台在日常运维中涉及到的节点扩容缩容、组件停止启动、服务滚动重启、服务参数修改、版本升级与回滚等多种运维操作，通过逻辑化、流程化的产品界面展现，方便运维人员操作和监控，提高运维效率。
● 自动化部署
EasyMR通过规范化的步骤和参数约定制作出产品安装包，发布包中的Schema文件中配置了安装包中所有的服务，包含各服务的配置参数、健康检查参数，服务之间的依赖关系等。产品部署时可根据Schema中的相关配置实现一键全自动化部署。
● 仪表盘集群监控
通过集成开源的Promethus和Grafana，实现对集群、服务、节点的核心参数监控，并通过灵活形象的仪表盘进行数据展现。包含CPU占用率，RAM使用率、磁盘空间、IO读写速率等核心参数进行监控，实时掌握集群、服务、节点的运行状态，降低运维故障率。同时，支持用户自建仪表盘及监控项，实现自定义监控项。
● 实时告警
支持实时监控集群中各组件服务的运行指标，如CPU、内存、磁盘、读写IO等，并支持短信、钉钉、邮件告警通道配置，集成多种第三方消息插件。当集群服务出现异常时，可触发告警条件，系统将及时通知接收人。
● 强扩展性
通过自研的Easyagent Server抽象出七大REST接口，安装、启动、停止、更新、配置修改、卸载、执行等与上层应用进行交互，可使agent类别和功能可轻松无限扩展。
● 安全稳定
数据安全、产品安全是大数据产品需要重点考虑的问题。EasyMR在产品设计中过滤掉rm、drop等命令行，防止对数据库的误操作，通过更加安全的方式执行相关命令。同时提供服务的滚动重启、产品的断电重启，解决运维时服务不停止运行的场景并节省运维时间。
丰富的大数据组件夯实数据基座
EasyMR支持Hadoop2.8.5、Hadoop3.2.1大数据集群搭建，支持丰富的大数据组件，用户可以根据业务需要进行组件的选择。
那么，EasyMR具体支持那些大数据组件呢？
● Yarn
版本支持：
· Yarn 支持Hadoop 2.8.5、3.2.1
主要功能为Hadoop的资源调度器，负责管理整个Hadoop集群的资源（CPU和内存）管理和调度。
● Hdfs
版本支持：
· Hdfs 支持Hadoop 2.8.5、3.2.1
Hdfs即Hadoop 分布式文件系统，是Hadoop的三大基础组件之一，主要是处理大数据场景下数据的增、删、改、查、文件切片等功能。
● Flink
版本支持：
· Flink 1.12
面向数据流处理和批量数据处理的可分布式的开源计算框架。
● Spark
版本支持：
· Spark 2.4.8
基于内存的新一代分布式开源大数据框架，支持离线，实时计算，也支持 SQL 语法以及机器学习的处理。
EasyMR对开源组件的SQL的DDL能力进行了增强，支持Add Column语法。
● Hive
版本支持：
· Hive 2.3.8
· Hive 3.1.2
基于Hadoop的一套离线数据处理系统，在HDFS之上提供了结构化的表数据的管理能力，提供类 SQL 的查询语法进行数据分析处理。
● Trino
版本支持：
· Trino 0.359
分布式SQL查询引擎， 用来专门进行高速、实时的数据分析。
EasyMR对Trino的Connector进行了增强，支持Connector的动态加载；对社区的Connector进行了扩展，支持星环Inceptor插件。
● Hbase
版本支持：
· Hbase 1.3.5
· Hbase 2.3.4
一款高可靠性、高性能、面向列、可伸缩、实时读写的分布式数据库。
● Zookeeper
版本支持：
· Zookeeper 3.6.2
分布式应用程序协调服务，分布式应用程序可基于它实现同步服务，配置维护和命名服务等，为分布式集群提供一种可靠、可扩展、分布式、可配置的协调机制来统一系统的状态。
一起进行一次安装部署吧
其中，简洁、易上手也是EasyMR的一大优势。EasyMR既希望帮助企业实现多源数据的高效集成，全量数据的高效分析，同时也希望能够降低平台的使用门槛，不会让上手难度成为影响企业数字化转型进程的一道壁垒。
所以，和我们一起进行一次大数据产品的安装部署吧！
创建集群
EasyMR支持多集群的统一管理。
基于物理机/虚拟机进行主机集群创建。
「添加主机」，通过账号接入、命令行接入的方式进行主机节点的添加
上传组件安装包
选择平台已有的组件安装包进行安装部署，或者通过本地上传、网络上传的方式上传自己的组件安装包。
一键快速自动化部署
EasyMR支持单个产品包的手动部署和多个产品包的自动部署两种部署方式。
自动部署通过上传产品线定义组件部署流程，平台解析筛选相关组件，根据定义的主机角色实现自动资源自动编排，平台根据依赖关系完成组件的顺序部署，大大节省了运维逐个部署、资源配置的时间。
产品安装过程中，我们可以实时看到服务部署进度、查看部署日志，服务部署情况一目了然。
7*24小时实时监控告警
EasyMR通过集成开源的promethus和grafana，实现对集群、服务、节点的核心参数监控，并通过灵活形象的仪表盘进行数据展现。包含CPU占用率，RAM使用率、磁盘空间、I/O读写速率等核心参数进行监控，实时掌握集群、服务、节点的运行状态，降低运维故障率。同时，支持用户自建仪表盘及监控项，实现自定义监控项。
设置告警规则
平台提供 “短信通道、邮件通道、钉钉通道、企业微信通道、自定义通道” 5种通道配置，用户根据需要选择合适通道并填写通道配置信息、消息模板、地址等完成通道配置。
写在最后
没错，EasyMR就是这样一款好用、易用、高效的大数据基础工具，覆盖企业服务监控运维、组件的升级与回滚、离线数据分析、流式数据处理等多种应用场景。
未来EasyMR将坚持自主创新，不断进化，将积累的大数据实践经验复制到更多的企业。
袋鼠云开源框架钉钉技术交流qun（30537511），欢迎对大数据开源项目有兴趣的同学加入交流最新技术信息，开源项目库地址：https://github.com/DTStack/Taier
