数据治理:白话打通对Atlas的理解

简介: 数据治理:白话打通对Atlas的理解

Atlas现在被企业使用的越来越多,我们可能听说过,但是具体它是什么,能干什么的,我们可能不清楚。


Atlas是什么?



Apache Atlas是Hadoop社区为解决Hadoop生态系统的元数据治理问题而产生的开源项目,它为Hadoop生态系统集群提供了包括数据分类、集中策略引擎、数据血缘、安全和生命周期管理在内的元数据治理核心能力。


上面我们或许听着比较懵圈,都是啥,元数据治理是啥?为啥要元数据治理?元数据不就是用来描述数据的数据,我们这么理解没有错的,不过这个是其中重要的一项。比如Hive的元数据,那是需要第三方数据库的,大多存储到mysql中。为啥又出来一个Atlas,它能管理Hive的元数据吗?别说,还真可以的。那为啥要用Atlas来管理。这就涉及到我们的第二个问题,Atlas能干什么?。


Atlas能干什么?



其实很多大数据组件都有元数据管理,比如:

Hive保存在外部数据库中,比如Mysql


Hadoop元数据保存在Namenode,元数据的存储格式:data/hadoopdata/目录下

name:元数据存储目录

namenode存储元数据的存储目录


Kakfa元数据一般保存在zookeeper中

等等以上,我们的元数据每个大数据组件都有保存的地方,为啥还需要Atlas


上面元数据是为了功能而生,都是单独的系统,散落在各个组件中,而我们能不能把这些元数据统一管理,而且数据的变化我们也能看到那就更好了。而且如果能把我们整个集群的大数据组件的元数据我们都能看到,那就更好了。看到这些有什么好处?比如我们想找到Hive有哪些表,想查看我们数据是怎么来的。这时候数据管理工具就产生了--Atlas,用来管理元数据的平台。


我们知道了Atlas是什么,能干什么,可能是比较通透了。可是还不够详细,那么接下来我们看看Atlas有哪些功能,有什么特点。这里直接借用《大数据治理与安全从理论到开源实践》书中内容。

b7fa0d3374518b7aa91ddafec40de1f6.jpg

fccb55cc99c5dbef2c3f2273d60776d9.jpg

1b5b43383051745703d773faba9e07f5.png

上面其实如果我们没有接触过大数据治理或则说没有涉及过大数据治理,还是比较懵的。对于元数据交换,这个没什么,就是一个数据的导出。数据的血统,这个就比较难以理解了。后面我们举例子。数据的可视化,相信大家应该也不陌生,快速数据建模,这个其实也不难理解,我们可以整体看到元数据,利于我们整体把握。丰富的API,这个属于它的功能了。


对于特性,我们这里不一一说了。这里介绍下比较难以理解的血统关系。我们这里以Hive为例


创建两张hive表,然后通过表的join创建一张新表:


- 创建一张hive表存储以数组形式存储tweet文本中的单词

CREATE TABLE words_array AS SELECT tweet_id AS id, split(text,' ') AS words FROM tweets;

- 创建一张hive表将文本中的数组切分成单独的单词


CREATE TABLE tweet_word AS SELECT id AS id, word FROM words_array LATERAL VIEW explode(words) w as word;

- 通过对上述表的Join操作创建新的表


CREATE TABLE word_join AS SELECT tweet_word.id, tweet_word.word, sentiment_dictionary.rating FROM tweet_word LEFT OUTER JOIN sentiment_dictionary ON (tweet_word.word=sentiment_dictionary.word);

在Atlas中,上述操作生成的word_join表的血缘关系图如下所示:


4034a1b5a6c82f00556a90daf0a2866e.jpg


我们明白了Atlas的一些功能和特性,下面我们来看看Atlas的架构,以便让我们有一个更形象的认识。


2eabd466ccc5c53ec40396fc7fa2ca3d.jpg

上面主要打通大家对Atlas的理解,如果大家想更系统的学习Atlas,推荐下面资料:


大数据平台-元数据管理系统解析

https://www.jianshu.com/p/9fe3ff2bbe99


大数据治理与安全从理论到开源实践

https://www.aboutyun.com/forum.php?mod=viewthread&tid=28225


元数据与数据治理|大数据治理 Apache atlas

https://www.songma.com/news/txtlist_i37131v.html

Hadoop的元数据治理--Apache Atlas

https://www.jianshu.com/p/4eee91bc926c


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
存储 SQL 弹性计算
圆桌讨论:如何构建一站式全链路解决方案
本文整理自天翼云首席研发专家候圣文,OceanBase社区布道师周跃跃,CloudCanal联合创始人万凯明,StarRocks解决方案架构师王天宜,在如何构建简单高效的现代化数据栈的分享。
圆桌讨论:如何构建一站式全链路解决方案
|
数据采集 监控 数据管理
《阿里云数据治理方案及案例分享》|学习笔记
快速学习《阿里云数据治理方案及案例分享》
1642 0
|
5天前
|
数据采集 存储 SQL
【开源项目推荐】OpenMetadata——基于开放元数据的一体化数据治理平台
【开源项目推荐】OpenMetadata——基于开放元数据的一体化数据治理平台
356 1
|
7月前
|
SQL 消息中间件 存储
从理论到实践,实时湖仓功能架构设计与落地实战
实时湖仓是「实时计算」和「数据湖」的一种结合应用场景,并不是具体指一个产品模块。本文主要介绍了平台通过相关功能的设计,让数据开发可以更简单更直观地了解 Flink Catalog、数据湖、流批一体等概念,并在实际业务场景中更方便地去落地实践。
134 0
|
7月前
|
存储 网络协议 调度
淘宝移动端统一网络库的架构演进和弱网优化技术实践
本文将介绍淘宝 APP 统一网络库演进的过程,讲述如何围绕体验持续构建南北向从监测到加速一体化的终端网络架构,通过构建 NPM 弱网诊断感知能力,落地原生多通道技术/多协议择优调度手段,贴合厂商附能网络请求加速,实现去 SPDY 及规模化 IPv6/H3 协议簇的平滑过渡,为用户提供弱网更好、好网更优的 APP 加载浏览体验,支撑业务创造更多的可能性。
257 0
|
消息中间件 SQL 存储
彻底打通实时数据仓库该如何实现及多种技术架构解析
彻底打通实时数据仓库该如何实现及多种技术架构解析
59887 0
彻底打通实时数据仓库该如何实现及多种技术架构解析
|
数据采集 自然语言处理 算法
谈谈大型集团如何构建全域一致性数据模型
数据建模包括概念模型、逻辑模型、物理模型。企业级数据模型设计通常有两种方法:自上而下和自下而上。
谈谈大型集团如何构建全域一致性数据模型
|
数据采集 自然语言处理 算法
谈谈大型集团构建全域一致性数据模型的方法
数据建模包括概念模型、逻辑模型、物理模型。企业级数据模型设计通常有两种方法:自上而下和自下而上。
谈谈大型集团构建全域一致性数据模型的方法
|
分布式计算 负载均衡 算法
企业集群平台架构设计与实现1vs篇1|学习笔记
快速学习企业集群平台架构设计与实现1vs篇1
165 0
企业集群平台架构设计与实现1vs篇1|学习笔记
|
存储 运维 DataWorks
淘系数据模型治理最佳实践
本次分享题目为淘系数据模型治理,主要介绍过去一年淘系数据治理工作的一些总结。
1578 0
http://www.vxiaotou.com