网易首页 > 网易号 > 正文 申请入驻

数据治理中的数据血缘关系是什么?用来解决什么问题

0
分享至

前言:

数据血缘属于数据治理中的一个概念,是在数据溯源的过程中找到相关数据之间的联系,它是一个逻辑概念。

数据治理里经常提到的一个词就是血缘分析,血缘分析是保证数据融合的一个手段,通过血缘分析实现数据融合处理的可追溯。大数据数据血缘是指数据产生的链路,直白点说,就是我们这个数据是怎么来的,经过了哪些过程和阶段。

数据血缘关系的应用场景是什么:

在数据的处理过程中,从数据源头到最终的数据生成,每个环节都可能会导致我们出现数据质量的问题。比如我们数据源本身数据质量不高,在后续的处理环节中如果没有进行数据质量的检测和处理,那么这个数据信息最终流转到我们的目标表,它的数据质量也是不高的。也有可能在某个环节的数据处理中,我们对数据进行了一些不恰当的处理,导致后续环节的数据质量变得糟糕。因此,对于数据的血缘关系,我们要确保每个环节都要注意数据质量的检测和处理,那么我们后续数据才会有优良的基因,即有很高的数据质量

举例说明:

现在假设你是一只数据开发工程师,为了满足一次业务需求,,然后为了生成这张表,可能是处于程序逻辑清晰或者性能优化的考虑,你会使用很多份数据表,也会通过 MR、Spark 或者 Hive 来生产很多中间表。

如下图,是你将花费时间来实现的整个数据流。

  • 其中 Table X 是最终给到业务侧的表。
  • 蓝色的 Table A-E,是原始数据。
  • 黄色的 Table F-I 是你计算出来的中间表。这些表都是你自己写程序要处理的表。
  • 然后你为了懒省事,嗯,应该说本着不重复开发的原则,你还要用到同事小伙伴处理的表,Table J 就是别人处理过的结果表。

过了一段时间后,业务侧的感觉你提供的数据中有个字段总是不太对劲,其实就是怀疑你的数据出问题!需要你来追踪一下这个字段的来源。

首先你从 Table X 中找到了异常的字段,然后定位到了它来源于 Table I,再从 Table I 定位到了它来源于 Table G, 再从 Table G 追溯到了 Table D,最终发现是某几天的来源数据有异常。

或者说,你从 Table X 定位到了异常的字段原来来自于其它小伙伴处理的表 Table J,然后继续向前回溯,找到了这张表在处理过程中的某一个步出现了问题。

我们如何将数据血缘关系进行可视化呢:

在NBI大数据可视化平台中我们可以通过桑基图方式来对数据关系链路来分析:

在NBI大数据可视化平台中只需通过拖拽组件和字段即可快速生成桑基图

(1)从组件库中拖入桑基图组件到编辑器中:

(2)组件右键,设置数据数据和样式,即可完成数据的呈现:

标签: 工具软件, 大数据, NBI大数据, BI, 可视化分析, 敏捷BI, 数据治理, 数据中台, 数据血缘管理, 数据仓库

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
他出身黑道,曾是高官的司机和白手套,迎娶小燕子,后花十年洗白

他出身黑道,曾是高官的司机和白手套,迎娶小燕子,后花十年洗白

阿胡
2024-04-29 11:49:43
"华为Pura 70系列采用90%本土零部件"消息系误报 日本Fomalhaut否认曾拆解分析

"华为Pura 70系列采用90%本土零部件"消息系误报 日本Fomalhaut否认曾拆解分析

cnBeta.COM
2024-05-02 23:33:06
奥特曼本人确认:神秘gpt2不是GPT-4.5!

奥特曼本人确认:神秘gpt2不是GPT-4.5!

新智元
2024-05-03 12:48:50
一个国家被踢出SWIFT系统的后果非常的严重!

一个国家被踢出SWIFT系统的后果非常的严重!

华夏司马北
2024-04-24 22:01:49
为何全世界都容不下犹太人?黑格尔一语道破:犹太信仰与世界对立

为何全世界都容不下犹太人?黑格尔一语道破:犹太信仰与世界对立

南风西洲
2024-04-29 22:04:54
承认分手!出轨偷吃,脚踏两条船?

承认分手!出轨偷吃,脚踏两条船?

听风听你
2024-04-26 13:09:43
快船与独行侠同时更新明日G6伤病名单:伦纳德伤停;哈达威缺阵。

快船与独行侠同时更新明日G6伤病名单:伦纳德伤停;哈达威缺阵。

祝晓塬
2024-05-03 19:22:56
有一种爱叫做放手、结束西藏行的俞敏洪终顿悟、让董宇辉自主创业

有一种爱叫做放手、结束西藏行的俞敏洪终顿悟、让董宇辉自主创业

农村阿祖
2024-05-02 22:54:33
旅游团的噩梦!目的地刚到,游客全没了!只留导游懵逼中!

旅游团的噩梦!目的地刚到,游客全没了!只留导游懵逼中!

创意星球球
2024-05-03 10:04:14
厦门集美官方回应“马戏团演员演出高坠事件”:4月份的事,正在调查中

厦门集美官方回应“马戏团演员演出高坠事件”:4月份的事,正在调查中

封面新闻
2024-05-03 21:14:11
美国已不在乎华为麒麟芯片了?认为它对自己造不成威胁,也不先进

美国已不在乎华为麒麟芯片了?认为它对自己造不成威胁,也不先进

搞笑的阿票
2024-05-04 01:45:58
四川绵阳,一男子居然在后院墙边,发现一条墨绿的怪蛇

四川绵阳,一男子居然在后院墙边,发现一条墨绿的怪蛇

校长侃财
2024-05-02 15:01:05
小羽官宣与王思聪分手 晒出聊天记录 王思聪:宝宝 以后好好照顾自己

小羽官宣与王思聪分手 晒出聊天记录 王思聪:宝宝 以后好好照顾自己

娱乐的小灶
2024-05-04 00:26:08
郭晋安离婚!我看到网友最真实的评论!

郭晋安离婚!我看到网友最真实的评论!

娱乐的小灶
2024-05-03 12:15:30
重庆21岁男子跳江后续:同事爆料,女友私照曝光,评论区彻底失控

重庆21岁男子跳江后续:同事爆料,女友私照曝光,评论区彻底失控

古希腊掌管松饼的神
2024-05-02 11:00:45
太震撼!老百姓不关注神州十八号发射,不是不爱国,而是生活太难

太震撼!老百姓不关注神州十八号发射,不是不爱国,而是生活太难

菜姐姐要努力
2024-05-01 17:00:07
女神的泳衣,性感又迷人

女神的泳衣,性感又迷人

阿芒娱乐说
2024-05-03 08:14:28
刘涛来西安了!这状态很好,没有一点皱纹,45岁了看起来像30岁!

刘涛来西安了!这状态很好,没有一点皱纹,45岁了看起来像30岁!

白宸侃片
2024-05-02 00:43:36
卢麒元:中国经济低迷是因为,中国富豪将21万亿转移到欧美

卢麒元:中国经济低迷是因为,中国富豪将21万亿转移到欧美

泸沽湖
2024-05-03 13:47:27
中法高层对话前,马克龙释放强硬信号,要中方在两个领域配合欧洲

中法高层对话前,马克龙释放强硬信号,要中方在两个领域配合欧洲

说天说地说实事
2024-05-03 17:20:23
2024-05-04 03:22:44
NBI大数据可视化分析
NBI大数据可视化分析
分析大数据知识、技术、产品
53文章数 503关注度
往期回顾 全部

科技要闻

人类首次!去月背取样,中国人再进一步

头条要闻

四川一县委原书记贪污腐败被判11年:他觉得组织查不到

头条要闻

四川一县委原书记贪污腐败被判11年:他觉得组织查不到

体育要闻

佩林卡:感谢&认可哈姆的努力与成就 这是艰难决定也是最好的选择

娱乐要闻

黄子韬被曝求婚徐艺洋 大量亲密照曝光

财经要闻

远超想象?"股神"巴菲特的AI投资布局

汽车要闻

北京车展上的概念车,AI如何点评?小米SUV发布?

态度原创

教育
时尚
游戏
本地
军事航空

教育要闻

国际班大热!这个五一,3000人齐聚金中河西!

她是10亿富养出的最美星二代,18岁后落魄成这样?

《剑星》反和谐请愿破7万 即将满足人数目标

本地新闻

食味印象 | 潍坊:碳水脑袋的人间乐园

军事要闻

俄"硬核军事展览"开幕 现场"人山人海"

无障碍浏览 进入关怀版