TECH

火山引擎 DataLeap 计算治理自动化解决方案实践和思考

本文旨在探讨火山引擎 DataLeap 在处理计算治理过程中所面临的问题及其解决方案,并展示这些解决方案带来的实际收益。

topic: data-management type: 笔记 origin: 笔记 score: 8 addedAt: 2023-11-20

来源: https://mp.weixin.qq.com/s/Bf_hiTpBrxVBniRQS0N9rQ


修订记录

版本时间说明
v12023-11-20初稿

原文总结

  • 本文旨在探讨火山引擎 DataLeap 在处理计算治理过程中所面临的问题及其解决方案,并展示这些解决方案带来的实际收益。

我的感想

火山引擎的计算治理,是DataLeap团队来做的,因为这个跟调度还是强相关,需要整体来看,它围绕着明确的目标,有明确的指标,也有着比较可观的产出。数据源的话,主要有Yarn container、Spark event 和 Dtop status 等数据。这一块跟我做得元数据湖仓的初衷是一样的,所以值得参考

落地实践

  1. 结合当前场景补充可执行动作。
  2. 明确前置条件与风险边界。

评论