TECH
火山引擎 DataLeap 计算治理自动化解决方案实践和思考
本文旨在探讨火山引擎 DataLeap 在处理计算治理过程中所面临的问题及其解决方案,并展示这些解决方案带来的实际收益。
来源: https://mp.weixin.qq.com/s/Bf_hiTpBrxVBniRQS0N9rQ
修订记录
| 版本 | 时间 | 说明 |
|---|---|---|
| v1 | 2023-11-20 | 初稿 |
原文总结
- 本文旨在探讨火山引擎 DataLeap 在处理计算治理过程中所面临的问题及其解决方案,并展示这些解决方案带来的实际收益。
我的感想
火山引擎的计算治理,是DataLeap团队来做的,因为这个跟调度还是强相关,需要整体来看,它围绕着明确的目标,有明确的指标,也有着比较可观的产出。数据源的话,主要有Yarn container、Spark event 和 Dtop status 等数据。这一块跟我做得元数据湖仓的初衷是一样的,所以值得参考
落地实践
- 结合当前场景补充可执行动作。
- 明确前置条件与风险边界。
评论