TECH

大数据已死

Jordan Tigani 目前担任 MotherDuck 的 CEO 和联合创始人,曾任 SingleStore 的首席产品官。他不仅是产品领导者和工程领导者,还是 Google BigQuery 的创始工程师之一。

topic: data-management type: 笔记 origin: 笔记 score: 8 addedAt: 2025-03-17

来源: https://mp.weixin.qq.com/s/gk3BOirM6uCTQ1HFTQz3ew


修订记录

版本时间说明
v12025-03-17初稿

原文总结

  • Jordan Tigani 目前担任 MotherDuck 的 CEO 和联合创始人,曾任 SingleStore 的首席产品官。他不仅是产品领导者和工程领导者,还是 Google BigQuery 的创始工程师之一。

我的感想

Google BigQuery 的创始工程师,统计出来以下几个观点:

  1. 大多数公司并没有那么多的数据;
  2. 存算分离灵活扩展,数据存储需求可能会线性增长,但计算需求通常不会随之大幅增加。
  3. 查询工作负载往往远小于整体数据大小。
  4. 单机处理能力提升;
  5. 数据保留有较大的成本与风险;
  6. 大部分99%的用户,可以考虑新一代的工具,比如duckdb等。
  7. 大数据的两个定义: “大数据”的一个定义是“无法放入单个计算机的任何内容”。 “大数据”的另一个定义是:“保留数据的成本低于弄清楚该丢弃什么的成本。”我喜欢这个定义,因为它概括了人们最终拥有大数据的原因。并不是因为他们需要它;他们只是懒得删除它。

落地实践

  1. 结合当前场景补充可执行动作。
  2. 明确前置条件与风险边界。

评论