pg_mooncake
14 篇-
将 pg_mooncake 与 duckdb_mooncake 迁移至 DuckDB 2.0、pg_duckdb 1.2.0 与 pgrx 0.19.3
当 Mooncake Labs 在发布 v0.2.0 后暂停对 pg_mooncake 的公开更新时，该扩展停留在早期的 DuckDB 1.3.x / pg_duckdb 快照与 pgrx 0.12 上。与此同时，PostgreSQL 社区已经演进至 PostgreSQL 18、pgrx 0.19.3 以及基于 DuckDB v2.0.0 的 pg_duckdb 1.2.0。 本文将深入介绍我们将整个 Mooncake 技术栈——pg_mooncake …
当 Mooncake Labs 在发布 v0.2.0 后暂停对 pg_mooncake 的公开更新时，该扩展停留在早期的 DuckDB 1.3.x / pg_duckdb 快照与 pgrx 0.12 上。与此同时，PostgreSQL 社区已经演进至 PostgreSQL 18、pgrx 0.19.3 以及基于 DuckDB v2.0.0 的 pg_duckdb 1.2.0。 本文将深入介绍我们将整个 Mooncake 技术栈——pg_mooncake …
-
pg_mooncake 0.3.0 发布：PGSTY 首版发布，全面适配 DuckDB 2.0、pgrx 0.19.3 与 PostgreSQL 14–18
pg_mooncake 0.3.0（随同 duckdb_mooncake v0.0.2 与 moonlink v0.0.1 同步发布）是由 PGSTY 维护的 Mooncake 实时分析套件的首个正式版本： pgsty/pg_mooncake v0.3.0（MIT 许可证） pgsty/duckdb_mooncake v0.0.2（MIT 许可证） pgsty/moonlink v0.0.1（附带 PG_MOONCAKE LINKING & DISTRIBUTION EXCEPTION 的 …
pg_mooncake 0.3.0（随同 duckdb_mooncake v0.0.2 与 moonlink v0.0.1 同步发布）是由 PGSTY 维护的 Mooncake 实时分析套件的首个正式版本： pgsty/pg_mooncake v0.3.0（MIT 许可证） pgsty/duckdb_mooncake v0.0.2（MIT 许可证） pgsty/moonlink v0.0.1（附带 PG_MOONCAKE LINKING & DISTRIBUTION EXCEPTION 的 …
-
Mooncake 正式加入 Databricks！
十三个月前，我们创立了 Mooncake，旨在将支撑 OpenAI 等科技巨头的数据智能技术栈带给每一个现代应用与每一位开发者——从第一行 Prompt 直到公司上市（IPO）。 今天，我们正式加入 Databricks。 我们的使命一如既往：让 Lakebase（Postgres）与数据湖仓（Lakehouse）融为一体。 在过去整整十年里，我们曾以为数据库的终极形态是一个能包揽一切的单体系统——同时兼顾高频更新、分布式事务与极速分析。在数据库行业里，这被称为 HTAP。但它始终未能真正普及 …
十三个月前，我们创立了 Mooncake，旨在将支撑 OpenAI 等科技巨头的数据智能技术栈带给每一个现代应用与每一位开发者——从第一行 Prompt 直到公司上市（IPO）。 今天，我们正式加入 Databricks。 我们的使命一如既往：让 Lakebase（Postgres）与数据湖仓（Lakehouse）融为一体。 在过去整整十年里，我们曾以为数据库的终极形态是一个能包揽一切的单体系统——同时兼顾高频更新、分布式事务与极速分析。在数据库行业里，这被称为 HTAP。但它始终未能真正普及 …
-
Mooncake 技术白皮书：面向 Apache Iceberg 的实时存储引擎
这篇技术白皮书假设读者已对开放分析表格式 Apache Iceberg 有所了解。Iceberg 是现代“数据湖仓（Lakehouse）”运动的核心基石，它允许用户： 将大规模数据集以开放文件格式（Parquet + 元数据）存储在廉价对象存储中； 使用 Spark、Trino、Flink、DuckDB 等多种计算引擎通过 SQL 直接查询； 获得 Schema 演进与时间旅行（Time Travel）等数据库级特性； 实现近乎无限的弹性扩展，彻底摆脱单一供应商锁定。 然而，Iceberg 生来 …
这篇技术白皮书假设读者已对开放分析表格式 Apache Iceberg 有所了解。Iceberg 是现代“数据湖仓（Lakehouse）”运动的核心基石，它允许用户： 将大规模数据集以开放文件格式（Parquet + 元数据）存储在廉价对象存储中； 使用 Spark、Trino、Flink、DuckDB 等多种计算引擎通过 SQL 直接查询； 获得 Schema 演进与时间旅行（Time Travel）等数据库级特性； 实现近乎无限的弹性扩展，彻底摆脱单一供应商锁定。 然而，Iceberg 生来 …
-
可是，我的 Postgres（+ 数据湖仓）是免费的呀
友情提示： 你的 Postgres 和数据湖仓（Lakehouse）同样是自由且开源的——你完全不需要成为（或者像巨头一样挥霍数亿美金）才能拥有它们。 为什么是 Postgres + Lakehouse？ 原因一：如果你相信 AI，这就是智能体（Agent）的标准技术栈 AI 智能体需要记忆——既需要即时响应的工作记忆（Working Memory），也需要海量的长期知识（Long-Term Knowledge）。 工作记忆必须像应用状态一样瞬时可达、可靠且精确。存放它的最佳位置是哪里 …
友情提示： 你的 Postgres 和数据湖仓（Lakehouse）同样是自由且开源的——你完全不需要成为（或者像巨头一样挥霍数亿美金）才能拥有它们。 为什么是 Postgres + Lakehouse？ 原因一：如果你相信 AI，这就是智能体（Agent）的标准技术栈 AI 智能体需要记忆——既需要即时响应的工作记忆（Working Memory），也需要海量的长期知识（Long-Term Knowledge）。 工作记忆必须像应用状态一样瞬时可达、可靠且精确。存放它的最佳位置是哪里 …
-
“在 Postgres 中做分析”究竟意味着什么？
当今数据库领域很少有方向比“扩展 Postgres 以支持分析查询”更炙手可热了。这其实也算不上什么全新的课题——在过去十年间，业界已经有过许多次尝试： 以下是我与大量客户交流后的核心总结——“Postgres 分析”对用户而言究竟意味着什么？以及为什么尽管我们在 pg_mooncake 第一阶段取得了一定成果，这个领域的终极难题在很长时间里依然悬而未决？ Level 0：直接在现有 Postgres 堆表上跑分析查询 只要配合合理的索引、统计信息、查询调优与物化视图，原生 Postgres 能 …
当今数据库领域很少有方向比“扩展 Postgres 以支持分析查询”更炙手可热了。这其实也算不上什么全新的课题——在过去十年间，业界已经有过许多次尝试： 以下是我与大量客户交流后的核心总结——“Postgres 分析”对用户而言究竟意味着什么？以及为什么尽管我们在 pg_mooncake 第一阶段取得了一定成果，这个领域的终极难题在很长时间里依然悬而未决？ Level 0：直接在现有 Postgres 堆表上跑分析查询 只要配合合理的索引、统计信息、查询调优与物化视图，原生 Postgres 能 …
-
pg_mooncake v0.2 架构前瞻：开箱即用的实时列存与逻辑复制
在 v0.1 中，我们证明了 PostgreSQL 完全能够提供顶级的分析性能。通过将 DuckDB 向量化执行引擎与列存表相结合，pg_mooncake 成为了 Postgres 生态中唯一同时集成这两大能力的扩展。 实测成绩说明了一切：pg_mooncake 闯入了 ClickBench 全球前十，并打造出了最快的基于 Parquet 的执行引擎。 现在，在 v0.2 中，我们正在攻克下一个核心挑战——我们称之为**“开箱即用的分析（Out-of-the-Box Analytics）”**。 …
在 v0.1 中，我们证明了 PostgreSQL 完全能够提供顶级的分析性能。通过将 DuckDB 向量化执行引擎与列存表相结合，pg_mooncake 成为了 Postgres 生态中唯一同时集成这两大能力的扩展。 实测成绩说明了一切：pg_mooncake 闯入了 ClickBench 全球前十，并打造出了最快的基于 Parquet 的执行引擎。 现在，在 v0.2 中，我们正在攻克下一个核心挑战——我们称之为**“开箱即用的分析（Out-of-the-Box Analytics）”**。 …
-
如何让 DuckDB 在 Parquet 文件上的查询性能再上一个台阶
上周，我们在 PostgreSQL 上运行了 ClickBench 基准测试并成功闯入全球前十，证明了通过 pg_mooncake 扩展，Postgres 完全能够胜任严肃的大规模分析负载。 在成绩公布后，我们收到了许多开发者的提问：既然 pg_mooncake 内部嵌入了 DuckDB 并将数据存储为 Parquet 格式，为什么它在 Parquet 文件上的查询速度反而比直接使用 DuckDB 扫描还要快？ 参见 X / Twitter 上的相关讨论。 最酷的地方在于：pg_mooncake …
上周，我们在 PostgreSQL 上运行了 ClickBench 基准测试并成功闯入全球前十，证明了通过 pg_mooncake 扩展，Postgres 完全能够胜任严肃的大规模分析负载。 在成绩公布后，我们收到了许多开发者的提问：既然 pg_mooncake 内部嵌入了 DuckDB 并将数据存储为 Parquet 格式，为什么它在 Parquet 文件上的查询速度反而比直接使用 DuckDB 扫描还要快？ 参见 X / Twitter 上的相关讨论。 最酷的地方在于：pg_mooncake …
-
ClickBench 基准测试证明：Postgres 是一流的分析型数据库
太长不看版（TL;DR）： 经过几个月的深度优化，我们让 PostgreSQL 成功闯入了 ClickBench 全球前十——这个榜单长期以来一直被各种专门构建的 OLAP 分析数据库所统治。 更重要的是，所有计算均在 Postgres 进程内完成，所有表均由 PostgreSQL 直接管理——它绝不是一个简单的外部代理包装器。这就是 pg_mooncake 的故事。 什么是 ClickBench？ ClickBench 是实时分析型数据库领域最权威的基准测试，最初由 ClickHouse 团队 …
太长不看版（TL;DR）： 经过几个月的深度优化，我们让 PostgreSQL 成功闯入了 ClickBench 全球前十——这个榜单长期以来一直被各种专门构建的 OLAP 分析数据库所统治。 更重要的是，所有计算均在 Postgres 进程内完成，所有表均由 PostgreSQL 直接管理——它绝不是一个简单的外部代理包装器。这就是 pg_mooncake 的故事。 什么是 ClickBench？ ClickBench 是实时分析型数据库领域最权威的基准测试，最初由 ClickHouse 团队 …
-
PostgreSQL 中最简单的极速分析方式：pg_mooncake v0.1 正式发布
我们在创业第 60 天向世界首次宣布了 pg_mooncake。 今天（第 131 天），pg_mooncake 正式结束 Beta 阶段，发布 v0.1.0。 pg_mooncake 的核心竞争力在于极致易用性与强悍性能。在 v0.1 中，我们在这两个方向上全力加码。 在 Postgres 中运行极速分析最简单的方式 凭借 Postgres 原生列存表，pg_mooncake 将开发者最熟悉的表语义带入分析场景。列存表不仅支持事务性的 INSERT、SELECT、UPDATE、DELETE 和 …
我们在创业第 60 天向世界首次宣布了 pg_mooncake。 今天（第 131 天），pg_mooncake 正式结束 Beta 阶段，发布 v0.1.0。 pg_mooncake 的核心竞争力在于极致易用性与强悍性能。在 v0.1 中，我们在这两个方向上全力加码。 在 Postgres 中运行极速分析最简单的方式 凭借 Postgres 原生列存表，pg_mooncake 将开发者最熟悉的表语义带入分析场景。列存表不仅支持事务性的 INSERT、SELECT、UPDATE、DELETE 和 …
-
pg_mooncake 🤝 Drizzle：用强类型 ORM 驱动分析查询
在 pg_mooncake 发布之初，有一件事出乎我们的意料：开发者们非常关心能否在分析型负载中继续使用熟悉的 ORM。我们经常收到两类典型需求： “我手头有一堆 Parquet 文件，我希望能在它们之上获得完整的 ORM 类型支持。” “我在事务数据库里用了 Drizzle / Prisma，我也希望能直接用它来写分析报表和仪表盘查询。” 我们始终坚信，Postgres 中的列式存储在外观和使用体验上必须像一张普通堆表。这正是 pg_mooncake 列存表的核心创新所在：你可以对它执行事务、 …
在 pg_mooncake 发布之初，有一件事出乎我们的意料：开发者们非常关心能否在分析型负载中继续使用熟悉的 ORM。我们经常收到两类典型需求： “我手头有一堆 Parquet 文件，我希望能在它们之上获得完整的 ORM 类型支持。” “我在事务数据库里用了 Drizzle / Prisma，我也希望能直接用它来写分析报表和仪表盘查询。” 我们始终坚信，Postgres 中的列式存储在外观和使用体验上必须像一张普通堆表。这正是 pg_mooncake 列存表的核心创新所在：你可以对它执行事务、 …
-
pg_mooncake + Neon：PostgreSQL 中的 Serverless 实时分析
pg_mooncake 在两个月前发布了 Beta 版，为 PostgreSQL 带来了列式存储与向量化查询执行引擎。 在过去两个月与早期用户的打磨过程中，我们突然意识到：我们无意间打造出了最优秀的 Serverless 分析数据库。故事是这样的： 1. pg_mooncake 🤝 Neon 存储引擎 Neon 在其底层存储引擎上做出了重大创新（推荐阅读 Nikita 关于这一架构的技术长帖）。正是依靠这套存储引擎，Neon 实现了真正的存算分离，进而带来了数据库分支（Branching）、缩容 …
pg_mooncake 在两个月前发布了 Beta 版，为 PostgreSQL 带来了列式存储与向量化查询执行引擎。 在过去两个月与早期用户的打磨过程中，我们突然意识到：我们无意间打造出了最优秀的 Serverless 分析数据库。故事是这样的： 1. pg_mooncake 🤝 Neon 存储引擎 Neon 在其底层存储引擎上做出了重大创新（推荐阅读 Nikita 关于这一架构的技术长帖）。正是依靠这套存储引擎，Neon 实现了真正的存算分离，进而带来了数据库分支（Branching）、缩容 …
-
pg_mooncake：基于列存表与 DuckDB 的 Postgres 极速分析引擎
pg_mooncake 将列存表（Columnstore Tables）与 DuckDB 向量化执行引擎引入 PostgreSQL，以实现极速分析查询。 它像普通 Postgres 表一样支持事务性的 INSERT、UPDATE 和 DELETE。底层数据以 Parquet 文件配合 Delta Lake（以及 v0.2+ 中的 Apache Iceberg）表元数据写入，因此也可以在 Postgres 外部直接查询。 为什么还需要另一个 Postgres 分析扩展？ PostgreSQL 是当 …
pg_mooncake 将列存表（Columnstore Tables）与 DuckDB 向量化执行引擎引入 PostgreSQL，以实现极速分析查询。 它像普通 Postgres 表一样支持事务性的 INSERT、UPDATE 和 DELETE。底层数据以 Parquet 文件配合 Delta Lake（以及 v0.2+ 中的 Apache Iceberg）表元数据写入，因此也可以在 Postgres 外部直接查询。 为什么还需要另一个 Postgres 分析扩展？ PostgreSQL 是当 …
-
Mooncake：下一代搜索与分析系统
我们是 Zhou、Cheng 和 Pranav。过去十年里，我们一直在 MemSQL（现名 SingleStore）研发数据库内核。 我们热爱复杂系统、硬核工程技术，当然还有——物理学 🙂 数据系统就像物理学一样，建立在若干基本公理之上。这些原则必须自洽且持久。 仅仅打造一个“技术指标上更好”的系统是徒劳的。一个数据系统的成败取决于它所秉持的架构原则，而在中途改变基因几乎是不可能的：闭源商业公司不可能摇身一变成为真正受社区拥戴的开源项目；绑定了私有存储格式的数据库也不可能轻易放弃自己的存储引擎、 …
我们是 Zhou、Cheng 和 Pranav。过去十年里，我们一直在 MemSQL（现名 SingleStore）研发数据库内核。 我们热爱复杂系统、硬核工程技术，当然还有——物理学 🙂 数据系统就像物理学一样，建立在若干基本公理之上。这些原则必须自洽且持久。 仅仅打造一个“技术指标上更好”的系统是徒劳的。一个数据系统的成败取决于它所秉持的架构原则，而在中途改变基因几乎是不可能的：闭源商业公司不可能摇身一变成为真正受社区拥戴的开源项目；绑定了私有存储格式的数据库也不可能轻易放弃自己的存储引擎、 …