lvorySQL 2025生态大会暨PostgreSQL高峰论坛:pg-duckdb的实现思路与落地应用_第1页
lvorySQL 2025生态大会暨PostgreSQL高峰论坛:pg-duckdb的实现思路与落地应用_第2页
lvorySQL 2025生态大会暨PostgreSQL高峰论坛:pg-duckdb的实现思路与落地应用_第3页
lvorySQL 2025生态大会暨PostgreSQL高峰论坛:pg-duckdb的实现思路与落地应用_第4页
lvorySQL 2025生态大会暨PostgreSQL高峰论坛:pg-duckdb的实现思路与落地应用_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

pg_duckdb的实现思路与落地应用IvorySQL

2025生态大会暨PostgreSQL高峰论坛曾满数据库内核研发postgres爱好者、monetdb_fdw作者、openHalo、IvorySQL、

pg_duckdb、orafce等等开源项目贡献者。IvorySQL

2025生态大会暨PostgreSQL高峰论坛

pg_duckdb是什么

pg_duckdb的由来

pg_duckdb的实现思路

pg_duckdb适用场景目录CONTENTSIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb是什么IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb是什么https://github.com/duckdbIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb是什么TPCDS

Query

01测试IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdbPostgreSQL162.149

ms175162.327

mspg_duckdb是什么8核16G

TPCDS测试结果tpcds

query

01120001000080006000400020000IvorySQL

2025生态大会暨PostgreSQL高峰论坛tpcds

query

01

-

99运行时间(

s)pg_duckdbPostgreSQL10936.

42776.024Why

DuckDB/why_duckdbIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的由来IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的由来https://github.com/hydradatabaseIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的由来https://docs.hydra.so/intro/aboutIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的由来/duckdb/pg_duckdbIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路IvorySQL

2025生态大会暨PostgreSQL高峰论坛结论:当用户输入了一条查询语句,

对于DuckDB而言,会执行两次Prepare和一次Execute。对于PostgreSQL而言会执行至少两条甚至两条以上的SQL,且每条的SQL不一定一样,SQL数量取决于当前查询中涉及到的表的数量。技术栈:C/C++SQL的全生命周期理解Foreign

Data

Wrapper

(FDW)

Table

Access

Method

(TAM)

Custom

S

canpg_duckdb的实现思路技术栈和结论IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路PostgreSQL的SQL处理流程IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路DuckDB第一次Prepare调用堆栈(优化器阶段)pg_duckdb.so!DuckdbPrepare(xxx)pg_duckdb.so!CreatePlan(xxx)pg_duckdb.so!DuckdbPlanNode(xxx)pg_duckdb.so!DuckdbPlannerHook_Cpp(xxx)

planner(xxx)pg_plan_query(xxx)pg_plan_queries(xxx)exec_simple_query(xxx)PostgresMain(xxx)BackendRun(xxx)BackendStartup(xxx)ServerLoop(xxx)PostmasterMain(xxx)main(xxx)IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路阅读DuckdbPrepare函数IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路DuckDB第二次Prepare调用堆栈(执行器阶段)pg_duckdb.so!DuckdbPrepare(xxx)pg_duckdb.so!Duckdb_Begin

CustomS

can_Cpp(xxx)

ExecInitCustomS

can(xxx)ExecInitNode(xxx)InitPlan(xxx)standard_ExecutorStart(xxx)pg_duckdb.so!DuckdbExecutorStartHook(xxx)

ExecutorStart(xxx)PortalStart(xxx)exec_simple_query(xxx)PostgresMain(xxx)BackendRun(xxx)BackendStartup(xxx)ServerLoop(xxx)PostmasterMain(xxx)IvorySQL

2025生态大会暨PostgreSQL高峰论坛main(xxx)pg_duckdb的实现思路通过debug信息验证两次PrepareIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路DuckDB

Execute调用堆栈pg_duckdb.so!Execute

Query(xxx)pg_duckdb.so!Duckdb_ExecCustomS

can_Cpp(xxx)

ExecCustomS

can(xxx)ExecProcNodeFirst(xxx)ExecProcNode(xxx)ExecutePlan(xxx)standard_ExecutorRun(xxx)ExecutorRun(xxx)PortalRunSelect(xxx)PortalRun(xxx)exec_simple_query(xxx)PostgresMain(xxx)BackendRun(xxx)BackendStartup(xxx)ServerLoop(xxx)PostmasterMain(xxx)IvorySQL

2025生态大会暨PostgreSQL高峰论坛main(xxx)pg_duckdb的实现思路Execute

Query伪代码static

voidExecute

Query(DuckdbScanState

*state)

{auto

&prepared

=

*state->prepared_statement;//

1、处理绑定参数(适用于函数内的查询或者显式PrepareStmt)//

2、将查询暂时挂起auto

pending

=

prepared.PendingQuery(named_values,

true);//

3、执行数据加载的任务//

4、加载完之后

便可执行state->query_results

=

pending->Execute();state->column_count

=

state->query_results->ColumnCount();

state->is_executed

=

true;}IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路IvorySQL

2025生态大会暨PostgreSQL高峰论坛大致流程图pg_duckdb的实现思路依据查询中的表和过滤条件拼接SQLIvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路交由PostgreSQL执行获取相关元组数据IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路将PostgreSQL的行存数据转换成DuckDB的列存数(set

duckdb.threads_for_postgres_scan

=

1)IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路通过输出相关信息验证逻辑IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路简单SQL执行效率会降低IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb的实现思路IvorySQL

2025生态大会暨PostgreSQL高峰论坛加载数据流程图pg_duckdb适用场景IvorySQL

2025生态大会暨PostgreSQL高峰论坛pg_duckdb

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论