2026年(数据中台工程师)数据中台技术试题及答案_第1页
2026年(数据中台工程师)数据中台技术试题及答案_第2页
2026年(数据中台工程师)数据中台技术试题及答案_第3页
2026年(数据中台工程师)数据中台技术试题及答案_第4页
2026年(数据中台工程师)数据中台技术试题及答案_第5页
已阅读5页,还剩11页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

2026年(数据中台工程师)数据中台技术试题及答案一、单项选择题(每题2分,共20分。每题只有一个正确答案,请将正确选项字母填在括号内)1.在数据中台的分层架构中,负责统一数据口径与质量校验的层级是()A.ODS层  B.DWD层  C.DWS层  D.ADS层答案:B2.下列关于Hive与SparkSQL的描述,正确的是()A.Hive仅支持MapReduce引擎  B.SparkSQL无法读取Hive元数据C.Hive3.0已支持LLAP实时查询  D.SparkSQL默认使用Tez引擎答案:C3.在Kafka2.8版本之后,如不使用ZooKeeper,则依赖的仲裁服务组件为()A.ControllerQuorum  B.KRaftQuorum  C.ZooKeeperObserver  D.BrokerEnsemble答案:B4.某表主键为user_id,现需按user_id做分桶,同时保证同一user_id数据仅落入同一桶,应选择的分桶算法为()A.Hash(user_id)modN  B.Round-Robin  C.Range(user_id)  D.Random答案:A5.在Flink中,将流式表转换为动态表并注册到Catalog的API调用顺序为()A.createTemporaryView→fromDataStream→toDataStreamB.fromDataStream→createTemporaryView→toDataStreamC.toDataStream→fromDataStream→createTemporaryViewD.createTemporaryView→toDataStream→fromDataStream答案:B6.某企业采用DataX同步MySQL数据到HDFS,当源表新增列时,为保证同步任务不中断,需在JSON配置文件中添加的参数是()A."column":[""]  B."isSyncNewColumn":trueA."column":[""]  B."isSyncNewColumn":trueC."dynamicColumn":true  D."column":["id","newCol"]答案:A7.在数据资产目录中,为字段打上“PII”标签的最主要目的是()A.优化查询性能  B.支持数据脱敏策略C.降低存储成本  D.提升数据压缩率答案:B8.使用StarRocks构建宽表模型时,能够最大限度减少Join操作的表类型是()A.明细表  B.聚合表  C.更新表  D.主键表答案:D9.在数据血缘解析中,SQL语句“INSERTOVERWRITETABLEads_userSELECTFROMdws_user”体现的血缘关系是()9.在数据血缘解析中,SQL语句“INSERTOVERWRITETABLEads_userSELECTFROMdws_user”体现的血缘关系是()A.物理血缘  B.逻辑血缘  C.业务血缘  D.反向血缘答案:B10.当数据中台采用多活架构时,为规避脑裂问题,通常引入的分布式协调算法是()A.Bully  B.Raft  C.Paxos  D.2PC答案:B二、多项选择题(每题3分,共15分。每题至少有两个正确答案,多选、少选、错选均不得分)11.下列属于数据治理核心域的有()A.元数据管理  B.主数据管理  C.数据生命周期管理  D.集群资源调度答案:A、B、C12.关于DeltaLake的特性,正确的有()A.支持ACID事务  B.提供TimeTravel语法C.仅支持Parquet格式  D.通过Log文件保证一致性答案:A、B、D13.在数据质量监控规则中,属于业务规则类型的有()A.唯一性校验  B.值域校验  C.同比波动阈值  D.主外键一致性答案:B、C14.使用FlinkCDC同步MySQLbinlog时,为提高吞吐量可采取的措施有()A.开启并行度  B.使用Debezium心跳机制C.增大binlogretention  D.采用增量快照算法答案:A、B、D15.以下关于数据沙箱的描述,正确的有()A.提供隔离环境  B.支持敏感数据脱敏C.可直接修改生产数据  D.通常具备审计功能答案:A、B、D三、填空题(每空2分,共20分)16.在HDFS联邦架构中,通过__________机制实现NameNode横向扩展,解决单NameNode内存瓶颈。答案:BlockPool17.FlinkSQL中,设置状态过期时间的参数为__________。答案:table.exec.state.ttl18.数据资产盘点常用的国际标准是__________,其最新版本为ISO__________。答案:ISO8000;8000-2:202219.当使用Hudi进行流式Upsert时,若记录键为复合键,需在DDL中用__________语法声明。答案:PRIMARYKEY(col1,col2)NOTENFORCED20.在数据网格(DataMesh)范式中,领域数据产品必须自包含__________、__________、__________三大要素。答案:代码、数据、元数据21.StarRocks的__________模型可支持高并发点查,其底层索引结构为__________。答案:主键;前缀索引22.数据血缘可视化常用的图数据库引擎为__________,其查询语言是__________。答案:Neo4j;Cypher四、判断题(每题1分,共10分。正确打“√”,错误打“×”)23.Iceberg的隐藏分区(HiddenPartitioning)特性可以减少用户误用分区列的风险。(√)24.在Kafka中,Producer的acks参数设为0时,可保证消息不丢失。(×)25.数据目录(DataCatalog)与元数据管理(MetadataManagement)是同一概念的不同表述。(×)26.使用SparkDynamicAllocation时,Executor数量可由Spark根据负载自动增减。(√)27.在数据治理成熟度模型中,第4级为“已管理级”,第5级为“优化级”。(√)28.Hudi的COW表每次写入都会生成新的Base文件,因此适合高频更新场景。(×)29.数据资产估值的“成本法”将历史开发成本直接等同于当前市场价值。(×)30.Flink的Checkpoint屏障(Barrier)是Chandy-Lamport算法的实现。(√)31.在数据安全分级中,级别越高,脱敏算法强度越低。(×)32.DataWorks的“基线”功能主要用于保障数据产出时间SLA。(√)五、简答题(封闭型,每题8分,共24分)33.简述数据中台“OneData”体系的核心原则,并给出两项落地措施。答案:核心原则:统一数据建设、统一数据标准、统一数据服务、统一数据资产。落地措施:1.制定企业级数据标准,建立标准审核流程,所有ODS→DWD字段必须引用标准字典;2.构建统一指标平台,指标定义经数据委员会评审后锁定,任何BI工具必须通过指标平台API获取口径。34.说明Flinkexactly-once语义实现的关键技术点,并指出与at-least-once的差异。答案:关键技术:1.分布式快照(Checkpoint)机制,通过Barrier对齐实现全局一致性;2.状态后端(RocksDBStateBackend)支持异步快照;3.两阶段提交(2PC)Sink,预提交阶段刷写外部系统,确认阶段提交事务。差异:exactly-once在故障恢复时不会重复写入外部系统,而at-least-once可能因重放导致重复,需要下游幂等或去重。35.列举三种主流数据湖格式(Delta、Iceberg、Hudi)在更新场景下的性能差异,并给出选型建议。答案:Delta:Copy-On-Write(COW)写放大高,适合低频更新;Iceberg:支持行级更新但需重写文件,适合准实时;Hudi:提供Merge-On-Read(MOR),写性能高,读需合并Log,适合高频Upsert。选型:更新频率>10min⁻¹选HudiMOR;更新频率<1min⁻¹且需TimeTravel选Delta;多引擎兼容且分区演化强需求选Iceberg。六、简答题(开放型,每题10分,共20分)36.某电商公司大促期间,实时GMV指标延迟从2分钟突增至10分钟,请给出系统性排查与优化方案。答案:1.监控:检查FlinkBackpressure、Checkpoint时长、Kafkalag、CPU/IO;2.定位:发现Kafka单分区热点,导致某TaskManager负载高;3.优化:a.重分区,按店铺IDkeyBy替代用户ID,打散热点;b.并行度由200提至400,并开启FlinkAdaptiveScheduler;c.使用MiniBatch聚合,缓存1s微批,减少状态访问;d.RocksDBStateBackend启用增量快照,本地SSD盘;4.验证:压测QPS提升3倍,延迟降至30s;5.长效:建立大促压测基线,指标平台自动告警延迟>5min。37.讨论在“数据要素流通”政策背景下,数据中台如何平衡数据开放与隐私保护,提出可落地的技术架构。答案:技术架构:1.数据分级分类:按《个人信息保护法》将数据分为公开、内部、敏感、核心四级;2.隐私计算层:引入联邦学习、多方安全计算(MPC)、差分隐私,确保“数据不动模型动”;3.数据沙箱:提供可信执行环境(TEE),外部用户可提交算法,数据不出域;4.区块链审计:将数据调用日志上链,确保授权、用数、审计全流程可追溯;5.收益分配:基于智能合约按数据贡献度自动结算,激励数据提供方;6.合规管控:引入数据使用协议模板,API网关自动核验调用方资质与剩余额度。七、应用题(综合类,共41分)38.数据模型设计(15分)背景:某视频平台需构建DWS层宽表,统计每日视频播放情况,需求如下:维度:日期、用户、视频、设备类型、省份;度量:播放次数、播放时长、完播次数、点赞次数;数据量:日活1亿,日均播放记录80亿条;查询场景:a.某视频近30天每日播放趋势;b.某省份Top100视频;c.用户播放时长分布(0-30s、30-60s、>60s)。要求:1.给出星型或雪花模型逻辑图(文字描述即可);2.写出DWS层宽表建表语句(StarRocks语法),含分区、分桶、索引;3.说明为何选择该模型及性能预估。答案:1.模型:星型,事实表dws_play_di,维表dim_user、dim_video、dim_device、dim_province;2.建表:```sqlCREATETABLEdws_play_di(dtDATE,user_idBIGINT,video_idBIGINT,device_typeSTRING,provinceSTRING,play_cntBIGINTSUM,play_duration_msBIGINTSUM,complete_cntBIGINTSUM,like_cntBIGINTSUM,INDEXidx_video(video_id)USINGBITMAP)ENGINE=OLAPAGGREGATEKEY(dt,user_id,video_id,device_type,province)PARTITIONBYRANGE(dt)(START("2026-01-01")END("2026-12-31")EVERY(INTERVAL1DAY))DISTRIBUTEDBYHASH(video_id)BUCKETS32768PROPERTIES("replication_num"="3","compression"="zstd");```3.理由:AGGREGATEKEY预聚合,减少80亿→1亿行;按video_id分桶,查询a、b可桶裁剪;bitmap索引加速video_id过滤;日分区支持快速删除;32768桶使单桶约3万行,点查<50ms。39.数据质量监控方案设计(12分)背景:上游MySQL订单表order_info同步到数据湖,出现金额字段异常负值,导致GMV指标失真。要求:1.设计一套实时+离线双层监控规则;2.给出规则配置样例(JSON或YAML);3.说明异常告警与自动熔断机制。答案:1.实时:FlinkCEP监控流,负金额事件>5笔触发告警;离线:每日DataQuality任务扫描分区,异常占比>0.1%触发。2.配置:```yamlrealtime:rule_id:R001metric:negative_amountsql:"SELECTCOUNT()FROMorder_streamWHEREamount<0"sql:"SELECTCOUNT()FROMorder_streamWHEREamount<0"threshold:5window:1_minuteoffline:rule_id:R002metric:negative_ratiosql:"SELECTSUM(CASEWHENamount<0THEN1ELSE0END)/COUNT()FROMorder_infoWHEREdt='"sthreshold:0.001action:suspend_task```3.告警:钉钉+电话,附带样本数据;熔断:调用AirflowAPI暂停下游GMV任务,写入Redash标注“数据质量异常”,待人工确认后重跑。40.性能调优计算题(14分)背景:某Spark批任务处理ORC文件2T

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论