华为云计算与大数据课件

一、华为云计算

二、华为的大数据处理目录2023/4/22华为云战略定位

华为云定位于运营商和企业的云服务市场，提供私有云、公有云和混合云解决方案，构建华为“云管端”整体ICT（informationandcommunicationstechnology）解决方案，面向企业、电信运营商和消费者3大业务领域客户。华为云计算云计算是商业模式和技术理念的统一2023/4/23云服务-“按需取用”的商业模式+

云平台-分布式和并行软件系统华为云计算华为云平台IDC整体视图2023/4/25云服务云平台华为云计算华为提出的支持智能城市的云平台架构2023/4/26华为云计算华为提供端到端云解决方案2023/4/27华为云计算提供系列化云硬件平台产品2023/4/29华为云计算提供云操作系统2023/4/210华为云计算华为桌面云即SingleCLOUD指“1个平台+N种应用”的安全解决方案。1个平台即SingleCLOUD，将软件与某一个具体的服务器分离，这样，所有的软件共享所有的硬件资源，实现“软件与硬件的解耦”，实现真正的云计算。SingleCLOUD云平台，支持“百万级服务器集群、百万T的存储能力、百T级网络互连能力”，支撑海量信息的计算和存储，并通过“Zero-Touch的自动管控”，大大降低运维成本。采用业界主流高性能桌面协议(ICA)提供桌面云规划设计、部署、验证等系列服务和工具。2023/4/211华为云计算2023/4/213华为认为的大数据挑战华为提出了大数据整体架构，并总结出当前面临6方面挑战：云存储、大数据技术、E2E的媒体云、虚拟桌面、HTML5和高性能计算（HPC）。华为的大数据处理华为大数据整体架构2023/4/214华为的大数据处理大数据应用领域视频转码3D渲染金融领域计算天气预测风洞计算地质模拟数据挖掘仿真…2023/4/215华为的大数据处理华为为公有云和私有云市场构建统一的云存储解决方案(以分布式存储为主，也可结合虚拟化存储)，由三个层面构成：存储硬件层、存储平台层和存储服务层。存储平台层是一套基于DHT的分布式Key-Value存储系统，将大规模的存储设备资源聚合成一个具有统一视图的、海量的存储空间。存储服务层基于平台层提供的Key-Value接口，提供多种类型的存储服务和接口协议，并提供存储服务所需的访问安全机制。存储硬件层可以是通用的存储服务器，也可以是定制优化的专用硬件。华为云存储解决方案实现了多种存储服务的融合和统一。多种存储服务可以采用一致的接口访问存储引擎，实现存储容量、IO的共享，同时为各存储服务提供不同的QoS。华为云存储解决方案在架构上考虑了如下要素：（1）海量的可扩展性；（2）自组织自管理；（3）强一致性；（4）高性能的块存储服务；（5）定制优化的低成本、高密度存储硬件2023/4/217华为云存储解决方案华为的大数据处理-核心技术大数据处理技术的趋势与挑战当前大数据表现为如下两方面主要特征：(1)大数据量十T级是入门，百T级PB级已非常常见；(2)响应速度数据产生的速度越来越快，对于数据中蕴含信息的提取，以及对于提取信息的反馈，要求越来越快。由于在数据量和响应速度两个维度的交织，给大数据的处理带来很大的困难。在过去五到十年，两类技术已经发展起来，针对性地解决上述两个的挑战。发源于金融自动交易系统的复杂事件处理（CEP）技术，经过美国若干大学领先团队的研究及创业公司的工程优化，已走向实用，数百万每秒事件的处理，在工程上成为可能。随着互联网点击流实时处理以及微博等业务的出现，流处理系统发展为分布式系统。雅虎和Twitter都开源了其流处理系统，这进一步推动了大规模流处理系统的应用。发源于谷歌的开源系统Hadoop，随着众多公司的加入，已形成大数据处理的事实标准。来自数据源的原始数据，以及经过流处理再生成的结果数据，一起再进入Hadoop系统形成一个可供后处理的全量数据处理平台，已形成经典的大数据处理模式。2023/4/218华为的大数据处理-核心技术华为大数据解决方案在大数据分析方面，华为大数据解决方案将电信领域在高可用、高性能、易运维、易集成的积累，注入到ApacheHadoop系统中，形成企业级Hadoop产品，降低企业应用Hadoop技术的难度。华为Hadoop方案已应用于电信网监测和IPTV内容推荐，并取得良好效果。另外，在实时数据处理方面，华为大数据解决方案继承电信极高流量处理能力，基于PC服务器能够完成数百万每秒的事务过滤和处理，已用于云计算的物理和虚拟机集群监控。2023/4/219华为的大数据处理-核心技术华为E2E媒体云解决方案华为UVI以统一的架构，将媒体注入、处理、存储、分发推流、分析、管理等关键能力集于一身，形成“云管端”协同的智能媒体云解决方案。针对内容生产的多格式/多速率，华为媒体云采用内容智能分片/合并、并行转码、资源动态调度、硬件加速等技术，同时满足离线与实时的媒体处理需求，为不同需求的用户提供性价比最优的解决方案；配合降噪与画面增强等算法，使各种速率/格式的内容达到视频质量最佳；支持内容、语音识别等增值算法，为搜索推荐等业务提供强大的支撑。在内容分发领域，华为媒体云以一套融合平台改变烟囱状的网络现状，同时支持OTT/IPTV/MBB等场景；高性能流化服务器，在功耗降低的同时，较传统服务器性能提升5～10倍；高效文件系统结合统一缓存（cache）策略等技术，在提升命中率的同时，大幅缩减了存储需求；多策略组合的智能内容路由技术，使用户的请求得到快速响应；智能感知并动态调整推流码率，以确保画面的流畅体验。2023/4/221华为的大数据处理-核心技术虚拟桌面（前面提到的桌面云的关键技术）业界把虚拟桌面场景分为6大类，VDI是最常见的一类，其基本原理是将所有桌面虚拟机在数据中心进行托管并统一管理，而用户可以通过瘦客户端，或移动智能终端等类似设备，在局域网/广域网访问，获得与传统PC一致的用户体验。VDI方案中，用户的桌面应用逻辑及其存储运行在云端数据中心的虚拟机内，本地只有瘦终端，处理显示、鼠标键盘事件和本地外设映射，通过远程桌面协议传送显示、事件、语音和视频等内容。VDI应用场景非常广泛，包括企业办公、行业应用、家庭娱乐、运营商营业厅和呼叫中心等。VDI给用户带来的好处是（1）客户端处理能力要求小，成本低；（2）客户端功耗低，无噪音，符合节能减排要求；（3）客户端无需升级维护，降低维护成本；（4）数据安全保密；（5）用户移动性，随时随地接入虚拟桌面，无需应用安装。2023/4/222华为的大数据处理-核心技术华为VDI解决方案华为VDI解决方案包括两大类功能：（1）桌面协议功能，包括：桌面协议框架的服务器和客户端，桌面显示的服务器和客户端，外设重定向的服务器和客户端，语音重定向的服务器和客户端