管理数据生命周期
学习目标
描述我们如何在 SAP BW/4HANA 中管理数据增长。
SAP BW/4HANA 数据生命周期管理概览
数据增长带来的需求与挑战
SAP BW/4HANA 的一项关键需求是存储数据——而且是大量数据!
数据从组织中的所有源系统收集而来。其中许多系统每天都会产生海量数据。SAP BW/4HANA 甚至可以使用流式机制实时收集数据,因此数据流永不停歇。
从技术角度看,SAP HANA——为 SAP BW/4HANA 提供支持的数据库——能够应对巨大的数据增长。我们只需通过增加更多内存来进行纵向扩展(scale-up)。一旦服务器达到其内存容量,我们就会添加更多服务器。这称为横向扩展(scale-out)。但这是解决数据增长问题的一种非常昂贵的方案。
除了在 SAP BW/4HANA 内存中存储越来越多数据所带来的成本不断上升之外,我们还面临着被很少使用的数据堵塞系统的风险。因此,让我们退一步思考最佳解决方案。
数据有其生命周期。当数据是新的时,它通常对业务非常重要,并用于决策。但随着数据变旧,其价值通常会下降,因为它的使用越来越少。我们应将价值较低的数据从性能最高/成本最高的存储——即内存——迁移到性能较低/更便宜的存储选项——例如磁盘。
我们需要的是管理数据生命周期的工具,以便在合适的时机将数据从内存迁移到磁盘。SAP BW/4HANA 中已包含此类工具。
多温度数据管理概念
SAP 定义了多温度数据存储概念。数据被分类为 HOT、WARM 或 COLD,与数据访问频率和性能要求相对应。这些标准包括所涉及的数据类型、它对业务目的的用处、这些流程的重要性、访问频率、性能和安全要求。影响 SAP 多温度数据存储策略设置的其他因素包括:
限制硬件支出的预算约束
关于 SAP HANA 数据库容量的技术限制
历史数据的存储(由于数据增长)
数据存储规则,例如出于法律原因需要将所有数据至少保存若干年
在 SAP BW/4HANA 这样的大型企业数据仓库中管理的数据有很大一部分会被频繁处理,并且需要快速访问。这类数据可被视为 HOT。
此外,通常还有大量不常访问、可能不需要快速访问的数据。因此,这类数据可以被定义为 WARM。不再需要但必须保留(可能出于法律原因)的数据可以归类为 COLD。
按访问频率将数据分为三种不同温度
SAP BW/4HANA 数据按访问频率和用例分为 HOT、WARM 和 COLD。
在 SAP BW/4HANA 数据仓库参考架构(Layered Scalable Architecture for BW/4HANA)的背景下,数据仓库中的各个区域以及 EDW 架构的不同架构层可以分配到这些多温度数据类别。
让我们进一步了解这些多温度数据类别:
HOT
与关键任务、日常业务分析和计划相关的所有层
热数据会被频繁访问,用于报表和计划目的,或被常规 SAP BW/4HANA 流程(例如数据加载期间的查找)访问。通常处理热数据的 SAP BW/4HANA 对象示例包括:
Data Mart DataStore Objects (advanced)
Standard DataStore Objects (advanced)
无功能限制:允许对此数据进行读取和写入操作。
WARM
与数据采集相关的所有层
温数据的访问频率较低。性能不是这类数据的首要优先级。并且它不必永久存储在主内存中。处理温数据的 SAP BW/4HANA 对象示例包括:
Corporate Memory 中的对象,通常是 Staging DataStore Objects (advanced)。
Open Operational DataStore 层中的对象,通常是 Staging DataStore Objects (advanced)。
无功能限制:允许对此数据进行读取和写入操作。
COLD
与历史数据保留相关的所有层
冷数据极少被访问,或完全不被访问。
功能限制:这类数据主要用于只读。只有在查询中启用某项设置后,才能将其用于报表。默认情况下,查询不会访问这类数据。只有在例外情况下(例如纠正)才可能写入数据。如果需要读取这类数据,必须相应地设定对性能的预期。
SAP BW/4HANA 数据分层优化(DTO)
在 SAP BW/4HANA 中管理多温度数据管理的工具
为在 SAP BW/4HANA 中实现多温度数据管理,SAP 提供了一款名为**数据分层优化(Data Tiering Optimization,DTO)**的工具。
各种数据温度的物理存储位置为:
HOT:数据完全在 SAP HANA 的内存中管理。
WARM:数据在 SAP HANA 磁盘上管理。
COLD:数据在 SAP HANA 之外的 SAP IQ 数据库中管理。
在 SAP BW/4HANA 中,DataStore object (advanced) 是用于存储事务数据的对象。事务数据通常是数据显著增长之所在。因此,DataStore Objects (advanced) 正是您设置数据分层属性的地方:
对于每个 DataStore Object (advanced),您首先要选择相关的温度,以及您希望按分区管理各个数据温度,还是让温度应用于该 DataStore Object 中的所有数据。
下一步是定义每个 DataStore Object (advanced) 或每个 DataStore Object (advanced) 分区的计划温度。SAP BW/4HANA Cockpit为此提供了一个合适的应用:DataStore Objects - Manage Data Tiering。该应用提供所有必需功能,用于为 DataStore Objects (advanced) 分区定义温度(或根据总体设置,为整个 DataStore Object (advanced) 定义温度),并执行跨温度的数据移动。
除了手动定义分区或对象的温度外,您还可以为选定对象定义温度变更规则。可以为在分区级别分层、并以 SAP 时间特征或 DATS 数据类型的字段作为分区字段的 DataStore Objects (advanced) 定义规则。在规则中,从当前日期开始,您可以为各种可能的温度指定基于相对时间的条件。例如,您可以为超过一年的数据指定温温度,为超过五年的数据指定冷温度。使用流程链执行作业,您可以完全自动化数据跨温度的移动。
最后一步是定义报表中是否应考虑 COLD 数据。您可以通过在从 DataStore Object (advanced) 读取数据的 BW 查询定义的常规属性中启用该设置来完成此操作。
本课其余配图







本课其余配图


本课其余配图


本课其余配图

