数据必须转化成能解决业务问题、提升业务效率的标签才具有价值,否则就是数据负累。将数据提炼转化为标签的过程称为“标签化”,标签化需要充分考虑两大因素:
标签化的核心是用数据思维去理解、抽象、提炼业务场景并解决业务问题。在标签化的过程中,需要有标签规范对其进行标准作业指导。
1.1.1 根目录指向标签所属的对象
根目录往往是一种较为模糊、宽泛、简单的名词或动名词。在数据物理层面往往映射为某张大宽表中的主键,这张大宽表中的信息都是对该主键对象的详细刻画和数据记录:大宽表的列即映射为标签,大宽表的行记录则对应于具体的对象在各标签属性上的具体属性值记录。
1.1.2 类目是对标签的分类
类目往往由名词构成。一个类目及其所归类的标签在数据物理层面可和某张具体表对应。多张主键相同但信息类型不同的数据表关联在一起就可以形成该主键对象下的大宽表。
1.1.3 标签是对象的属性,颗粒度到字段级
标签一般对应于某数据库中某张数据表中的某字段。
1.1.4 标签值是对象属性的具体取值
标签值一般对应于数据库中某张数据表中的某字段取值。
标签的标签称为元标签。元标签是对标签对象的属性描述,旨在采用业务化的术语,帮助前端业务更好地理解标签。
1.2.1 标签所属根目录
标签所属根目录是指该标签是哪个对象的标签。
1.2.2 标签所属类目
标签所属类目就是上文提到的标签所属一级目录、二级目录、三极目录等。
1.2.3 标签名
标签命名应遵循三大原则:避免产生侵犯隐私的误解,同一标签使用同一标签名称,同类标签使用同类语句结构。标签命名的基本规范如下:
(1)格式规范
同一个标签应归一为相同的标签名称,同类标签使用同类语句结构。
(2)用词规范
(3)内容规范
1.2.4 标签描述
对标签名用一两句话进行解释,避免标签名由于用词过于简短而存在歧义、模糊、多义等问题。
1.2.5 标签加工类型
标签根据加工类型的不同可分为原始类标签、统计类标签和算法类标签
(1)三类加工标签定义
(2)三类加工标签与属性分类标签的联系
| 统计类复合标签的设计可参考以下设计模板,在原子标签基础上,增加维度信息去详细刻画或扩展某一类属性,即将【场景】+【时空修饰】+【计算方法】+【可修饰词】等信息联合作为修饰词。 |
| A. 【场景】往往指的是某行为场景,例如电商交易、线下交易等。 |
| B. 【时空修饰】指的是收缩到某时间纬度、某空间维度下对原子标签的统计,时间修饰有最近1天、最近7天等。空间修饰有华东区域、浙江区域、杭州区域、移动端等不同地域划分或渠道类型。 |
| C. 【计算方法】指的是不同统计计算方法,常见有求和、求平均、求最大值等。 |
| D. 【可修饰词】往往与场景密切相关,例如:“电商交易”场景下按照品类划分为“电子产品”、“服装”等。按照客户类型可划分为“VIP客户”、“新客户”等 |
| 将上述因素组合在一起,就可以生成统计类符合标签,eg:最近一个月移动端电子产品交易总金额。 |
(3)三类加工标签与人、物、关系下各类标签的联系
1.2.6 标签逻辑
标签逻辑指对 标签开发方式、加工过程、计算逻辑等的描述。
1.2.7 值标签
值字典即标签各种可能取值的枚举。
1.2.8 取值类型
取值类型即标签值的数据类型。
1.2.9 示例
举1~2个标签值示例,主要用于无法穷尽枚举的连续性数值标签或枚举项成百上千的标签,以帮助开发人员、业务人员更好地理解标签定义。
1.2.10 更新周期
更新周期一般指该指标的数据更新周期。
1.2.11 安全等级
建议构建1~4等级的安全定级(L1~L4):
各企业/机构可根据自身实际情况,对L1~L4级别的标签设置不同的申请、操作、使用权限。
1.2.12 标签对应的物理存储信息
标签需要与底层物理表映射,才能在生产数据服务时进行真实数据流动。对每个标签登记好其所映射的物理表名、字段名,以保障后期标签需要查找问题或治理优化时,可快速定位到相应的物理路径及真实的开发逻辑。
1.2.13 标签负责人
需要登记对该标签负责的人员名单,以便业务人员对标签有疑问、追溯时快速定位到相关人员,快速得到答案。
1.2.14 完成时间
完成时间指标签最近一次逻辑确认开发完成的时间,或算法类标签最近一次稳定建模运行的版本时间。
组合标签按照组合复杂度可分为两个层级:
包括单个标签的取值处理加工、多个标签的取值处理加工。加工方式包括采用正则表达式、数学运算符、数据函数等各种统计运算。
2.2.1 跨对象标签组合设计步骤
2.2.2 跨对象标签组合设计的3个注意点
(1)始终记住标签和数据结果是不一样的
标签是基础、可复用的数据资产,而一般业务的数据结果需求其实是对数据服务的需求。数据服务往往由相关的标签+对标签处理操作的过程组成。
(2)找出两个对象的关系标签非常重要
两个对象的标签需要通过关联标签合成一个标签,实现对象的跨越。
(3)标签设计过程与标签使用过程是逆向过程
在复杂数据应用场景中,标签设计过程是从业务需求结果倒推、拆解到基础标签;而标签使用过程是从最初的基础标签操作到业务需求结果产出为止。
数据中台的核心要义是提升可复用性,降低业务试错成本,最大程度解放业务人员的能动性和积极性。在系统复用层面有4中层级:
3.2.1 标签的自由选择
标签是数据资产层面的概念,是数据信息的最小单元,将数据用标签封装后,只需要每次在标签门户/标签集市中选择所需的标签,即可进入使用和设置环节,二不用每次都进行查表、读数、编写代码调取数据表等操作。
3.2.2 标签的使用配置
服务组件有两大特性:
通过以上两步——标签的自由选择及服务组件的零代码配置,就可以通过平台级复用方式完成数据服务/数据应用系统的开发。这种使用标签的方式才能给业务侧赋能:极大提升标签使用效率,充分优化标签质量,建立数据端和商业端的价值联系。
在企业大规模的数据使用中,标签必须配合服务组件使用,才能最大程度发挥数据价值和保障数据服务的稳定性。
3.3.1 服务组件
服务组件是某种数据功能的工程化封装,一般提供交互界面方式实现导入或关联数据标签、服务功能设置等操作,输出方式有两种:
3.3.2 数据服务
数据服务是指铜鼓API形式提供某种数据功能,以满足业务系统调用所需。
3.3.3 数据应用
数据应用指向业务侧提供带交互界面的数据功能组合,是数据应用结果的系统呈现。
4.1.1 标签设计
数据资产设计师根据业务调研、数据调研等前期工作开展标签设计工作,产出标签类目体系架构图和标签设计文档,包括标签对象、类目体系、标签名、标签加工类型、标签逻辑、值字段、取值类型、示例、更新周期等元标签信息。
4.1.2 标签开发
标签设计完成后,按照加工类型对标签分类,然后提交给数据开发工程师和算法工程师,由他们进行各类标签的开发工作。原始类和统计类标签交由数据开发工程师完成,算法类标签交由算法工程师完成。在标签开发完成后,由数据开发工程师补录完整标签的物理存储信息,如表名、字段名、负责人、完成时间等,完成标签向数据层的映射。
4.1.3 标签上架
标签开发完成并补充完整元标签信息后,需要将标签在标签管理系统中上架。标签上架后,才能通过标签门户开放、展示给各端业务人员查看、咨询、使用。在此过程中,系统会根据标签的安全等级、部门角色等信息来确定不同账号的数据查看、申请使用权限。权限内容包括可见标签集范围、标签详情信息范围、可申请标签集范围等。
4.1.4 标签使用
标签只有被业务使用才能发挥价值。标签的使用有以下三种方式:
4.1.5 标签治理
4.1.6 标签营销
标签开发完成后,对外需要将标签价值进行梳理 、宣传和推广,让业务部门人员尽快了解到各类标签信息。
企业必须从标签价值实现为核心,不断地运营标签全生命周期,通过价值驱动和倒推标签治理优化、标签使用性能稳定、标签共享上架、标签开发效率提升、新标签的扩充、标签的源数据扩展等环节目标,才能最终实现数据资产价值持续稳定的增长。
标签的质量可从三大维度上评估:数据来源、标签加工过程和标签使用过程。
6.1.1 信息化建设
信息化建设的结果中,标签开发需要用到的源数据的存储成本是标签采集与存储成本的来源之一。
6.1.2 数据埋点
数据埋点是一种获取线上系统数据的方式。数据埋点所获得的日志数据存在大量的低价值信息,因此需要采用算法技术对这些行为数据进行建模和挖掘,找出其中真正有价值的数据。根据标签需要进行数据埋点的技术投入成本和埋点数据的存储成本是标签采集与存储成本的来源之二。
6.1.3 数据补录
对于一些线下的、核心信息系统之外的数据信息,可通过不录系统或在现有系统中补录信息的方式进行补充。根据标签需要进行数据补录的技术投入成本和补录数据的存储成本是标签采集与存储成本的来源之三。
6.1.4 数据爬虫
通过爬虫技术,企业可爬取自身经营、业务、知识领悟之外的信息,充分利用已公开的公共智慧。根据标签需要进行数据爬虫的技术投入和爬虫数据存储成本是标签采集与存储成本的来源之四。
6.1.5 数据收购
根据标签需要进行数据收购的资金成本和收购数据的存储成本是标签采集与存储成本的来源之五。
6.1.6 数据合作
共享的数据往往是统计结果数据,企业无法获得详细的数据记录,只能将其作为一些信息的补充。根据标签需要进行数据合作的投入成本和合作数据的存储成本是标签采集与存储承恩的来源之六。
标签设计环节包括数据调研摸底、行业业务场景研究、标签类目体系及具体标签设计等,这些过程中产生的成本基本上为人力成本;标签加工环节包括数据同步、数据清洗、数据开发、数据治理等子环节,会产生人力成本、技术投入成本、数据计算存储成本。
标签的使用成本主要有计算资源消耗成本、人力成本和标签信息系统开发运维成本。其中占比比较大的是标签使用过程中耗费的计算资源成本。不同计算引擎所消耗的数据存储、计算成本都不相同。一般场景越复杂,性能要求越高,所需的计算引擎成本越高。
通过对采集存储、设计加工、使用营销等过程的成本梳理,并追溯、分摊到每个标签,就可以计算出每个标签或标签服务的成本。这对标签及标签服务的商品化运营非常重要。
7.1.1 企业内部经营管理优化
将标签用于数据分析、监控预警等数据应用中,能够帮助企业经营者更好地分析其经营过程中核心环节的状况,是否出现异常报警并尽快处理。
7.1.2 企业对外的数据业务赋能
标签配合相应的数据引擎生成数据服务接口或数据应用,企业对外提供这些数据服务或数据应用,作为一种新型的数据服务。这种数据业务会为企业带来业务收入。
7.1.3 合规的数据交易产业
在数据交易过程中,保障数据的合规性、安全性和公允性是重中之重。如果能探索出一种新机制,标签服务的使用者会付费使用标签,那么标签价值就可以通过平台计量的服务使用费计算,并最终实现逆向追溯。
7.1.4 普惠民生的社会价值
除了企业之外,政府、机构等也需要数据资产赋能。很多城市正在建设的数字大脑、智慧城市等都属于大数据支持模块。政府、机构等通过大量的数据可对现状进行合理评估,对发展态势和风险进行预判和预警,并做出整体的规划。
7.2.1 收益法
在企业内部经营管理和对外的数据业务赋能过程中,可采用收益法来衡量标签服务价值。对内减少了多少成本支出,对外扩增了多少业务收入,这些收益的金钱量化都㐓认为是标签服务为企业带来的具体价值。
7.2.2 市场法
在合规的数据交易产业中,标签服务课由一定的生产提供方报价,消费方根据实际所需进行还价,或者采购价格更低的其他标签服务。
7.2.3 成本法
对于向普通民众开放的数据服务,政府、机构、企业累计投入了多少资金来设计、建设和持续运营,这种持续投入的数据建设成本可作为标签服务的价值衡量。
标签方法论与数仓建模都探究如何对数据资产进行提炼、操作、加工,都是数据资产构建方法,但是标签方法论更关注企业全局数据的整理梳理、类目化组织、面向业务端的数据资产复用,而数仓建模则侧重数据治理、数据规范、按领域建模,通过领域建模看到的是某个业务场景已有数据的切片,解决当前数据问题。