跳到正文

数据分析与预处理

頻出约 21 分钟3 个术语过去问 3 题

本单元目标

  • 能列举数据清洗要修正的几类问题,并说明为什么要在分析之前进行
  • 能说明数据的结合如何以共同的列为线索,把多张表合并成一张
  • 能说明编码设计要确定的位数和编排方式,以及校验位的作用
术语总表(3 个)
术语一句话使用场合
データクレンジング找出并纠正数据中的错误和不统一之处用于汇总、分析或存储之前
データの結合用共同的列对照多张表,把它们合并成一张所需信息分散在多张表中时
コード設計确定给数据项目编配的编号或符号体系设计数据登记机制时

术语

データクレンジング数据清洗

在术语表中打开 データクレンジング

数据清洗(データクレンジング)是找出并纠正所收集数据中的错误和不统一之处、提升数据质量的工作。

问题类型示例处理方法
写法不一致“3号楼”和“三号楼”混用,全角和半角数字并存统一为其中一种写法
重复同一会员在入会时和重新注册时各登记了一条合并为一条
缺失邮政编码一栏是空的根据其他信息补上,或不纳入汇总
错误、异常值年龄一栏填的是 250核对原始记录后改正

常见的问题有输入错误、同一对象被登记两次的重复、同一内容用不同写法录入的写法不一致,以及该有值却空着的缺失。带着这些问题去汇总或结合,就会出现同一个人被当成两个人来计数之类的情况,结果也就不可信了。所以,清洗要放在数据用于分析或存储之前进行。

类比就像寄贺卡前整理通讯录:同一个朋友因为改名被记了两次,就合并成一条;有人搬了家,就先改好地址,再打印收件人信息。

记法英语 cleanse 意为“洗净”,和卸妆用的“洁面(cleansing)”是同一个词,可以想象把数据上的污渍洗掉。

考点

  • 常考数据清洗(データクレンジング)纠正的是数据的值和记录中的错误和不统一。把业务数据的结构拆成实体和关系来整理,叫作数据建模(データモデリング),两者目的不同。

该术语的过去问 1 题 データクレンジング

データの結合数据的结合

在术语表中打开 データの結合

数据的结合(データの結合)是用共同的列(键)的值对照各自独立的表,把它们合并成一张表的操作。

  1. 会员表和购买表
  2. 确定共同的列
  3. 对应值相同的行
  4. 合成一张表

姓名和购买金额排在同一行,一张表就能看出谁买了多少。

4 / 4

结合时,以两张表中含义相同的列为线索,把值相同的行配成一对,再把各自的列横向拼接起来。这样就能得到单看一张表无法知道的信息组合。找不到对应行的数据怎么处理,取决于结合的方式,例如有一种方式只保留匹配上的行。

类比就像拿快递单的存根和客户名册,按单上的客户编号逐一核对,再把收件人的电话号码补写到存根上。

记法英语叫 join,可以想象两张表借共同的列手拉手。

考点

  • 常考把表与表连起来的线索,是两张表中含义相同的列。多数情况下,用的是一张表中用来区分各行的主键(主キー),以及另一张表中引用该值的外键(外部キー)。
  • 易混数据的结合(データの結合)是把分散在不同表中的信息组合起来的操作,与纠正错误和不统一、提升质量的数据清洗(データクレンジング)目的不同。基本顺序是先清洗,再结合。

「数据清洗」与「数据的结合」的区别

比较点数据清洗数据的结合
关键目的消除错误和不统一,提升质量把分散在不同表中的信息组合起来
处理之后得到值和记录都正确、规整的数据得到一张列横向拼接起来的表

编码设计(コード設計)是为商品、客户等数据项目所编配的编码(编号或符号)确定位数、编排方式及各位含义的工作。

编排方式举例确定方法示例
顺序编码按登记顺序编连续号0001、0002、0003
区段编码按号码范围分配类别100~199 为饮料,200~299 为零食
分位编码按数位的位置规定含义前 2 位表示地区,接下来的 2 位表示门店
表意编码用文字或缩写让人看出内容TV-32 表示 32 英寸电视

编码的作用是唯一地区分各个项目,如果让数位或号码范围带上含义,还能用来分类和汇总。为了将来增加项目时号码不至于不够用,位数要留有余量。为了发现输入错误,有时还会加上校验位,它是由其他各位按固定规则算出的检查用数字。

类比就像邮政编码:开头的数字表示大致的地区,越往后的数字代表越小的区域,所以只看号码就能知道投递地址的大概位置。

记法英语 digit 意为“数字”或“位”,记作用来 check(检查)的 digit。

考点

  • 常考校验位(チェックディジット)是由原有各位数字按规定的规则计算出来的数字。对输入的编码按同一规则重新计算,结果对不上,就说明输入有误。

该术语的过去问 1 题 コード設計

要点

  • 数据清洗处理值的错误、重复、写法不一致和缺失等问题,以提升数据质量,要在汇总和分析之前进行。
  • 数据的结合把两张表中含义相同的列的值相同的行配成一对,合并成一张表。
  • 编码设计要确定位数、编排方式和各位含义,使项目能被唯一区分,将来增加项目时号码也够用。
  • 加上校验位后,把输入的编码重新计算一遍,结果对不上就说明输错了。

确认题

从本单元的过去问中选 3 题

开始做确认题

查看这个领域的全部过去问