作者:贾胜杰,硕士,退役军人,电气工程专业,现成功转行K12领域数据挖掘工程师,不仅在数据清理、分析和预测方向,而且在自制力和高效学习方面都有丰富经验。 编辑:王老湿
《从0到1,数据分析师修炼之路》专栏的已经发布了两篇文章,分别讲述了什么是商业数据分析师 以及 如何成为一名商业数据分析师。今天将会带来数据分析师的“技法修炼”相关的内容,这些技法包括SQL,Python和统计学,具体的学习修炼安排如下:
- SQL
- SQL基础:语法,检索,排序,过滤,创建计算字段和使用别名;
- SQL进阶:链接表,聚合,分组,条件判断,子查询以及时间序列的处理;
- Python
- Python基础:语法,数据类型,运算符,控制流,函数,脚本编写及本地环境搭建;
- Python数据处理:Numpy与Pandas;
- Python可视化:Matplotlib,Pyecharts;
- 统计学
- 统计学基础:描述统计学,概率,正态分布,随机抽样,中心极限定律等;
- 统计学进阶:推论统计学,置信区间,假设检验,线性回归,逻辑回归等。
所有以上的这些技法都只是工具,所以要以会用且熟练为目的,把学习重点放在应用层面,多动手便能事半功倍!我们今天先从数据分析必备技能中最为简单的SQL来开始学习吧!(这篇文章介绍的主要是SQL基础,文章末尾也会给出在线的练习SQL的网站)
知识清单
SQL简介
SQL是Structured Query Language的简写,也就是结构化查询语言。它最受欢迎的功能便是对数据库中的数据进行增删改查。作为数据分析师,会经常使用SQL语言从数据库中查询并提取数据,而增删改则一般由数据工程师去操作。
你可能听说过 NoSQL,它表示 Not only SQL(不仅仅是 SQL),与NoSQL的数据库进行交互时,你编写的代码会与本课程中所学的SQL有所不同。最常用的 NoSQL 语言之一是 MongoDB(https://www.mongodb.com/),可以自行了解一下~
书写规则及注释
就像我们刚开始学写字一样,在学习编写代码之前,我们也要先了解这门语言规范的书写规则和注释方法。
这部分虽然比较简单,但非常重要,有时候这不仅关系到你的饭碗,甚至还会危及到你的性命?,不信你可以看这篇假新闻:因代码规范问题,美国一码农枪杀了4个同事 (https://yq.aliyun.com/articles/644710)
SQL书写规则
- SQL语句不区分大小写,因此SELECT与select甚至是SeLect的效果是相同的,但是要对命令和变量进行区分,所以默认命令需要大写,其他内容如变量等则需要小写;
- 表和变量名中不要出现空格,可使用下划线
_
替代; - 查询语句中,使用单一空格隔开命令和变量;
- 为提高代码的可移植性,请在查询语句结尾添加一个分号
;
。
SQL中的注释
代码是给电脑看的,而注释则是给人看的,是对你写这行代码的思路解释,方便自己做debug或者给同事交接。
- 单行注释
使用两个连字符
-
,添加注释。
SELECT col_name -- 这是一条注释
FROM table_name;
- 多行注释
多行注释以/*
起始,以*/
结尾。
/*SELECT col_name
FROM table_name;*/
SELECT col_2
FROM table_name;
检索数据
检索数据主要用的语句为:SELECT和FROM,意为从(FROM)xxx表中选择(SELECT)xxx变量,下面看示例。
- 检索单列
从table_name表中检索col_name列。
代码语言:javascript复制SELECT col_name
FROM table_name;
- 检索多列
从table_name表中检索col_1,col_2和col_3列。
代码语言:javascript复制SELECT col_1,col_2,col_3
FROM table_name;
- 检索所有列
使用通配符*
,返回table_name表中的所有列;
SELECT *
FROM table_name;
- 检索某列中不同的值
检索col_1中具有唯一性的行,即唯一值。
代码语言:javascript复制SELECT DISTINCT col_1
FROM table_name;
- 限制检索的结果
使用LIMIT语句可以限制返回的行数。
代码语言:javascript复制SELECT col_1
FROM table_name
LIMIT 10;
返回前10行(即第0-第9行)。
也可以添加OFFSET语句,设置返回数据的起始行:
代码语言:javascript复制SELECT col_1
FROM table_name
LIMIT 10 OFFSET 5;
从第五行之后,返回十行数据(即第5-第14行)。
排序检索数据
排序需要使用的子句是:ORDER BY。
- 其可以根据指定的单列或多列对结果进行排序;
- 默认按照升序进行排序(从小到大,从a到z),使用DESC关键字可以改为降序;
- 在使用ORDER BY时,请确保它是SELECT语句中的最后一条子句。
下面请看示例:
- 按列排序
SELECT col_name
FROM table_name
ORDER BY col_name;
返回的数据会按照col_name列进行升序排序,这里col_name可以是单列也可以是多列,当然也可以使用非检索的列进行排序。
- 降序排序
SELECT col_1,col_2
FROM table_name
ORDER BY col_2 DESC,col_3;
返回的数据会按照col_2列降序,col_3列升序对col_1和col_2两列进行排序。
这里可以看出,DESC关键字的用法:只对跟在语句前面的变量有效。所以,想要对多列进行降序排序时,需要对每一列都指定DESC关键字。
过滤数据
我们使用WHERE子句来根据某个条件对筛选的数据进行过滤。
- WHERE子句应该写在表名(即FROM子句)之后,在ORDER BY子句之前;
- 使用的基本方式为:
WHERE 列名 运算符 值
; - 过滤条件是区分大小写的。
使用示例:
在表table_1列col_1中筛选出满足条件col_1 运算符 value
的值。
SELECT col_1
FROM table_1
WHERE col_1 运算符 value;
- 运算符
运算符 | 描述 |
---|---|
= | 等于 |
<> | 不等于 |
> | 大于 |
< | 小于 |
>= | 大于等于 |
<= | 小于等于 |
BETWEEN…AND… | 在指定的两值之间 |
IS NULL | 为NULL值 |
AND | 逻辑运算符:与 |
OR | 逻辑运算符:或 |
IN | 条件范围筛选 |
NOT | 逻辑运算符:非 |
⚠️ SQL的版本不同,可能导致某些运算符不同(如不等于可以用!=表示),具体要查阅数据库文档。 在同时输入AND和OR时,SQL会优先处理AND语句,所以为了建议大家在进行多条件筛选时,请用小括号将每个条件单独扩起来,这样既方便阅读代码,又不容易出问题。
- 用通配符进行过滤(LIKE)
通配符用来匹配值的一部分,跟在LIKE关键字后面进行数据过滤。
通配符 | 描述 |
---|---|
% | 表示任何字符出现任意次数 |
_ | 表示任何字符出现一次 |
[] | 指定一个字符集,它必须匹配该位置的一个字符 |
^ | 在[]中使用,表示否定 |
示例:
代码语言:javascript复制SELECT col_1
FROM table_1
WHERE col_1 LIKE '_[^JM]%'
ORDER BY col_1;
如上筛选出的是,第二个字符为非J且非M的数据。
创建计算字段
其实就是在检索数据的同时进行计算,并使用关键字AS将结果保存为某一列。
- 数值类型的计算
SELECT prod_id,quantity,item_price,quantity*item_price AS expanded_price
FROM orderitems
WHERE order_num = 200008;
输出:
代码语言:javascript复制prod_id quantity item_price expanded_price
---------------------------------------------
RGAN01 5 4.9900 24.9500
BR03 5 11.9900 59.9500
这里实现的就是使用quantity*item_price
创建一个名为expanded_price
的计算字段,也就是一个新列。
同样适用于计算的操作符有 (加),-(减)和/(除)。
- 字符类型的拼接
SELECT RTRIM(col_name) '(' RTRIM(col_country) ')' AS col_title
FROM table_name
ORDER BY col_name;
输出:
代码语言:javascript复制col_title
------------------------
Bear Emporium(USA)
Bears R Us(USA)
Jouets et ours(France)
这里实现的就是将col_name列与col_country列进行了拼接,新列的名字叫做col_title。
RTRIM()函数是去掉右边的所有空格,LTRIM()是去掉左边的所有空格,TRIM()是去掉两边的所有空格。
使用别名
在上一节中我们使用AS来为变量设置别名,你可能也见过如下所示的语句:
代码语言:javascript复制SELECT col1 col2 AS total, col3
当然没有 AS 的语句也可以实现使用别名:
代码语言:javascript复制FROM tablename t1
以及
代码语言:javascript复制SELECT col1 col2 total, col3
将col1 col2的结果设置名为total的列。
代码总结
语句 | 使用方法 | 其他详细信息 |
---|---|---|
SELECT | SELECT Col1, Col2, … | 选择要筛选的列 |
FROM | FROM Table | 提供列所在的表格 |
LIMIT | LIMIT 10 | 限制返回的行数 |
ORDER BY | ORDER BY Col | 根据列Col对查询的结果排序(顺序),可与 DESC 一起使用实现逆序。 |
WHERE | WHERE Col > 5 | 用于过滤结果的一个条件语句 |
LIKE | WHERE Col LIKE ‘%me%’ | 仅提取出列文本中包含 ‘me’ 的行 |
IN | WHERE Col IN (‘Y’, ‘N’) | 仅过滤行对应的列为 ‘Y’ 或 ‘N’的数据 |
NOT | WHERE Col NOT IN (‘Y’, “N’) | NOT表示非,与上行结果刚好互补。 |
AND | WHERE (Col1 > 5) AND (Col2 < 3) | AND表示与,过滤两个或多个条件均为真的数据 |
OR | WHERE Col1 > 5 OR Col2 < 3 | OR表示或,过滤至少某一条件为真的行 |
BETWEEN | WHERE Col BETWEEN 3 AND 5 | 与AND连用,比用运算符简单一些 |