来源:https://segmentfault.com/p/1210000011760973/read
猴哥推荐寄语:
数据分析中有个数据仓库的概念,它本质上是通过数据库技术来存储数据的。只不过数据仓库更适用于数量庞大的场景,同时它按照更方便于数据分析和数据挖掘的形式来存储。
本篇文章是 《SQL 必知必会》 的读书笔记,SQL必知必会的英文名叫做 Sams Teach Yourself in 10 Minutes。但是,我肯定是不能够在10分钟就能学会本书所有涉及到的sql,所以就起个名字叫30分钟学会SQL语句。
目前手边的数据库是 mysql,所以以下示例均是由 mysql 演示。由于现在大部分工具都支持语法高亮,所以以下关键字都使用小写。
一. 准备
1、工具
mycli,一个使用python编写的终端工具,支持语法高亮,自动补全,多行模式,并且如果你熟悉vi的话,可以使用vi-mode快速移动,编辑。总之,vi mycli 简直是神器!
同样, postgreSQL
可以使用pgcli。
pip install -U mycli # 默认你已经安装了pip
2、样例表
示例中有两个表,分为 student 学生表与 class 班级表。student 表中有 class_id 关联 class 表。以下是两个表数据的 sql。另外,最后有三道小练习题会用到样例表。
代码语言:javascript复制create table class (
id int(11) not null auto_increment,
name varchar(50) not null,
primary key (id)
);
create table student (
id int(11) not null auto_increment,
name varchar(50) not null,
age smallint default 20,
sex enum('male', 'famale'),
score tinyint comment '入学成绩',
class_id int(11),
createTime timestamp default current_timestamp,
primary key (id),
foreign key (class_id) references class (id)
);
insert into class (name) values ('软件工程'), ('市场营销');
insert into student (name, age, sex, score, class_id) values ('张三', 21, 'male', 100, 1);
insert into student (name, age, sex, score, class_id) values ('李四', 22, 'male', 98, 1);
insert into student (name, age, sex, score, class_id) values ('王五', 22, 'male', 99, 1);
insert into student (name, age, sex, score, class_id) values ('燕七', 21, 'famale', 34, 2);
insert into student (name, age, sex, score, class_id) values ('林仙儿', 23, 'famale', 78, 2);
2. SQL 基础
1、术语
Database
数据库值一系列有关联数据的集合,而操作和管理这些数据的是DBMS,包括MySQL,PostgreSQL,MongoDB,Oracle,SQLite等等。RDBMS 是基于关系模型的数据库,使用 SQL 管理和操纵数据。另外也有一些 NoSQL 数据库,比如 MongoDB。因为 NoSQL为非关系型数据库,一般不支持join操作,因此会有一些非正则化(denormalization)的数据,查询也比较快。
Table
具有特定属性的结构化文件。比如学生表,学生属性有学号,年龄,性别等。schema (模式) 用来描述这些信息。NoSQL 不需要固定列,一般没有 schema,同时也利于垂直扩展。
Column
表中的特定属性,如学生的学号,年龄。每一列都具有数据类型。
Data Type
每一列都具有数据类型,如 char, varchar,int,text,blob, datetime,timestamp。根据数据的粒度为列选择合适的数据类型,避免无意义的空间浪费。如下有一些类型对比
char, varchar
代码语言:javascript复制需要存储数据的长度方差小的时候适合存储`char`,否则`varchar`。
`varchar` 会使用额外长度存储字符串长度,占用存储空间较大。
两者对字符串末尾的空格处理的策略不同,不同的DBMS又有不同的策略,设计数据库的时候应当注意到这个区别。
datetime, timestamp
代码语言:javascript复制`datetime` 存储时间范围从1001年到9999年。
`timestamp` 保存了自1970年1月1日的秒数,因为存储范围比较小,自然存储空间占用也比较小。
日期类型可以设置更新行时自动更新日期,建议日期时间类型根据精度存储为这两个类型。
如今 DBMS 能够存储微秒级别的精度,比如 `mysql` 默认存储精度为秒,但可以指定到微秒级别,即小数点后六位小数
enum
代码语言:javascript复制对于一些固定,不易变动的状态码建议存储为 `enum` 类型,具有更好的可读性,更小的存储空间,并且可以保证数据有效性。
小问题:如何存储IP地址?
Row
数据表的每一行记录。如学生张三。
2、检索数据
代码语言:javascript复制# 检索单列
select name from student;
# 检索多列
select name, age, class from student;
# 检索所有列
select * from student;
# 对某列去重
select distinct class from student;
# 检索列-选择区间
# offset 基数为0,所以 `offset 1` 代表从第2行开始
select * from student limit 1, 10;
select * from student limit 10 offset 1;
3、排序
默认排序是 ASC,所以一般升序的时候不需指定,降序的关键字是 DESC。使用 B-Tree 索引可以提高排序性能,但只限最左匹配。关于索引可以查看以下 FAQ。
代码语言:javascript复制# 根据学号降序排列
select * from student order by number desc;
# 添加索引 (score, name) 可以提高排序性能
# 但是索引 (name, score) 对性能毫无帮助,此谓最左匹配
select * from student order by score desc, name;
4、数据过滤
代码语言:javascript复制# 找到学号为1的学生
select * from student where number = 1;
# 找到学号为在 [1, 10] 的学生(闭区间)
select * from student where number between 1 and 10;
# 找到未设置电子邮箱的学生
# 注意不能使用 =
select * from student where email is null;
# 找到一班中大于23岁的学生
select * from student where class_id = 1 and age > 23;
# 找到一班或者大于23岁的学生
select * from student where class_id = 1 or age > 22;
# 找到一班与二班的学生
select * from student where class_id in (1, 2);
# 找到不是一班二班的学生
select * from student where class_id not in (1, 2);
5、计算字段
CONCAT
代码语言:javascript复制select concat(name, '(', age, ')') as nameWithAge from student;
select concat('hello', 'world') as helloworld;
Math
代码语言:javascript复制select age - 18 as relativeAge from student;
select 3 * 4 as n;
更多函数可以查看 API 手册,同时也可以自定义函数(User Define Function)。
可以直接使用 select 调用函数
代码语言:javascript复制select now();
select concat('hello', 'world');
6、数据汇总
聚集函数,一些对数据进行汇总的函数,常见有 COUNT, MIN, MAX, AVG, SUM 五种。
代码语言:javascript复制# 统计1班人数
select count(*) from student where class_id = 1;
7、数据分组
使用 group by 进行数据分组,可以使用聚合函数对分组数据进行汇总,使用 having 对分组数据进行筛选。
代码语言:javascript复制# 按照班级进行分组并统计各班人数
select class_id, count(*) from student group by class_id;
# 列出大于三个学生的班级
select class_id, count(*) as cnt from student group by class_id having cnt > 3;
8、子查询
代码语言:javascript复制# 列出软件工程班级中的学生
select * from student where class_id in (
select id from class where class_id = '软件工程'
);
9、关联联接
虽然两个表拥有公共字段便可以创建联接,但是使用外键可以更好地保证数据完整性。比如当对一个学生插入一条不存在的班级的时候,便会插入失败。一般来说,联接比子查询拥有更好的性能。
代码语言:javascript复制# 列出软件工程班级中的学生
select * from student, class
where student.class_id = class.id and class.name = '软件工程';
内联接
内联接又叫等值联接。
代码语言:javascript复制# 列出软件工程班级中的学生
select * from student
inner join class on student.class_id = class.id
where class.name = '软件工程';
自联接
代码语言:javascript复制# 列出与张三同一班级的学生
select * from student s1
inner join student s2 on s1.class_id = s2.class_id
where s1.name = '张三';
外联接
代码语言:javascript复制# 列出每个学生的班级,弱没有班级则为null
select name, class.name from student
left join class on student.class_id = class.id;
10、插入数据
可以采用以下方法插入一条数据,不过严重依赖表中列的顺序关系,推荐指定列名插入数据,并且可以插入部分列。
代码语言:javascript复制# 插入一条数据
insert into student values(8, '陆小凤', 24, 1, 3);
insert into student(name, age, sex, class_id) values(9, '花无缺', 25, 1, 3);
11、修改数据
更新
代码语言:javascript复制# 修改张三的班级
update student set class_id = 2 where name = '张三';
删除
代码语言:javascript复制# 删除张三的数据
delete from student where name = '张三';
# 删除表中所有数据
delete from student;
# 更快地删除表中所有数据
truncate table student;
12、创建表与更新表
代码语言:javascript复制# 创建学生表
create table student (
id int(11) not null auto_increment,
name varchar(50) not null,
age smallint default 20,
sex enum('male', 'famale'),
score tinyint comment '入学成绩',
class_id int(11),
createTime timestamp default current_timestamp,
primary key (id),
foreign key (class_id) references class (id)
);
# 根据旧表创建新表
create table student_copy as select * from student;
# 删除 age 列
alter table student drop column age;
# 添加 age 列
alter table student add column age smallint;
# 删除学生表
drop table student;
13、视图
视图是一种虚拟的表,便于更好地在多个表中检索数据,视图也可以作写操作,不过最好作为只读。在需要多个表联接的时候可以使用视图。
代码语言:javascript复制create view v_student_with_classname as
select student.name name, class.name class_name
from student left join class
where student.class_id = class.id;
select * from v_student_with_classname;
14、约束
primiry key
任意两行绝对没有相同的主键,且任一行不会有两个主键且主键绝不为空。使用主键可以加快索引。
代码语言:javascript复制alter table student add constraint primary key (id);
foreign key
外键可以保证数据的完整性。有以下两种情况。
- 插入张三丰5班到student表中会失败,因为5班在class表中不存在。
- class表删除3班会失败,因为陆小凤和楚留香还在3班。
alter table student add constraint foreign key (class_id) references class (id);
unique key
唯一索引保证该列值是唯一的,但可以允许有null。
代码语言:javascript复制alter table student add constraint unique key (name);
check
检查约束可以使列满足特定的条件,如果学生表中所有的人的年龄都应该大于0。
代码语言:javascript复制不过很可惜mysql不支持,可以使用触发器代替
alter table student add constraint check (age > 0);
index
索引可以更快地检索数据,但是降低了更新操作的性能。
代码语言:javascript复制create index index_on_student_name on student (name);
alter table student add constraint key(name );
15、触发器
可以在插入,更新,删除行的时候触发事件。
代码语言:javascript复制# 创建触发器
# 比如mysql中没有check约束,可以使用创建触发器,当插入数据小于0时,置为0。
create trigger reset_age before insert on student for each row
begin
if NEW.age < 0 then
set NEW.age = 0;
end if;
end;
# 打印触发器列表
show triggers;
16、存储过程
存储过程可以视为一个函数,根据输入执行一系列的 sql 语句。存储过程也可以看做对一系列数据库操作的封装,一定程度上可以提高数据库的安全性。
代码语言:javascript复制# 创建存储过程
create procedure create_student(name varchar(50))
begin
insert into students(name) values (name);
end;
# 调用存储过程
call create_student('shanyue');
3.SQL 练习
1. 根据班级学生的分数进行排名,如果分数相等则为同一名次
代码语言:javascript复制select id, name, score, (
select count(distinct score) from student s2 where s2.score >= s1.score
) as rank
from student s1 order by s1.score desc;
在where以及排序中经常用到的字段需要添加Btree索引,因此 score 上可以添加索引。
Result:
id | name | score | rank |
---|---|---|---|
1 | 张三 | 100 | 1 |
3 | 王五 | 99 | 2 |
2 | 李四 | 98 | 3 |
5 | 林仙儿 | 78 | 4 |
4 | 燕七 | 34 | 5 |
2. 写一个函数,获取第 N 高的分数
代码语言:javascript复制create function getNthHighestScore(N int) return int
begin
declare M int default N-1;
return (
select distinct score from student order by score desc limit M, 1;
)
end;
select getNthHighestScore(2);
Result:
getNthHighestScore(2) | |
---|---|
99 |
3. 检索每个班级分数前两名学生,并显示排名
代码语言:javascript复制select class.id class_id, class.name class_name,
s.name student_name, score, rank
from (
select *, (
select count(distinct score) from student s2
where s2.score >= s1.score and s2.class_id = s1.class_id
) as rank from student s1
) as s left join class on s.class_id = class.id where rank <= 2;
# 如果不想在from中包含select子句,也可以像如下检索,不过不显示排名
select class.id class_id, class.name class_name, s1.name name, score
from student s1 left join class on s1.class_id = class.id
where (select count(*) from student s2
where s2.class_id = s1.class_id and s1.score <= s2.score
) <= 2
order by s1.class_id, score desc;
Result:
class_name | student_name | score | rank |
---|---|---|---|
软件工程 | 张三 | 100 | 1 |
软件工程 | 王五 | 99 | 2 |
市场营销 | 燕七 | 34 | 2 |
市场营销 | 林仙儿 | 78 | 1 |
FAQ
1. inner join
与 outer join
的区别是什么
2. 如何根据一个表的数据更新另一个表
比如以上 student 表保存着成绩,另有一表 score_correct 内存因失误而需修改的学生成绩。
在mysql中,可以使用如下语法
代码语言:javascript复制update student, score_correct
set student.score = score_correct.score
where student.id = score_correct.uid;
3. 索引是如何工作的
简单来说,索引分为 hash 和 B-Tree 两种。hash 查找的时间复杂度为O(1)。B-Tree 其实是 B Tree,一种自平衡多叉搜索数,自平衡代表每次插入和删除数据都会需要动态调整树高,以降低平衡因子。B Tree 只有叶子节点会存储信息,并且会使用链表链接起来。因此适合范围查找以及排序,不过只能搜索最左前缀,如只能索引以 a开头的姓名,却无法索引以 a结尾的姓名。另外,Everything is trade off。B Tree的自平衡特性保证能够快速查找的同时也降低了更新的性能,需要权衡利弊。
4. 如何联接多个行的字段
在mysql中,可以使用 group_concat
代码语言:javascript复制select group_concat(name) from student;
5. 如何在一个sql语句中插入多行数据
values 使用逗号相隔,可以插入多行数据
代码语言:javascript复制insert into student(id, name) values (), (), ()
6. 如何在 select
中使用条件表达式
示例,在student表中,查询所有人成绩,小于60则显示为0
代码语言:javascript复制select id, name, if(score < 60, 0, score) score from student;
7. 如何找到重复项
代码语言:javascript复制select name, sex, count(*) times from student
group by name, sex
having times > 1;
8. 什么是SQL注入
如有一条查询语句为
代码语言:javascript复制"select * from (" table ");"
当table取值 student);drop table student;--
时,语句变为了,会删掉表,造成攻击。
"select * from (student); drop table student; --);"
---End---