Mysql使用存储过程快速添加百万数据

2023-02-25 20:43:38 浏览数 (1)

前言

为了体现不加索引和添加索引的区别,需要使用百万级的数据,但是百万数据的表,如果使用一条条添加,特别繁琐又麻烦,这里使用存储过程快速添加数据,用时大概4个小时。创建一个用户表

代码语言:javascript复制
CREATE TABLE `t_sales` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `username` varchar(32) COLLATE utf8_bin DEFAULT NULL COMMENT '用户名',
  `password` varchar(64) COLLATE utf8_bin DEFAULT NULL COMMENT '密码 MD5存储',
  `register_time` timestamp NULL DEFAULT NULL COMMENT '注册时间',
  `type` int(1) DEFAULT NULL COMMENT '用户类型 1,2,3,4 随机',
  PRIMARY KEY (`id`),
  KEY `idx_username` (`username`) USING BTREE
)

然后创建存储过程,批量添加数据。

用户名以常量和数字拼接

密码是MD5密码

注册时间是当前时间随机往前推几天

type取1-4随机范围值

代码语言:javascript复制
DELIMITER //
create procedure salesAdd()
begin 
declare i int default 11;
 while i <= 4000000 do
       insert into blog.t_sales
       (`username`,`password`,`register_time`,type) values
       (concat("jack",i),MD5(concat("psswe",i)),from_unixtime(unix_timestamp(now()) - floor(rand() * 800000)),floor(1   rand() * 4)); 
       set i = i   1; 
 end while; 
end //
DELIMITER ;

这里需要注意的是DELIMITER//和DELIMITER;两句, DELIMITER是分割符的意思,因为MySQL默认以";"为分隔符,如果我们没有声明分割符,那么编译器会把存储过程当成SQL语句进行处理,则存储过程的编译过程会报错,所以要事先用DELIMITER关键字申明当前段分隔符,这样MySQL才会将";"当做存储过程中的代码,不会执行这些代码。

然后调用存储过程

代码语言:javascript复制
call salesAdd()

改进版

虽然使用存储过程添加数据相对一个个添加更加便捷,快速,但是添加几百万数据要花几个小时时间也是很久的,后面在网上找到不少资料,发现mysql每次执行一条语句都默认自动提交,这个操作非常耗时,所以在在添加去掉自动提交。设置 SET AUTOCOMMIT = 0;

代码语言:javascript复制
DELIMITER //
create procedure salesAdd()
begin 
 declare i int default 1;
 set autocommit = 0;   
   while i <= 4000000 do
         insert into blog.t_sales
         (`username`,`password`,`register_time`,type) values
         (concat("jack",i),MD5(concat("psswe",i)),from_unixtime(unix_timestamp(now()) - floor(rand() * 800000)),floor(1   rand() * 4)); 
         set i = i   1; 
   end while;
 set autocommit = 1;     
end //
DELIMITER ;

执行时间387秒,约为六分钟,其中还有一半时间用于md5、随机数的计算。

代码语言:javascript复制
[SQL]
call salesAdd();
受影响的行: 0
时间: 387.691s

0 人点赞