Postgresql支持的浮点类型和区别案例

2022-09-21 15:03:31 浏览数 (1)

Postgresql提供四类浮点型,其中两类完全相同decimal、numeric;按功能看可以分成两类:

  • 精确型:decimal、numeric
  • 不精确型:read、double precision

https://www.postgresql.org/docs/14/datatype-numeric.html

为什么说不精确呢?因为数据类型成功插入后,查询出来值可能和你插入的值不一样,原因是长度截断和四舍五入。 精确类型不会发生截断且如果超长了直接报错,主要插入成功了,查出来的一定等于插入的结果。

看下具体例子:

real:【不精确类型】【定长类型】PG10:六位有效数字,会四舍五入(PG14八位有效数字)

代码语言:javascript复制
create table f1 (a real);
insert into f1 values (1.23456789);
insert into f1 values (1234.23456789012345);
insert into f1 values (123456.23456789);
insert into f1 values (123456.23456789012345);
select * from f1;
    a    
---------
 1.23457
 1234.23
  123456
  123456

double:【不精确类型】【定长类型】PG10:十五位有效数字,会四舍五入(PG14十七位有效数字)

代码语言:javascript复制
create table f2 (a double precision);
insert into f2 values (123456789.123456789);
insert into f2 values (1.1234567890123456789);
insert into f2 values (12345678901234567890.1234567890123456789);
select * from f2;
          a           
----------------------
     123456789.123457
     1.12345678901235
 1.23456789012346e 19

decimal / numeric:【精确类型】【变长类型】不会四舍五入,最高小数点前131072位,以及小数点后16383位,超出报错:ERROR: value overflows numeric format

代码语言:javascript复制
create table f3 (a decimal);
insert into f3 values (123456789.123456789);
insert into f3 values (1.1234567890123456789);
insert into f3 values (12345678901234567890.1234567890123456789);
insert into f3 values (12345678901234567890.12345678901234567890123456789012345678901234567890);
select * from f3;
                                   a                                    
------------------------------------------------------------------------
                                                    123456789.123456789
                                                  1.1234567890123456789
                               12345678901234567890.1234567890123456789
 12345678901234567890.1234567890123456789012345678901234567890123456789

从存储角度看,real、double是定长类型,decimal / numeric是变长类型。

在构造tuple时,计算数据长度会走不同分支:

(《Postgresql源码(58)元组拼接heap_form_tuple剖析》)

代码语言:javascript复制
	real类型长度计算:定长计算方法
		heap_compute_data_size
			data_length = att_align_datum(data_length, atti->attalign, atti->attlen, val);
			data_length = att_addlength_datum(data_length, atti->attlen, val);
 
	decimal类型长度计算:变长计算方法
		heap_compute_data_size
			if (ATT_IS_PACKABLE(atti) && VARATT_CAN_MAKE_SHORT(DatumGetPointer(val)))
				data_length  = VARATT_CONVERTED_SHORT_SIZE(DatumGetPointer(val));

0 人点赞