一、背景
impala shell执行SQL语句时报错
二、报错内容
Memory limit exceeded: Could not allocate memory while trying to increase reservation.
三、解决办法
1.调参
mem_limit参数:(内存限制)
由守护程序本身强制执行的 Impala Daemon 的内存限制(以字节为单位)。如果达到该限制,Impalad Daemon 上运行的查询可能会被停止。将其留空可以让 Impala 选择自己的限制。使用 -1 B 值将指定无任何限制。
default_pool_mem_limit参数:(单池内存限制)
配置使用单个池时用于 Admission Control 的运行查询的最大内存。-1 或 0 表示无限制。已启用“用于 Admission Control 的动态资源池”时忽略。
总结:
一般调大 mem_limit参数或者将内存限制取消参数置为-1B即可。或
去配置文件修改 Impala Daemon 内存限制 mem_limit=-1b
单池内存限制 default_pool_mem_limit=-1b
2.简单粗暴
将执行报错的SQL使用HIVE去执行,新建一张临时表存储结果数据,再将临时表数据写入最后的目标表中。