Hive常见错误及解决方案

2020-10-28 16:08:01 浏览数 (1)

  此次博主为大家带来的是Hive常见错误及解决方案。

1.SecureCRT 7.3出现乱码或者删除不掉数据,免安装版的SecureCRT 卸载或者用虚拟机直接操作或者换安装版的SecureCRT

2.连接不上mysql数据库

  • (1)导错驱动包,应该把mysql-connector-java-5.1.27-bin.jar导入/opt/module/hive/lib的不是这个包。错把mysql-connector-java-5.1.27.tar.gz导入hive/lib包下。
  • (2)修改user表中的主机名称没有都修改为%,而是修改为localhost

3.hive默认的输入格式处理是CombineHiveInputFormat,会对小文件进行合并。

代码语言:javascript复制
hive (default)> set hive.input.format;
hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat

可以采用HiveInputFormat就会根据分区数输出相应的文件。

代码语言:javascript复制
hive (default)> set hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;

4.不能执行mapreduce程序 可能是hadoop的yarn没开启。 5.启动mysql服务时,报MySQL server PID file could not be found! 异常。 在/var/lock/subsys/mysql路径下创建hadoop102.pid,并在文件中添加内容:4396 6.报service mysql status MySQL is not running, but lock file (/var/lock/subsys/mysql[失败])异常。 解决方案:在/var/lib/mysql 目录下创建:

代码语言:javascript复制
- hadoopxxx.pid 文件,并修改权限为 777。

7.JVM堆内存溢出 描述:java.lang.OutOfMemoryError: Java heap space 解决:在yarn-site.xml中加入如下代码

代码语言:javascript复制
<property>
	<name>yarn.scheduler.maximum-allocation-mb</name>
	<value>2048</value>
</property>
<property>
  	<name>yarn.scheduler.minimum-allocation-mb</name>
  	<value>2048</value>
</property>
<property>
	<name>yarn.nodemanager.vmem-pmem-ratio</name>
	<value>2.1</value>
</property>
<property>
	<name>mapred.child.java.opts</name>
	<value>-Xmx1024m</value>
</property>

  好了。本期的分享到此结束!

0 人点赞