GBase 8a
适配迁移
文章

862-23 R3导出、加载有kerberos认证的hdfs

发表于2024-03-31 14:12:53101次浏览1个评论

配置完成后一定要重启集群!!!!

gc层配置文件[gbased]部分加以下三个参数

gbase_hdfs_auth_mode=Kerberos

gbase_hdfs_namenodes='hadoop1.gbase.cn:50070,hadoop2.gbase.cn:50070'

gbase_hdfs_principal=gbase@GHD.GBASE

clipboard.png

 

gn层配置文件[gbased]部分加以下二个参数,就是gbase_hdfs_namenodes这个不需要

gbase_hdfs_auth_mode=Kerberos

gbase_hdfs_principal=gbase@GHD.GBASE

clipboard.png

 

gc和gn层config目录都要有gbase.kt文件

clipboard.png

 

clipboard.png

gbase> select * from ssbm.t1 into outfile 'hdp://gbase@hadoop1.gbase.cn:50070/tmp/t115' outfilemode by hdfs writemode by overwrites fields terminated by ',' enclosed by '\"' null_value '';

 

gbase> load data infile 'hdp://gbase@hadoop1.gbase.cn:50070/tmp/t115/*' into table  ssbm.t1 fields terminated by ',' enclosed by '\"'  data_format 3;

 

问题主要是由于hadoop2.7版本不支持对主机名进行转换引起,如果使用简短形式的主机名,与principal中使用的HTTP/hadoop2.gbase.cn@GHD.GBASE中的完整形式主机名不一致,hadoop就会报No valid credentials provided (Mechanism level: Failed to find any Kerberos credentails)

 

 

 

没有kerberos认证的hadoop

注:需要所有8a节点的/etc/hosts文件里,把hadoop的节点都加上

express引擎,只需要下面三项

gbase_hdfs_auth_mode=simple(默认simple,要是没改可不设)

gbase_hdfs_namenodes='nn1:port,nn2:port'(没有高可用,可以不设)

gbase_hdfs_protocol=http/https/rpc(默认http,根据实际选吧)

 

gc层配置文件中只加gbase_hdfs_namenodes='hadoop221.gbase.cn:50070,hadoop222.gbase.cn:50070',

最好是长域名

clipboard.png

 

gbase> select * from ssbm.t1 into outfile 'hdp://gbase@hadoop221.gbase.cn:50070/temp/t115' outfilemode by hdfs writemode by overwrites fields terminated by ',' enclosed by '\"' null_value '';

 

gbase> load data infile 'hdp://gbase@hadoop221.gbase.cn:50070/temp/t115/*' into table  ssbm.t1 fields terminated by ',' enclosed by '\"'  data_format 3;

clipboard.png

 

 

如果hadoop为3.X

gbase_hdfs_protocol参数设置为RPC,端口为9000

评论

登录后才可以发表评论
用户头像
levvel发表于 3个月前
内容很精彩!