向spark集群提交消费kafka应用时kafka鉴权配置问题-创新互联

提交消费kafka应用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的应用,通过classload读不到jar包中配置文件。

成都创新互联服务项目包括卫辉网站建设、卫辉网站制作、卫辉网页制作以及卫辉网络营销策划等。多年来,我们专注于互联网行业,利用自身积累的技术优势、行业经验、深度合作伙伴关系等,向广大中小型企业、政府机构等提供互联网行业的解决方案,卫辉网站推广取得了明显的社会效益与经济效益。目前,我们服务的客户以成都为中心已经辐射到卫辉省份的部分城市,未来相信会继续扩大服务区域并继续获得客户的支持与信任!

需要初始化kafka时增加properties属性。

kafkaParams.put("sasl.jaas.config", "xxxx required\n"+
                " accessKey=\"xxxx\"\n"+
                " securityKey=\"xxxxx\";");

换行,冒号,引号都不能少

注意kafka的依赖为:


    
     org.apache.kafka
     kafka-clients
     1.0.0
    

    同时要去掉spark-streaming-kafka中的kafka依赖

   
     
         org.apache.spark
         spark-streaming-kafka-0-10_2.11
         2.3.1
         
         
          org.apache.kafka
          kafka-clients
         

         

     


另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


本文名称:向spark集群提交消费kafka应用时kafka鉴权配置问题-创新互联
URL分享:http://azwzsj.com/article/ceessi.html