Spark中怎么调用Jni程序
本篇文章给大家分享的是有关Spark中怎么调用Jni程序,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。
创新互联是一家专业提供关岭企业网站建设,专注与网站设计、成都网站设计、H5开发、小程序制作等业务。10年已为关岭众多企业、政府机构等服务。创新互联专业网站设计公司优惠进行中。
1.jni调用中的资源销毁问题处理。
从saprk on yarn 模式下,每提交一次任务,就启动一组进程,并在任务完成后进程销毁,因此,只要确保全局资源只存在一份就可以保证不会发生内存泄漏,系统崩溃的情况。
2.jni程序中的多个方法之间静态对象可共享。
3.corsegenbackend进程在任务提交时被创建,并在任务执行完成后被销毁,此进程个数在yarn模式下通过 --num-executors设置。
4.在spark上,任务可能跑在多个进程上,如果jni程序中包含C++静态对象,如何确保静态对象只被初始化加载一次?。
解决方法:
1.写在 mapparition中,但是被调用次数过多是个缺点。
2.写在static块中,可以确保每个进程只对该方法调用一次。
5.spark中的mappartitions方法,如果在后台调用了一次 df.first();则可能会发生只被map一次的情况。
以上就是Spark中怎么调用Jni程序,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。
分享标题:Spark中怎么调用Jni程序
标题链接:http://azwzsj.com/article/iescod.html