#设置计算引擎
sethive.execution.engine=spark;
#设置spark提交模式
setspark.master=yarn-cluster;
#设置作业提交队列
setspark.yarn.queue=queue_name;
#设置对象序列化方式
setspark.serializer=org.apache.serializer.KyroSerializer;
#设置队列的名字
setmapreduce.job.queuename=root.users.hdfs;
#设置作业名称
setspark.app.name=job_name;
#该参数用于设置Spark作业总共要用多少个Executor进程来执行
setspark.executor.instances=25;
#设置执行器内存
setspark.executor.memory=8g
#设置执行器计算核个数
setspark.executor.cores=4;
#设置任务并行度
setmapred.reduce.tasks=;
#设置每个executor的jvm堆外内存
setspark.yarn.executor.memoryOverhead=;
#设置内存比例(spark2.0+)
setspark.memory.fraction=0.8;
预览时标签不可点收录于话题#个上一篇下一篇