作者:
基本信息来源于合作网站,原文需代理用户跳转至来源网站获取       
摘要:
本文在对Spark云计算平台的作业执行机制进行研究分析的基础上,针对目前Spark处理作业时Executor的人为请求资源机制,提出了一种Spark计算节点同构环境下Executor所需内存资源的优化分配算法。该算法能够基于处理数据的数据量对分布式内存资源进行弹性分配,达到了Spark在数据量变化情况下合理利用分布式内存资源这一目的,并对此进行了仿真实验验证。
推荐文章
Spark环境下K-means初始中心点优化研究综述
K-均值算法
分布式内存计算框架
算法优化
聚类算法
Spark并行计算框架的内存优化
Spark
性能优化
堆内存
协同干扰节点资源优化分配模型及算法
协同干扰
分组模型
资源优化
遗传算法
贪婪算法
多线程环境的高效内存分配技术
多线程
内存分配
内存管理
自适应调优
内容分析
关键词云
关键词热度
相关文献总数  
(/次)
(/年)
文献信息
篇名 Spark计算节点同构环境下Executor的内存分配优化模型
来源期刊 进展:科学视界 学科 工学
关键词 SPARK EXECUTOR 内存资源 资源分配
年,卷(期) 2020,(1) 所属期刊栏目
研究方向 页码范围 49-52
页数 4页 分类号 TN316.4
字数 语种
DOI
五维指标
作者信息
序号 姓名 单位 发文数 被引次数 H指数 G指数
1 朱蓉 2 0 0.0 0.0
传播情况
(/次)
(/年)
引文网络
引文网络
二级参考文献  (0)
共引文献  (0)
参考文献  (6)
节点文献
引证文献  (0)
同被引文献  (0)
二级引证文献  (0)
2020(0)
  • 参考文献(0)
  • 二级参考文献(0)
  • 引证文献(0)
  • 二级引证文献(0)
研究主题发展历程
节点文献
SPARK
EXECUTOR
内存资源
资源分配
研究起点
研究来源
研究分支
研究去脉
引文网络交叉学科
相关学者/机构
期刊影响力
进展:科学视界
月刊
1002-1221
50-1076/N
重庆市渝北区洪湖西路18号
78-303
出版文献量(篇)
718
总下载数(次)
7
总被引数(次)
0
论文1v1指导