关于我们
基于PPG脉搏波的血压监测传感器芯片及其制备方法
成果领域:
推广方式:
成果归属企业: 深圳大学
成果鉴定时间:
成果介绍
本发明公开了一种Spark分布式计算数据处理方法,涉及计算机领域,该方法包括:通过任务调度器调度子任务,执行RDD分区数据存储任务,申请存储区空间;计算存储区内可驱逐空间及空间的大小,根据分区数据访问热度设置混合存储系统的迁移地址;读取指定存储区内已缓存数据并释放相应的内存空间,迁移分区数据到指定地址,修改迁移数据的持久化级别,反馈驱逐成功信号及驱逐空间信息。本发明还公开了一种Spark分布式计算系统,通过引入混合存储系统,并设计驱逐逻辑单元和缓存数据迁移单元,根据分区数据热度将数据迁移至SSD或HDD,而非直接将数据迁移至磁盘或踢除已缓存的数据,能够有效地缓解内存空间不足的压力,实现Spark性能的提升。
成果应用案例介绍
方法过程>处理方法>数据处理方法; 计算控制>计算方法>spark分布式计算
联系方式
电话/微信: 13822630888
0.156029s