胡创
- 作品数:4 被引量:5H指数:1
- 供职机构:武汉大学计算机学院更多>>
- 发文基金:国家自然科学基金国家科技重大专项更多>>
- 相关领域:自动化与计算机技术更多>>
- 多线程环境下基于多预取点的文件预取被引量:1
- 2012年
- 为解决当前Linux内核的预取算法在多线程情况下出现预取误判的问题,依据多线程环境下进程对磁盘文件的访问特点,提出一种基于多预取点的预取算法。在Linux内核原有的预取算法的基础上,结合多线程环境下应用程序对数据的访问模式,在Linux内核的页面缓存层进行了实现。实验和分析表明,在IOzone单线程测试中,该算法和Linux内核原预取算法性能相当;在多线程测试中,读取相同大小的文件,耗时比Linux内核原预取算法至少少1/3。新算法对于提高I/O并行度,从而提高整个计算机系统并行化很有帮助。
- 刘金胡创胡明龚奕利
- 关键词:多线程LINUX内核
- CC-Paxos:整合广域存储系统的一致性和可靠性被引量:3
- 2017年
- 针对因果一致性模型约束过多且表达能力不足的问题,提出一种强的分布式上下文一致性模型。剔除同一用户的操作中非强制性的依赖关系,以及在不同客户端间定义所需的操作依赖;在此基础上,设计一种解决Paxos不能满足上层一致性需求问题的、实现分布式上下文一致性模型的共识算法CC-Paxos。利用时间戳给分布式上下文中的操作定序,采用细粒度的依赖检测,高效减少冲突操作的数目。实验结果表明,与在上层使用causal+一致性、下层用Egalitarian Paxos的方法相比,CC-Paxos显著降低了延迟,增加了吞吐量,且不需牺牲可扩展性。
- 胡创马文韬王文杰龚奕利
- 关键词:分布式系统
- 低带宽广域网环境下的一致性算法研究被引量:1
- 2016年
- 基于消息传递机制的Paxos算法在执行过程中需要进行大量网络通信,应用于广域网环境时易受带宽的限制而影响算法效率。为此,对Paxos的通信模型进行优化,提出改进的W-Paxos算法。通过在每个数据中心内部增设代理节点来接收、处理和发送广域网消息,从而大幅减少广域网消息数量,解决因Paxos消息过多而引发的网络拥塞、延迟增加等问题。由于仅对经典Paxos的通信模型进行优化,因此改进算法适用于多数Paxos协议族中的协议。实验结果表明,在低带宽环境下,W-Paxos产生的消息数量较Mencius和EPaxos算法更少,能有效减缓领导者的负载压力,提高吞吐率并降低通信延迟。
- 马文韬胡创王文杰龚奕利
- 关键词:一致性分布式系统代理
- 基于混合内存的Apache Spark缓存系统实现与优化
- 2023年
- 随着大数据时代数据规模的激增,内存计算框架得到了长足发展。主流内存计算框架Apache Spark使用内存来缓存中间结果,大幅度地提升了数据处理速度。同时,具有较快的读写速度和较大容量的非易失性存储器NVM在内存计算领域展现出了巨大的发展前景,使用DRAM和NVM构建Spark混合缓存系统成为一种可行方案。文中提出了一种基于DRAM-NVM混合内存的Spark缓存系统,该系统选择平面混合缓存模型作为设计方案,然后为缓存块管理系统设计了专用的数据结构,并提出了适用于Spark的混合缓存系统整体设计架构。另外,为了将频繁访问的缓存块保存在DRAM缓存中,提出了基于缓存块最小重用代价的混合缓存管理策略。首先从DAG信息中获取RDD的未来重用次数,未来重用次数多的缓存块将被优先保存在DRAM缓存中,并在缓存块迁移时考虑了迁移成本。设计实验表明,DRAM-NVM混合缓存相比原有缓存系统的性能平均提升了53.06%,对于相同的混合内存,所提策略相比默认缓存策略有平均35.09%的提升。同时,使用文中设计的混合系统只需要1/4的DRAM和3/4的NVM作为缓存,就能达到全部DRAM缓存约79%的性能表现。
- 魏森周浩然胡创程大钊
- 关键词:SPARK缓存管理策略NVM