张锐
- 作品数:1 被引量:7H指数:1
- 供职机构:惠州学院更多>>
- 发文基金:惠州市科技计划项目广东省科技计划工业攻关项目广东省自然科学基金更多>>
- 相关领域:自动化与计算机技术更多>>
- 利用HDF5和Esper的高效外汇数据分析系统被引量:7
- 2011年
- 为解决目前关系型数据库由于死锁和阻塞等原因造成系统随数据量增加性能急剧降低的问题,本文提出结合HDF5和Esper的数据处理方法,利用HDF5(层次型数据存储格式)的强大I/O性能和数据类型自定义功能做数据存储,加快数据存储的速度。同时,结合Esper实时计算的高运算效率特征,设计出一套针对外汇计算行业的可移植的数据格式和函数库,解决了即时数据分析系统在存储、管理、交换、归档需求中出现的性能和效率问题。实验结果表明,在10G/天的数据量下,HDF5的数据读写性能比MSSQL要高80倍左右,结合Esper的毫秒级处理能力,能够做到外汇数据的实时计算。系统对于数据处理分析和实时性要求极高的情况有较高的应用价值。
- 蔡昭权吴文忠卢庆武张锐
- 关键词:关系数据库HDF5