北京易观智库网络科技有限公司 访客留言 申请认证

信用网址: 31199302.11315.com   

其他有限责任公司 成立历史第13 

基于Presto的动态分桶方法、系统、设备及可读存储介质【异议或纠错】

档案编号: CQ-082-2707-6602
档案文号:
专利权人: 申请人 
发布时间: 发布时间 
档案分类: 专利权 
分 类 号: 第G06F16/182;G06F16/172;G06F16/16;G06F16/14类
授权状态: 已授权
档案内容: 本申请实施例公开了基于Presto的动态分桶方法、系统、设备及可读存储介质,所述方法包括:获取数据集,将所述数据集根据逻辑主键进行排序,并根据所述逻辑主键的取值范围和计算节点数进行预分桶,存储分桶文件;所述分桶文件按照逻辑主键进行排序;根据数据量和历史查询记录确定预估查询峰值内存;根据所述预估查询峰值内存、当前系统正在执行的查询个数和当前分布式计算系统的计算节点数,计算目标桶数和单节点桶并发数;根据所述目标桶数和所述单节点桶并发数调整正在执行的查询中的分桶粒度,得到每个分桶的取值范围;根据存储的分桶文件信息、每个分桶的取值范围,进行文件切分。节省了磁盘及网络IO,在有限的CPU和内存下发挥最佳计算性能。
附件下载:  (原始资料备查)

相关专利信息信息

评论

您需要登录后才可以发表评论,请 登录注册

打分

说明:
一、所有信息力求客观、真实:以上信息由全国各级政府职能部门、各行业协会(社团组织)、金融机构、主流媒体、信息主体或实名制下的广大消费者(包括交易对方、员工等)客观提供,不含有本征信平台的任何主观评价;
二、信息异议机制:欢迎大家对有异议的信息及时提出,我们将按照《绿盾全国企业征信管理办法》规定对异议进行核实、修正,确保客观、公平;
三、尊重发布者权益,永不"删贴":对于符合国家法律、法规和本征信平台规定的每一条信息,都将客观记录于企业信用档案,参与信用分值计算,并长期保存。

分享到:
绿盾在线
×
=合作留言=
绿盾业务合作
×
  • 马先生
    15652211315
  • 黄先生
    15652011315