摩尔线程智能科技(北京)有限责任公司 访客留言 申请认证

信用网址: 209921596.11315.com   

其他有限责任公司 成立历史第

一种数据处理的方法、装置、存储介质及电子设备【异议或纠错】

档案编号: CQ-059-5990-5107
档案文号:
专利权人: 申请人 
发布时间: 发布时间 
档案分类: 专利权 
分 类 号: 第G06N20/00;G06T1/20类
授权状态: 已授权
档案内容: 本说明书公开了一种数据处理的方法、装置、存储介质及电子设备,在模型训练的过程中,确定显存中存储的模型的各张量。然后确定重计算各张量的第一代价,并预估下一次访问各张量的访问时刻以及确定将各张量转移至其他设备的传输时间,进而根据该访问时刻以及该传输时间确定第二代价。根据重计算各张量的第一代价以及转移各张量的第二代价确定驱逐各张量的最终代价。最后根据各张量的最终代价,在显存中当前存储的各张量中选择目标张量并进行驱逐。该方法可以使显存的占用率始终维持在一个合理的范围内,使得GPU可以完成对模型的训练。且使用各张量对应的时间开销最小的方法对各张量进行驱逐,减少了驱逐张量的时间开销,提高模型训练的效率。
附件下载:  (原始资料备查)

相关专利信息信息

评论

您需要登录后才可以发表评论,请 登录注册

打分

说明:
一、所有信息力求客观、真实:以上信息由全国各级政府职能部门、各行业协会(社团组织)、金融机构、主流媒体、信息主体或实名制下的广大消费者(包括交易对方、员工等)客观提供,不含有本征信平台的任何主观评价;
二、信息异议机制:欢迎大家对有异议的信息及时提出,我们将按照《绿盾全国企业征信管理办法》规定对异议进行核实、修正,确保客观、公平;
三、尊重发布者权益,永不"删贴":对于符合国家法律、法规和本征信平台规定的每一条信息,都将客观记录于企业信用档案,参与信用分值计算,并长期保存。

分享到:
绿盾在线
×
=合作留言=
绿盾业务合作
×
  • 马先生
    15652211315
  • 黄先生
    15652011315