金融界2023年12月28日消息,据国家知识产权局公告,腾讯科技(深圳)有限公司取得一项名为“神经网络模型的内存管理方法、装置、设备、介质及产品“,授权公告号CN116893904B,申请日期为2023年9月。
专利摘要显示,本申请公开了一种神经网络模型的内存管理方法、装置、设备、介质及产品,属于内存管理技术领域。该方法包括:获取神经网络模型对应的计算图;基于所述计算图,确定待分配至所述网络层算子的内存大小;从空闲内存块列表中的空闲内存块中获取与所述内存大小匹配的分配内存块,将所述分配内存块分配给所述网络层算子;其中,所述空闲内存块列表用于存放已被分配但被解除占用后的空闲内存块,所述分配内存块是指被分配给所述网络层算子用于存储数据的内存块。通过利用空闲内存块列表中的空闲内存块,为网络层算子分配到与内存大小匹配的分配内存块,从而减少神经网络模型在运行过程中分配的内存,提高了内存的利用率。