搜文章
推荐 原创 视频 Java开发 iOS开发 前端开发 JavaScript开发 Android开发 PHP开发 数据库 开发工具 Python开发 Kotlin开发 Ruby开发 .NET开发 服务器运维 开放平台 架构师 大数据 云计算 人工智能 开发语言 其它开发
Lambda在线 > 镁客网 > 将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技

将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技

镁客网 2017-11-28


该研究团队对现代芯片中发现的内存管理系统略有修改,从而避免元数据繁杂传输过程。


传统的计算机上,微处理芯片是封装在主板上的,其底部装有杜邦线,数据通过线路在微处理器和主存之间传输。

后来,随着晶体管数的增加,微处理器和主存之间的传输速度成为提升计算机性能的主要障碍,因此,近年来,芯片制造商已经开始将动态随机存取存储器(DRAM)作为主存储器的存储器类型。

虽然DRAM可以实现高容量缓存且可以快速得将常用数据存储到本地,但是DRAM与通常用于片上高速缓存的内存类型截然不同,现有的缓存管理方案不能有效的使用它,即DRAM中有部分内存资源是被浪费的。

在刚刚结束的IEEE/ACM International Symposium on Microarchitecture会议上,MIT、Intel和ETH Zurich的研究人员们共同给出了新的高速缓存管理方案,该方案可以将原有计算机主板上的DRAM的高速缓存数据速率提高33%至50%。

将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技

下面我们先了解下数据缓存的过程。

元数据与高速缓存


元数据主要是描述数据属性的信息,用来支持和指示存储位置、历史数据、资源查找和文件记录等功能。

一般情况下,典型的片上高速缓存有足够的空间用于存储64000个具有64000个标签的数据,而在运行过程中,为了提高效率,处理器不需要搜索所有64000个条目,缓存系统通常使用称为“哈希表”的东西组织数据。当处理器使用特定标签寻找数据时,首先它将标签哈希函数,然后处理器用约定的哈希函数方式处理数据以产生新的数字,该数字表示数据表中的插槽,同时处理器根据新数字查找感兴趣项目的位置。

类似于现有的缓存方案,哈希函数可以为不同的输入产生相同的输出,因此,缓存的散列表通常会在相同的哈希索引下存储两个或三个数据项。虽然经过哈希函数处理的搜索依然很繁琐,然而,搜索给定标签的两个或三个项目比搜索64,000要好得多。

那么在选定的缓存方案下,内存的选择和处理依然会对速率产生明显的影响。

存储器:DRAM和SRAM


DRAM和SRAM之间的区别在于标准缓存中使用的技术存在差异,对于存储的每一位数据,SRAM都使用六个晶体管,DRAM只使用一个,这意味着它更节省空间;但是SRAM有一些内置的处理能力,而DRAM没有。

将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技

如当处理器想要搜索数据项的SRAM高速缓存,则会将该标签发送到高速缓存,随后SRAM电路本身会将标签与存储在相应散列位置的项目进行比较,匹配则返回相关联的数据。相比之下,DRAM不能做任何事,只能传送所请求的数据。在DRAM中,处理器首先会要求存储在给定散列位置的第一个标签,如果匹配,则发送关联数据的第二个请求;如果不匹配,它将请求第二个存储的标签,以此类推,直到它找到想要或放弃的数据并转到主内存。

综合优劣,封装中的DRAM具有大带宽的优势,但是传统缓存处理过程会浪费它的带宽。

针对这一问题,该研究团队对现代芯片中发现的内存管理系统略有修改,从而避免元数据繁杂传输过程。

基于DRAM处理方案的改变


将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技

但这种方法有一个问题,如果一个芯片的核心将数据项拉入DRAM高速缓存,其他内核是不会知道的,所以每次更新缓存时,芯片向所有芯片的内核发送消息会消耗大量的时间和带宽。因此,研究团队引入了另一个小电路,称为标签缓冲区,在这个缓冲区中,任何给定的核心都可以记录其缓存的数据项的新位置。

总结


对于这一改进方案和设计,于向耀(音译)表示:“以前的方案花费太多的流量访问元数据或者只是在内置和非封装DRAM之间移动数据,而不是真正访问数据,并且浪费了大量的带宽,而这个新方案的带宽利用率是原有方案的五倍。”

/- 推荐阅读 -/




将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技

镁客网


科技 | 人文 | 行业

微信ID:im2maker
长按识别二维码关注

硬科技第一产业媒体

提供最有价值的行业观察

版权声明:本站内容全部来自于腾讯微信公众号,属第三方自助推荐收录。《将缓存数据率提升50%,MIT、Intel的研究人员还让宽带利用率提高5倍 | 黑科技》的版权归原作者「镁客网」所有,文章言论观点不代表Lambda在线的观点, Lambda在线不承担任何法律责任。如需删除可联系QQ:516101458

文章来源: 阅读原文

相关阅读

关注镁客网微信公众号

镁客网微信公众号:im2maker

镁客网

手机扫描上方二维码即可关注镁客网微信公众号

镁客网最新文章

精品公众号随机推荐

上一篇 >>

微服务架构详解