内存和NAND制造商海力士已经展示了内存处理器(PIM)技术以及使用该技术的图形内存芯片示例。
其GDDR6-AiM芯片(AiM意为内存加速器)为GDDR6内存芯片增加了计算功能。GDDR6是图形双倍数据速率6随机存取存储器,以16Gbit/秒的速度处理数据。GDDR与DDR不同,最初旨在供GPU使用。GDDR优先考虑带宽而不是延迟,这是DDR内存设计的主要焦点。
海力士表示,GDDR芯片是人工智能和大数据应用中最受欢迎的存储芯片之一。
与CPU或GPU配对的GDDR6-AiM运行某些计算的速度比与DRAM配对的相同CPU/GPU快16倍。我们被告知海力士的PIM可减少向CPU或GPU的数据移动,从而将功耗降低多达80%。GDDR6-AiM芯片运行电压为1.25V,低于SK海力士现有GDDR6产品1.35V的工作电压。
海力士没有说明哪些处理指令已添加到图形内存或处理元素如何分布在内存单元中。这与三星形成鲜明对比,三星在一月份提供了有关其基于MRAM的PIM技术的更多信息。MRAM比DRAM更快,并且在其操作中使用更少的电力。
的定制设计项目负责人Dae-hanKwon博士于2021年10月发表的海力士赞助的《EETimes》文章增加了许多额外信息。
他展示了CPU处理数据的各个元素的功耗图表,将数据从DRAM移动到CPU缓存区域比那里的任何其他操作消耗的能量要多得多:
然后他讨论了神经网络处理中使用的典型数学运算,在计算多输出神经元运算时,特别提到了矩阵的乘法和加法。
神经网络中的单输出与多输出神经元操作
作者写道:“如果将这些操作的电路添加到内存中,则无需将数据传输到处理器,只需将结果在内存中处理并传递给处理器。”这很可能是SK海力士所做的。
他继续说道:“对于RNN(循环神经网络)等内存受限的应用程序,当应用程序在DRAM中使用计算电路执行时,性能和功率效率有望显着提高。考虑到要处理的数据量将大幅增加,PIM有望成为改善当前计算机系统性能极限的有力候选者。”
SK海力士计划在2月20日至24日在旧金山举行的2022年国际固态电路会议(ISSCC)上展示其PIM开发成果。它希望其GDDR6-AiM芯片将用于机器学习、高性能计算、大数据计算和存储应用。
领导芯片开发的海力士解决方案开发负责人AhnHyun表示:“海力士将使用GDDR6-AiM构建一个新的内存解决方案生态系统。”该公司计划与最近从SKTelecom分拆出来的AI芯片公司SAPEON合作,推出一种将GDDR6-AiM与AI芯片相结合的人工神经网络技术。SAPEON首席执行官RyuSoo-jung表示:“我们的目标是通过结合两家公司的技术,最大限度地提高数据计算、成本和能源使用的效率。”