solidot新版网站常见问题,请点击这里查看。

受脑启发的低功耗 AI 推理芯片 NorthPole

人工智能
Wilson (42865)发表于 2023年10月20日 17时58分 星期五

来自人性分解
IBM 的研究人员在《科学》期刊上发表论文,提出了受脑启发的芯片架构 NorthPole,它能将计算与记忆相结合,并以低能耗高效地处理数据。自计算机诞生以来,计算过程一直以处理器为中心,记忆内存与计算是分离的。然而在记忆内存和计算之间穿梭传输大量数据会在能耗、处理带宽和速度方面付出高昂的代价。这在新兴的和先进的实时 AI 应用(如脸部识别、物体检测和行为监控等)中尤其明显,这些应用需要快速获取海量数据。因此,大多数现代计算机架构正在迅速达到物理和处理瓶颈,而且鉴于所涉及的能源成本不断增长,其在经济、技术和环境上都面临着无法持续的风险。NorthPole 是一种将计算与记忆内存交织于单个芯片上的神经推理架构,对 ResNet50 的测试显示,它能将每瓦每秒帧数 (FPS) 的能量指标提高 25 倍,每个晶体管的 FPS 的空间指标提高 5 倍,相对于同类技术延迟的时间指标降低 22 倍。


https://www.science.org/doi/10.1126/science.adh1174
https://www.eurekalert.org/news-releases/1004793?language=chinese