超越冯·诺依曼:摩尔定律和从近记忆向记忆计算的转变

在思考我的上一篇博客,如果能解释一下冯·诺依曼的计算是什么,也许会更好,在讨论超越它的东西之前。然而,关于摩尔定律的一些背景资料是第一顺序的。

我们作为一个行业在缩小规模方面取得了巨大的进步,芯片的成本和功率要求摩尔定律缩放比例.从1956年到第一大学(1,125千瓦每秒900次浮点运算)和当今的超级计算机(维基百科引用里肯6673.8mFlops/watt的测试)。我们已经将浮点运算的电源成本降低了大约4000亿,这是一个难以理解的数字。把这个放在透视图上,让我们考虑另一个性能/功率模拟,具体来说,每加仑里程数:如果我们从T型15英里/加仑的基准线开始,并将其改进了4000亿倍,汽车每加仑能跑6万亿英里,它大约是一光年或距离最近恒星四分之一的距离,或者有足够的气体往返冥王星500多次。汽车的价格也不到一分钱。

从扩展(或使事物更小成本,因为它使用更少的硅和更少的功率来实现相同的性能)中获得的电力成本性能的三重胜利使得业界对破坏传统的von neumann计算范式的依赖性降低。冯诺依曼计算,在它的中心,是关于获取输入数据,并将其在存储位置的内存和按时钟节奏操作的逻辑之间移动。所有数据都存储在内存中,然后传输到计算引擎。在所有这些数据周围穿梭携带着一个重要的权力和性能税,这在很大程度上被掩盖,因为通过摩尔定律的扩展取得了惊人的进展。此外,如果我们想到冯·诺依曼时钟滴答或计算周期,数据的物理运动比实际计算需要更多的能量和计算周期。记忆和逻辑的分离是冯·诺依曼范式的核心。但是生物学找到了一种更好的记忆计算方法。

当您查看GPU或CPU的最新产品描述时,很明显,重点和市场营销是在本地或芯片上集成了多少内存。如果芯片能够在必须通过主板将数据发送回DRAM或非易失性存储之前在本地或芯片上循环几次,那么它们的工作速度更快,性能更好。有许多聪明的方法来提高冯·诺依曼范式的能量效率,所有这些都涉及到接近记忆”-使内存元素更接近逻辑元素。将不同的芯片包装在一起在很近的距离内,在模具上放置更多的内存是应用材料也积极参与支持的向量。betwayapp

虽然业界在提高计算的能效方面取得了很大进展,生物学已经设计出一种更节能的策略;在大脑中,我们将数据存储在进行计算的相同位置。我被告知,我们要么检查一个典型的突触/神经元的权重,要么调整它的值,所有这些都并行工作,以驱动生物逻辑。这远比在两个离散的环境中不断地来回移动东西更有效率。

最终,的目标我们由DARPA资助的项目作为电子复兴计划(ERI)将把冯·诺依曼体系结构之外的系统内存计算。”通过将相关电子元件编程为离散电阻值和状态,然后用不同的权重将这些元素卷积在一起,我们就可以建立一个近似于突触和神经元的系统。如果我们把内存元素组织成一个数组,我们就可以对它们进行编程,利用合适的工程材料获得不同的电阻值。在这种安排中,我们可以组织许多权重值(基于元素的电阻),并通过数组将它们相互关联。这使我们更接近生物系统的效率。

在很多方面,挑战不在于发展范式;它是在开发能够实现范式的材料。应用材料正在追求通过材料创新实现神经形态计算的多个向量betwayapp。与我们相关的电子工作是许多材料使能的方法之一。

自从我上次更新您,团队一直在做着伟大的工作,努力准备着1个以上,800种不同成分的不同样品,在大不列颠哥伦比亚大学的合作者对评估电气特性和探索方向的帮助下,科罗拉多大学博尔德分校,手臂和对称。我们将在项目的第二阶段缩小到一个特定的材料系统,我期待在接下来的几个月里再次向您更新我们的进展。

在收件箱中接收更新!!

立即订阅

想参加讨论吗??

添加新注释:*

*评论必须符合我们的讨论指南和参与规则.

你也可以填写这个形式直接联系我们,我们会回复您。