由于认知运算需要处理非常大量的数据, 如何有效率的处理这些数据就变得非常重要, 而处理大量数据其中最大挑战在于现今的计算机架构都是用冯纽曼架构来运行, 但是用冯纽曼架构执行AI应用时, 处理器和内存之间需要大量传输数据, 而传输数据会耗费大量资源, 造成效能不佳.
IBM提出的新架构是透过原本的冯纽曼架构, 加上计算型内存单元, 由计算行内存单元负责大量的计算任务, 而冯纽曼机器则负责反复改善准确率, 因此, 系统就拥有高准确率和高效能两种优势.
其中该架构的内存的装置, IBM采用了相变内存 (Phase-change memory, PCM) , 借助PCM读写速度快的特性, 可以有效率地处理大量的数据, 且不需要将数据传输到CPU, 执行的速度会大幅提升, 也会减少资源消耗.
IBM表示, 这样的架构可以透过计算型内存来执行, 不会牺牲整体的准确度, 克服了现在冯纽曼架构耗能的一大挑战.