就系统而言，存储器的数据存取与处理器的速度效能同等重要，但多年来设计团队都只从强化处理器时脉下手，而回避了较麻烦的存储器架构设计。随着制程技术提升、填塞SRAM的办法不再管用，芯片厂商的注意力也终于回到存储器本身。
Semiconductor Engineering网站指出，在设计存储器架构时，有以下几点需要注意：第一，就算电晶体尺寸缩小到了3奈米，互连元件、线路、越来越薄的闸极氧化层仍是最容易出现问题的区域。第二，尽管核心使用数量不断增加，但由于无法有效将软体平行化，多数核心大多时候都没有被使用。第三，扇出型与2.5D封装的兴起，让芯片厂商可将Z轴上的存储器，作为平衡成本、效能、数据可靠度的手段。
安谋(ARM)的Rog Aitken指出，从SRAM、DRAM、Flash到硬碟(HDD)，存储器间原本有一套行之有年的层级系统。然而随着新形态的存储器出现，存取存储器的方式也出现改变。除了作为存储器使用外，这些存储器还可发展出更多有趣的功用，而存储器的改变将影响架构、布局(layout)，产生各种实体及邻近效应，牵动整个系统。
在先进制程中，制程偏移(Process Variation)是存储器设计不可忽视的一点。尽管以往因自动化(EDA)工具的使用，适度解决了制程偏移的问题，但随着节点技术不断发展，制程偏移的问题也开始影响到存储器层面。
为了解决存储器的制程偏移，最常借助的便是冗余设计(redundancy)，但若要为了节省耗电而降低电压，制程偏移的情形将更加明显。
吞吐量是衡量存储器效能的一个重要指标，但实际测量并不容易。布局的壅塞情形、核心间对于存储器争抢，以及读取速度的差异，都是影响吞吐量的因素。而不同的存储器与处理器配置，都会使情况更加复杂。
Rambus的Steven Woo指出，架构与IP区块整合有非常多的可能性。为减少电力的浪费，低功耗产品的存储器通常会很接近处理器。电力消耗最多区域，通常负责数据读写的存储器核心。以往提升存储器吞吐量的方法，便是增加功率，但这也会提升芯片受损的风险，因此平面设计、基板(interposer)、SiP的矽穿孔技术也应运而生，而采用这些技术所产生的涟漪效应，绝对不仅止于存储器而已。
Wide I/O等技术的出现，使得存储器设计不再独立运作，封包技术以及其他相关环节，也都会连带发生改变。此外，以往对于错误侦测都有一套既定的方法，存储器架构改变后，便可能需要采用新的方法。只要新的存储器设计带来的效益能超越各项组装、测试、制造的成本，厂商便会开始采用。
随着存储器系统从一个固定的子系统转变成整体系统中可调整的变相，存储器控制器的重要性也越来越被重视。控制器除可调整存储器功率外，也将影响到吞吐量、频宽使用等各种环节。许多系统厂商转移至高阶模型的理由之一，便是为了提升控制器从存储器存取数据的效率。
Synopsys的Prasad Saggurti指出，芯片内建存储器开始采用外部存储器管理单元后，将更方便架构设计师设置读写位置。另外，Saggurti也注意到芯片周边的低压存储器线路，已越来越常被再次使用。而为了降低功耗，存储器芯片本身也出现了客制化的趋势。
除此之外，晶粒间的光通讯(Optical Communication)技术以及存储器上的位元布局，也都可望为存储器架构开发出新的可能。