计算机体系结构指软、硬件的系统结构，有两方面的含义：一是从程序设计者的角度所见的系统结构，它是研究计算机体系的概念性结构和功能特性，关系到软件设计的特性；二是从硬件设计者的角度所见的系统结构，实际上是计算机体系的组成或实现(参见计算机组织)，主要着眼于性能价格比的合理性。
概念性结构与功能特性，这是从程序设计者角度所看到的计算机属性。它包括机器内的数据表示、寻址方式以及对这些数据的运算和控制这些运算的执行等(即指令系统)。对于通用型机器，一般包括数据表示、寻址方式、寄存器定义、指令系统、中断机构、机器工作状态的定义和状态切换、机器级的输入、输出结构以及对信息保护的支持等。
计算机体系结构主要研究软件、硬件功能分配和对软件、硬件界面的确定。20世纪70年代以来，在计算机软件方面有了显著的进展。计算机在性能、速度、价格、可靠性和组织、实现技术上虽比20世纪50年代末有了巨大的突破，但它们的系统结构却并没有什么明显的、突破性的进展。绝大多数机器的系统结构仍然没有脱离冯·诺伊曼型的范围。
计算机软、硬件功能分配，主要应从实现费用、对速度的影响和其他性能要求来考虑，亦即考虑如何分配能提高性能价格比。操作系统的基本的、通用的功能的硬化或固化，有利于提高操作系统的执行效率和速度，减少开销;而功能不稳定，即需要不断变化的，用软件实现有利于提供应有的灵活性。实现费用包括研制费用和重复生产费用。硬件的设计费用和重复生产费用都比软件大，宜于硬件实现的功能应该是稳定的、常用的、比较小的，而且是软件实现的速度下降会对计算机系统性能有较大影响的那些功能。硬件实现只是对产量大的计算机系统才有经济效益。