了解物理组成部分之后就比较容易理解模块化服务器的系统结构了。模块化服务器的系统结构与一般的IA架构刀片服务器非常类似，但也有不同之处，特别是其与众不同的存储子系统。
从结构上讲，整个模块化服务器有以下几个子系统组成：计算子系统、存储子系统、交换子系统、供电子系统、管理子系统和制冷子系统，所有子系统通过中板和交换机的连接及机箱的固定形成一个有机整体。
计算、供电和控制子系统不再赘述，下面我们来看看存储、交换和制冷子系统。
从存储系统的拓扑图可以看出，各片服务器并没有直接连接硬盘，它们只是连接在存储控制器上，同时所有硬盘也通过背板连接在存储控制器上。并且在拓扑图上也能看出两个存储控制器都是同时连接SAS背板和所有服务器，这是做热备所必须的。从前面物理部件部分的介绍我们已经知道，服务器内部是没有安装硬盘的，所以模块化服务器使用的是由存储控制器统一管理的存储，也就是接下来控制界面部分我们要讲到的存储池和虚拟分区。
再来看看交换子系统，对刀片服务器和模块化服务器来说，交换机首先是一个内部数据交换工具。上图显示了计算、存储和控制子系统通过交换模块实现了数据的互联互通，这样所有的系统才能作为一个整体运行。交换机的冗余也在拓扑图上体现了出来。
散热方面，英特尔模块化服务器显然不是单靠两个后面的主风扇散热的，前面的I/O风扇和后面的电源在散热方面都起重要作用。特别是后面的电源，如果四个位置没有插满，需要使用专门的电源风扇替代设备来安装到相应的剩余位置。