机箱大从外观结构上看，服务器的机箱一般比较大，有的虽然外观上看似与普通PC机差不多，实际上还是要大些，哪怕是入门级的PC服务器，比如说DELL PowerEdge 400SC入门级服务器（目前价格仅5808元）。对于一些中的专业服务器，机箱的差别就更大了，有的还是一个高高的柜子式的机柜，比如说IBM RS/6000系列的S80型号服务器。
当然以上所说的机箱大，只是针对综合型塔式服务器而言的。随着近几年服务器应用的细化，各大服务器厂商针对各种具体应用推出了专门的功能型服务器，如一些针对空间密集型环境应用推出的服务器产品向机架式服务器，刀片式服务器等在占用空间方面做了特别的优化,大大减小了机箱所占空间。
有“无用”部件？在一些较的服务器中，我们可以看到一些奇怪的现象，那就是怎么在一台机中会有两个电源，还有两个风扇，还装有一些并没有真正连接的网卡，当然还有硬盘也好象没有用。其实这些都不是没有用，只是当前不用而已，它们都是用于当正在工作的相同部件出现故障时接替它们工作的，俗称“冗余件”。
服务器所在机房的布局一般是由千兆交换机到百兆交换机到机柜所在的交换机，一台服务器到路由器中间到底有多少个路由，也许只有机房的工程师才知道，正规的机房，是不允许客人进入主交换机房，也不允许打开别人的机柜，只允许参观公司所在的服务器机柜。