服务器机柜由框架和盖板（门）组成，一般具有长方体的外形，落地放置。它为电子设备正常工作提供相适应的环境和安全防护。这是仅次于系统级的一级组装。不具备封闭结构的机柜称为机架。
    早期所用的服务器机柜大都是用铸件或角钢经螺钉、铆钉连接或焊接成机柜框架，再加由薄钢板制成的盖板（门）而成。这种机柜的体积大、笨重、外形简陋，已被淘汰。随着晶体管、集成电路的使用和各种元件、器件的超小型化，机柜的结构也向小型化、积木化方向发展。
    服务器机柜已由过去的整面板结构发展成为具有一定尺寸系列的插箱、插件结构。插箱、插件的组装排列方式分水平排列和垂直排列两类。服务器机柜材料普遍采用薄钢板、各种断面形状的钢型材、铝型材及各种工程塑料等。服务器机柜的框架除用焊接、螺钉连接外，还采用粘接工艺。

    服务器机柜具有良好的技术性能。机柜的结构应根据设备的电气、机械性能和使用环境的要求，进行必要的物理设计和化学设计，以保证机柜的结构具有良好的刚度和强度以及良好的电磁隔离、接地、噪声隔离、通风散热等性能。此外，服务器机柜应具有抗振动、抗冲击、耐腐蚀、防尘、防水、防辐射等性能，以便保证设备稳定可靠地工作。服务器机柜应具有良好的使用性和安全防护设施，便于操作、安装和维修，并能保证操作者安全。网络机柜应便于生产、组装、调试和包装运输。服务器机柜应合乎标准化、规格化、系列化的要求。机柜造型美观、适用、色彩协调。