无论传统光学水准仪还是现代电子水准仪，核心结构均包含三大部分：
-
望远镜系统
-
功能：瞄准水准尺并读取读数，由物镜、目镜、十字丝分划板组成。
-
关键部件：十字丝分划板上的横丝用于读取水准尺读数，竖丝用于瞄准水准尺中心。
-
水准器系统
-
管水准器：用于**整平仪器，使视准轴水平，其内壁圆弧中点的切线为水准管轴，理想状态下与视准轴平行。
-
圆水准器：用于粗略整平仪器，气泡居中时圆水准器轴处于铅垂状态，可快速调整仪器大致水平。
-
基座系统
-
包含脚螺旋、连接板、三脚架接口，脚螺旋用于调节水准器气泡居中，基座用于支撑仪器并连接三脚架。