整座仪器高约12米，宽约7米，是一座上狭下广、呈正方台形的木结构建筑。其中浑仪等为铜制。全台共分三隔。下隔包括报时装置和全台的动力机构等。中隔是间密室，放置浑象。上隔是个板屋，中放浑仪。这台仪器的制造水平堪称一绝，充分体现了中国古代汉族劳动人民的聪明才智和富于创造的精神。
国际上对水运仪象台的设计给予了高度的评价，认为浑象一昼夜自转一圈，不仅形象地演示了天象的变化，也是现代天文台的跟踪器械 - 转仪钟的祖先;水运仪象台中首创的擒纵器机构是后世钟表的关键部件，因此它又是钟表的祖先。水运仪象台为了观测上的方便，设计了活动的屋顶，是今天天文台活动圆顶的祖
先。
水运仪象台是十一世纪末我国杰出的天文仪器，也是世界上最古老的天文钟。国际上对水运仪象台的设计给予了高度的评价，认为水运仪象台为了观测上的方便，设计了活动的屋顶，这是今天天文台活动圆顶的祖先;浑象一昼夜自转一圈。从水运仪象台可以反映出中国古代力学知识的应用已经达到了相当高的水平。
根据《新仪象法要》记载，水运仪象台是一座底为正方形、下宽上窄略有收分的木结构建筑，高大约有十二米，底宽大约有七米，共分为三大层。
上层是一个露天的平台，设有浑仪一座，用龙柱支持，下面有水槽以定水平。浑仪上面覆盖有遮蔽日晒雨淋的木板屋顶，为了便于观测，屋顶可以随意开闭，构思比较巧妙。露台到仪象台的台基有七米多高。
中层是一间没有窗户的"密室"，里面放置浑象。天球的一半隐没在"地平"之下，另一半露在"地平"的上面，靠机轮带动旋转，一昼夜转动一圈，真实地再现了星辰的起落等天象的变化。
下层包括报时装置和全台的动力机构等。设有向南打开的大门，门里装置有五层木阁，木阁后面是机械传动系统。
第一层木阁又名"正衙钟鼓楼"，负责全台的标准报时。木阁设有三个小门。到了每个时辰(古代一天分做十二个时辰，一个时辰又分为时初和时正)的开始时，就有一个穿红衣服的木人在左门里摇铃;到了每个时辰的正中，有一个穿紫色衣服的木人在右门里扣钟;每过一刻钟，一个穿绿衣的木人在中门击鼓。这层木人动作由昼时钟鼓轮控制。
第二层木阁负责报告时初、时正。该层木阁正中有一个小门，每逢各个时辰的开始时，一个穿红衣的木人持时辰牌出现在小门前;每逢各个时辰的正中，一个穿紫衣的木人拿着时辰牌出现在小门前。此层共有红衣木人和紫衣木人各12各，时辰牌牌面上依次写着子初、子正、丑初、丑正等。这层木人的动作由昼夜时初正轮控制。
第三层木阁负责报告时刻。该层木阁正中有一个小门，每到一刻，一个穿绿衣的木人持刻数牌出现在小门前。此层共有96各绿衣木人，刻数牌牌面上依次写着初刻、二刻、三刻、四刻等。这层木人的动作由报刻司辰轮控制。注:正子时、正卯时、正午时、正酉时，时兼刻，紫衣小人出场。因此只有96个绿衣小木人。
第四层木阁负责晚上的报时。该层木阁中间有一个小门，木门内置一小木人，逢日落、黄昏、各更、破晓、日出之时，木人击钲报时。这层木人的动作由夜漏金钲轮控制。
第五层木阁负责报告晚上的时间。这层木阁中间有一个小门，日出、日落、昏、晓、各更，一个穿红衣的木人持牌出现在小门前;各筹(点)，一个穿绿衣的木人持牌出现在小门前。这层木人的动作由夜漏司辰轮控制。起更(16:48)、日落、昏、一至五更、日出、晓、收更(7:12)共11个红衣小木人。每更五筹，共30个绿衣小木人。注:冬至夜六十刻、夏至四十刻，冬至-夏至，每九天增加一刻，即日出/日落小木人每九天，从起更向一更移动半刻;昏/晓为日出/日落下两刻半，即昏晓间，冬至五十五刻、夏至三十五刻，昏/晓小木人随日出/日落小木人每九天向下移动半刻。
五层木阁共有12个紫衣小木人、23个红衣小木人、126个绿衣小木人、1个击钲小木人，累计162个小木人。
每层木阁内都有相应的机轮或轮辋，上挂抱牌木人;或用拨牙拨动门口木人手臂敲打乐器。这些机轮都装在一根机轮轴上。机轮轴有传动机构和天柱相连。天柱是贯通全台上中下三隔的传动轴。天柱下有个下轮，与枢轮轴伸出的地毂相结合。当作为原动轮的枢轮转动时就经过地毂传动，使天柱旋转起来，由此带动全仪。
在下隔的中央部分设有一个直径达 3米多的枢轮。枢轮上有72条木辐，挟持着36个水斗和勾状铁拨子。枢轮顶部和边上附设一组杠杆装置，它们相当于钟表中的擒纵器。在枢轮东面装有一组两级漏壶。壶水注入水斗，斗满时，枢轮即往下转动。但因擒纵器的控制，使它只能转过一个斗。这样就把变速运动变为等间歇运动，使整个仪器运转均匀。枢轮下有退水壶。在枢轮转动中各斗的水又陆续回到退水壶里。另用一套打水装置，由打水人搬转水车，把水打回到上面的一个受水槽中，再由槽中流入下面的漏壶中去。因此，水可以循环使用。打水装置和打水人则安置在下隔的北部。整个机械轮系的运转依靠水的恒定流量，推动水轮做间歇运动，带动仪器转动，因而命名为"水运仪象台"。
浑象一半装在地柜里面，一半露出柜面。浑象中间的赤道带上装有齿牙。机轮轴的天轮和它相接，以带动浑象和天穹一起旋转。
浑仪结构和唐、宋浑仪类似，只是在中间一重三辰仪里加一个在赤道方向的天运环，环有齿牙，和天柱的上轮相接，由天柱通过天运环带动三辰仪一起转动。这是后世转仪钟的一个雏形。浑仪置于板屋内，屋顶板可自由摘除，是近代望远镜室活动屋顶的先驱。
