东方红21型内燃机车是1100马力液力传动米轨内燃机车，车体结构和总体布置与东方红2型准轨机车大致相同，但车体限界根据米轨铁路的要求作出了调整。机车采用外走廊式、主车架承载的机车车体，由前到后分别为司机室、动力室和冷却制动室三个部分。动力室内装有柴油机、空气滤清器、燃油泵等装置;冷却制动室内有一台两端输出的液力传动箱，并设有起动发电机、预热锅炉、空气压缩机、风缸等设备。东方红2型机车采用单机组结构，机车轴式B-B，最高运行速度50公里/小时，轴重15吨，总重60吨。

机车装用一台12V180ZJA型内燃机，是在东方红系列、东方红2型、东方红3型内燃机车所使用的12V180ZJ型内燃机基础上，根据高原米轨铁路使用条件加装高压增压器的改进型，为12气缸、四冲程、废气涡轮增压的V型高速柴油机，额定转速为每分钟1500转，标定功率为1340马力(990千瓦)，装车功率为1100马力(810千瓦)。

东方红21型内燃机车的液力传动系统，主要包括液力传动箱、车轴齿轮箱、辅助传动装置、万向轴等。液力传动箱位于车体中部、机车冷却室下方，并通过四个弹性支座固定在机车车架上。柴油机通过万向轴将功率传递到液力传动箱，再从液力变速箱的两端输出法兰，以万向轴传给前后转向架上的车轴齿轮箱，从而驱动轮对 。第一批机车装用SF2010Z-2A型液力变速箱，第二批机车装SF2010-2A型液力变速箱，除后者加装了液力制动器外其余部分完全相同。液力变速箱为多循环圆结构，内装一个BI型起动变扭器和一个BII型运转变扭器;其中起动变扭器适用于机车起动和低速工况，而运转变扭器适用于机车中、高速运转工况;机车运行过程中通过充排油换档;传动装置设计功率为1050马力(770千瓦)。

机车走行部为两台二轴转向架，采用钢板焊接箱型结构构架、轴箱拉杆式定位。一系悬挂为轴箱两侧螺旋弹簧配油压减振器，不设二系悬挂，转向架以滑动摩擦旁承承载车体重量。牵引力和制动力通过中心销传递。