无论是教会建筑还是世俗建筑，罗曼式建筑普遍给人以坚固而有力的印象。与之前的古罗马建筑和之后的哥特式建筑均以柱子、壁柱和拱作为承重构件（或者是看上去如此）相比，罗曼式建筑则与拜占庭建筑类似，依靠墙、或是被称为墩柱的墙段承重。
罗曼式建筑常常被划分为“第一罗曼式”和“罗曼式”两个时期，其区别主要取决于建造时所需要的专业技能。第一罗曼式以粗石砌墙、开更小的窗户并尚未采用拱顶。伴随着拱顶和有所加工的石块被增量的使用这些较大的改进标志着第二罗曼式。
墙壁
罗曼式建筑的墙壁通常厚度很大，开口部分极少并相对较小，因此显得沉重封闭。它们通常为双层壁体、填以碎石。
在欧洲各处其建造材料差异很大，取决于当地的石材和建造传统。在意大利、波兰、德国的大部分以及荷兰的一部分地区通常会使用砖块。其他地区可见大量的石灰石，花岗岩和燧石。用于砌筑的石头常常相对较小并且呈不规则的块状，置于厚厚的灰浆中。平整的方石墙并非是这一风格区别性的特色，特别是在早期，但是会主要出现在那些可以获得宜于加工的石灰岩的地区。
墩柱
在罗曼式建筑中的拱常常使用墩柱（也称扶垛）作为支撑。它们用砖石砌筑，剖面呈正方形或矩形，通常会在拱的起脚处以水平线脚表现柱头。有时墩柱上会附有垂直的柱身，在底座层上也可能会有水平线脚。
虽然柱墩基本上为矩形，但是常常可以呈现极复杂的形式，如在内壁上设支撑拱的大空心半柱，或由直达拱线脚处的小柱身组成束状。
出现在两个大拱相交处的墩柱通常呈十字形，例如在正厅和翼廊（或称耳堂）的交叉点之下，每个拱由各自的矩形墩柱支撑，并互成垂直的角度。
柱子
柱子是罗曼式建筑结构上一个重要的特色，细长柱和附柱也会应用在结构和装饰上。在意大利经常使用由单块石料凿成的整体柱，就像在罗马和早期基督教建筑中那样。它们也会，特别是在德国，于更巨大的墩柱间交替使用。由多个单块石料凿成的拱廊柱也常用于不需要承受较大砖石重量的结构，例如在回廊中，并有时采用双柱。
回收的柱子
这一时期在意大利，数量众多的古罗马时期的柱子被回收并再利用于教堂的内部和柱廊上。在这些柱子中大理石质地并有横向基石的最为耐久，但大部分为竖向基石并有时会呈现各式各样的颜色。它们可能保留了最初的罗马柱头，一般来说是科林斯或罗马混合式。
一些建筑可能以大柱头放在短柱上、小柱头放在长柱上这种奇怪的柱子搭配来取得高度的均等，例如在罗马圣克里蒙教堂的中庭。这种建筑上的折中会见于材料回收自多座建筑的地方，在法国这种回收的柱子也在较小程度上利用。
鼓柱
在欧洲大部分地区的罗曼式柱子体形巨大，因为它们支撑着厚实而开窗小的上部墙体，有时会有沉重的拱顶。在结构上最为常见的方法是以称为鼓柱的圆形石柱建造，就像在施派尔主教座堂的地下室中那样。
空心柱
在那些需要真正庞大的柱子的地方，如达勒姆座堂中的那些柱子会以大块的方砖石建造，中空部分填以碎石。这些没有收分的大柱子有时会点缀有雕刻装饰。
柱头形式
带有叶饰的科林斯风格为很多罗曼式柱头提供了灵感，它们所雕刻的准确性很大程度上取决于原作范例的取得程度，那些位于意大利和法国南部教堂（如比萨主教座堂）中的柱头会相对于英格兰更为接近古典样式。
科林斯柱头基本上为置放在圆柱上的底部呈圆形，而支撑墙体或拱券的顶部呈方形。罗曼式柱头仍然保持了此种柱头形式常规的比例和轮廓，而实现它的最简单的方法是，切割立方体并将底部的四角按照某个角度收进，以使其顶部呈方形而底部呈矩形，例如可以在希尔德斯海姆圣米迦勒教堂中见到。
这种形状为其增添了广泛的、多样的粗加工特色，有时加以叶饰以模仿原作，但常常形象化。在北欧，相对于古典的源出处来说，带有叶饰的柱头通常与纷繁复杂的手抄本插图更加相像。在法国的一部分和意大利则与拜占庭建筑中雕空的柱头有着深刻的联系。正是在形象化的柱头上表现出了最佳的独创性。一些以描绘圣经场景、或是野兽与妖怪的手抄本插图为依托，而其他生动的场景则与本地圣徒的传说相关。
在保持圆底方顶形式的同时，这些柱头常常被压缩成与膨起的垫状差不多，其实例尤其见于大型的砖石柱，或者像在达勒姆那样的大柱子与墙墩交替出现的地方。
柱子的交替
无论是出现在教堂、还是在划分城堡内部大空间的拱廊中，罗曼式建筑的一个普遍的特点是墙墩和柱子的交替出现。
这种交替最为简单的形式是在每相邻的墙墩中放置一根柱子，有时也会有两到三根柱子的组合，在希尔德斯海姆圣米迦勒教堂中，ABBA的交替形式出现在正厅，而ABA则出现在翼廊。
在瑞米耶日地区，高大的鼓柱置于附以半柱支撑拱的墩柱之间，这一主题有多种变化，最为著名的是在达勒姆主教座堂，其墩柱上附有的线脚和柱身格外丰富，巨大的砖石柱上亦有几何纹样的透雕。
其布置的更加复杂化往往来自于柱墩本身的复杂，此时交替出现的不是墙墩和柱子，而完全是不同形式的墙墩，例如在米兰的圣盎博罗削圣殿，由于拱顶的特征而要求交替的墙墩比中间的墙墩承担更多的重量，并因此十分庞大。
