三星GALAXY Note II采用了和GALAXY S III一脉相承的外形设计，边角圆润，外壳材质也与GALAXY S III相同。不过在顶部和底部的并没有采用GALAXY S III那样的弧形边沿，整机看上去商务气息更浓一些。

机身正面采用的是著名的美国康宁（Corning）第二代Gorilla Glass 大猩猩玻璃，在耐磨和强度方面都比第一代提升不少，而且也更加薄。机身的银色侧边并非金属材质，而是塑料材质。光滑的机身，拿起来比较滑，同时也容易沾惹指纹。

GALAXY Note II屏幕上方是三星的品牌Logo、细长的听筒、距离和光线感应器、充电及信息指示灯以及190万像素的前置摄像头。该摄像头支持最大720P的视频拍摄。按键方面GALAXY Note II依然保留了实体的Home键，不过在形状变得更加细长。物理Home键两侧依然是触控式的菜单键和返回键，带有白色背光灯，在不点亮的情况下很难发现。

GALAXY Note II配备了800万像素BSI背照式摄像头，拍照功能和拍照效果都有较大提升。摄像头旁有单LED补光灯。扬声器被置于机身背部左下角位置，和GALAXY S III有所不同。GALAXY S III机身顶部配备3.5mm耳机接口、降噪麦克风。而在底部我们可以看到S-pen智能手写笔以及Micro USB接口。GALAXY Note II的手写笔也得到了大幅度改进，功能更丰富，书写时的感觉也变得更好。