几乎所有的嵌入式系统都由相互独立但又相互依赖的硬件和软件组成。通过在线仿真器，可以在软件真正将要运行的硬件上运行和调试。同时，通过原码级调试（Source Level Debug, 程序员可以看到运行的源代码）和单步调试（程序员可以一步一步的运行程序寻找错误），程序员可以方便的分离出错误代码。

大多数在线仿真器都由一个位于主机和被调试系统之间的适配器组成。接头和电缆组件将适配器连接到待调试系统上用于安插微处理器的底座。而最近的在线仿真器上, 程序员可以通过JTAG或BDM接口连接到位于微处理器片上的调试 (On-Chip Debug) 电路进行软件调试。

由于在线仿真器模拟处理器, 所以在待调试系统看来, 就像一个真的处理器；但从程序员角度看来, 待测试系统能够被完全控制, 可以直接下载、调试代码等等。

大多数主机都是普通的与被开发系统无关的商业计算机。例如: 安装Windows系统的个人计算机可能被用来开发在Freescale的 68HC11 系列微控制器上使用的软件, 而 68HC11 本身并不能运行 Windows 系统。

程序员一般在主机上编写和编译嵌入式系统的代码。所以主机上需要能为特定的嵌入式系统产生代码的编译器，他们被叫做交叉编译器或汇编器。