在线仿真器的基本思想是提供一面通向嵌入式系统内部的窗户。程序员用线上仿真器将程序下载到系统运行后, 可以对程序进行逐步跟踪并察看数据的变化。

之所以被叫做仿真器, 因为它们经常用来模拟嵌入式系统中的中央处理器。通常来说, 它通过一个插头插在一个与 CPU 一样的底座上。由于是模拟主处理器, 仿真器可以在程序员的控制下做任何处理器可以做的操作。

在线仿真器总是将待开发的嵌入式系统连接到一个终端或个人计算机。该终端或个人计算机为程序员调试和控制系统提供一个交互式的用户界面。

值得注意的是，当程序出现问题，大多数的嵌入式系统会立刻变成毫无用处的废铜烂铁。嵌入式系统总是缺乏监测软件问题的机制，比如内存管理单元读取缓存失败等。如果没有在线仿真器，嵌入式系统开发将变得非常困难，因为根本没有办法知道究竟发生了什么问题。而有了在线仿真器，程序员可以测试每一行源代码，从而找到究竟是哪一段程序出错并纠正错误以解决问题。

在实际应用中，程序员可以通过在线仿真器设置断点、显示和监视内存内容以及控制输入输出。除此之外，程序员还可以通过在线仿真器设置各种条件断点，从而有机会找到很多错误的根源。

最近的一些在线仿真器不再因为仿真而需要一个特殊的目标系统,而是利用由微控制器生产商提供的仿真和调试资源。虽然这样的在线仿真器本身由于只处理微处理上的仿真电路, 而不是真正去模拟微处理器从而成本得到降低, 代价是在微处理器的设计过程中, 需要在保证提供足够仿真机能的基础上控制生产成本。