并行计算技术是云计算的核心技术，也是最具挑战性的技术之一。多核处理器的出现增加了并行的层次性能使得并行程序的开发比以往更难。而当前业内并无有效的并行计算解决方案，无论是编程模型、开发语言还是开发工具，距离开发者的期望都有很大的差距。自动的并行化解决方案在过去的30年间已经被证明基本是死胡同，但传统的手工式的并行程序开发方式又难以为普通的程序员所掌握。Intel、微软、SUN、Cray等业内巨头正投入大量人力物力进行相关的研究，但真正成熟的产品在短期内很难出现。可扩展性是云计算时代并行计算的主要考量点之一，应用性能必须能随着用户的请求、系统规模的增大有效的扩展。当前目前大部分并行应用在超过一千个的处理器(核)上都难以获得有效的加速性能，未来的许多并行应用必须能有效扩展到成千上万个处理器上。这对开发者是巨大的挑战。

国际商用机器公司的POWER4，2000年发布的第一个双核心模块处理器。

IBM的POWER5双核心芯片，还有应用在苹果电脑PowerMac G5中的PowerPC 970MP双核心处理器。

Broadcom SiByte (SB1250, SB1255, SB1455)

PA-RISC (PA-8800)

Sun Microsystems UltraSPARC IV, UltraSPARC IV+, UltraSPARC T1

AMD在2005年4月22日发布了它的双核心Opteron服务器/工作站用处理器，还有2005年5月31日发布的双核心桌面处理器Athlon 64 X2家族，AMD还发布了FX-60和FX-62高性能桌面处理器，以及Turion 64 X2移动处理器。

Intel的双核心Xeon处理器，开发代号为Paxville和Dempsey，初识频率为3 GHz。该公司当前还在开发双核心版本的Itanium高端服务器CPU架构并生产了Pentium D，Pentium 4的移动版。一个更新的处理器芯片Core Duo，应用在苹果电脑的iMac、高端的Mac mini、MacBook以及MacBook Pro中，以及其他多种如索尼、东芝、华硕等厂家的笔记本电脑中。下一代版本Core 2 Duo，开发代号Conroe，在2006年7月发布。

Motorola/Freescale在PowerPC e600和e700的基础上开发双核心芯片。

Microsoft的Xbox 360 游戏终端使用了三核心的PowerPC微处理器。

Raza Microelectronics的 XLR 处理器拥有8个MIPS核心。

Cavium Networks的Octeon处理器拥有16个MIPS核心。

Intel很早就通过超线程技术实现了逻辑上的双处理器系统，可以并行计算，但这不过是对处理器闲置资源的一种充分利用而已，并且这种充分利用只有在特定的条件下，尤其是针对流水线比较长且两种运算并不相互交叉的时候，才会有较高的效率，如编码解码、长期重复某种矩阵运算以及一些没有经过仔细编写的软件等。

即使IBM的Power5架构，也需要跟最新的操作系统进行融合，加上运行在其上的软件，才有可能利用并发多线程。虚拟化技术在一定程度上能够处理一些因为多核带来的问题，可以让应用软件和操作系统在透明的环境下对处理器资源进行分配和管理。

目前在对称多处理器方面，操作系统对资源的分配和管理并没有本质的改变，多以对称的方式进行平均分配。也就是说，在操作系统层面，当一个任务到来时，剥离成为两个并行的线程，因为线程之间需要交流以及操作系统监管，它导致的效率损失要比硬件层面大得多。并且，多数软件并没有充分考虑到双核乃至多核的运行情况，导致线程的平均分配时间以及线程之间的沟通时间都会大大增加，尤其是当线程需要反复访问内存的时候。目前，多数操作系统还没有完全实现自由的资源分配，如IBM是通过AIX 5.3L来支持Power5上的虚拟化功能，才实现了资源的动态调配和划分的。

从长远来看，需要使用虚拟化技术才可能实现操作系统对任务的具体划分，这很可能改变一些通用的编程模式。