http://pc.watch.impress.co.jp/docs/column/kaigai/20091109_327607.html

LarrabeeはSIMDとMIMDのバランス–Intel CTOが語る

「Larrabeeは、ある意味で、グラフィックスの世界でのMIMDアーキテクチャの再掘り起こしと言えるだろう。 GPUが大規模なSIMDであるなど、いくつかの点で似ている。そして、グラフィックスデベロッパは、我々に、今日のGPUパイプラインは非常に制約的で、彼らが望むアルゴリズムを走らせることができないと訴えた。そこで、我々はMIMDを導入することでそれに応えることにした。

我々が、昨年のSIGGRAPHで明らかにした論文で示したトランスペアレンシの例のように、固定的なGPUの構造では難しいことが、Larrabeeでは簡単に完璧にできる。こうした点が、MIMDとSIMDのバランスを選んだLarrabeeの利点だ。バランスアーキテクチャが、アイデアの根幹にある」 (Justin R. Rattner, Senior Fellow, Vice President, Director of Intel Labs, Intel Chief Technology Officer, Intel)

ここで、興味深いのはNVIDIAのG80以降のアーキテクトが、SIMDスーパーコンピュータ側の出身であることだ。

G80からFermiまで、NVIDIAの新時代GPUの開発をリードするJohn Nickolls(ジョン・ニコルズ)氏(Director of Architecture, Nvidia)は、MasPar Computerのアーキテクトだった。

MasParは、ちょうどAttack of the Killer Microsが始まった時代にSIMDマシンでThinking Machinesなどと並んでいた。

そして、Nickolls氏らがNVIDIAで行なっているのは、先に触れた通り、SIMDをよりMIMDに近づけることだ。

MasPar MP-2では、構成によっては何千、何万というプロセッサ(最大で1万6千)がSIMDで動作した。

G80以前のNVIDIA GPUも、最大のベクトル長(GPUのコンフィギュレーションで異なる)は4,048だったとAMD(ATI)は指摘している。

4048這個數字有點怪….不知道後藤老爹從哪看來的，真是好奇。

不過Intel在說的效率平衡問題，從定義上來說還真的蠻有趣的，因為這些平衡性問題，差不多就是以前曾經發生過一次的VS/PS問題。

CM-2的時候用的是可以連結最大65536個1bit processor的SIMD、不過CM-5的時候變成FatTree連接的SPARC RISC，最小vector長度也從長變短。而過去VS/PS的固定比例，就可以變相解釋成這邊的固定vector長度。然後GPU廠商導入unified shader，內部的動態balance透過較小的短vector單位變化(NVIDIA是32、ATI是64vector)來作平衡，過去的話就只能用很大的長度單位來變動，最早造成影響的是DX9的dynamic branch，比方說G70的branch單位是約880~1024個pixel這點。(所以後藤老爹提到的4048vector大概指的是同一個數字)

簡單講是說，SIMD的高速來自於極長的向量長度，但是要tune出高效率則是相對地困難很多。和SIMD比起來，MIMD的multi-core相對地比較容易（當然平行化本身就已經不容易就是了），但是完全沒有SIMD的話，小core根本很難提高性能。所以Larrabee的思想在於如何在SIMD與MIMD之間求取平衡….這好像在哪邊聽過？順道一提的是，G80~Fermi都還維持32 vector長度，所以8個或是16個SP一組仍然沒有動到太多底層。

不過這些過去到底有多少和Intel有關係好像還蠻有疑問的w