Історія розвитку високопродуктивних обчислювальних систем

У процесі розвитку суперкомп'ютерних технологій ідею підвищення продуктивності обчислювальної системи за рахунок збільшення числа процесорів використовували неодноразово. Якщо не вдаватися занадто глибоко в історичний екскурс і обговорення всіх таких спроб, то можна таким чином коротенько описати розвиток подій.

Експериментальні розробки по створенню багатопроцесорних обчислювальних систем почалися в 70-х роках 20 століття. Однією з перших таких систем стала розроблена в Іллінойському університеті МВС ILLIAC IV, яка включала 64 (у проекті до 256) процесорних елемента (ПЕ), що працюють за єдиною програмою, застосовуваної до вмісту власної оперативної пам'яті кожного ПЕ. Обмін даними між процесорами здійснювався через спеціальну матрицю комунікаційних каналів. Зазначена особливість комунікаційної системи дала назву "матричні суперкомп'ютери" відповідного класу МВС. Відзначимо, що більш широкий клас МВС з розподіленою пам'яттю і з довільною комунікаційною системою отримав згодом назву "багатопроцесорні системи з масовим паралелізмом", або МВС з MPP-архітектурою (MPP - MassivelyParallelProcessing). При цьому, як правило, кожен з ПЕ MPP системи є універсальним процесором, чинним за своєю власною програмою (на відміну від загальної програми для всіх ПЕ матричної МВС).

Перші матричні МВС випускалися буквально поштучно, тому їх вартість була фантастично високою. Серійні ж зразки подібних систем, такі як ICL DAP, що включали до 8192 ПЕ, з'явилися значно пізніше, проте не набули широкого поширення зважаючи на складність програмування МВС з одним потоком управління (з однією програмою, спільною для всіх ПЕ).

Перші промислові зразки мультипроцесорних систем з'явилися на базі векторно-конвеєрних комп'ютерів в середині 80-х років. Найбільш поширеними МВС такого типу були суперкомп'ютери фірми Cray. Однак такі системи були надзвичайно дорогими і вироблялися невеликими серіями. Як правило, в подібних комп'ютерах об'єднувалося від 2 до 16 процесорів, які мали рівноправний (симетричний) доступ до загальної оперативної пам'яті. У зв'язку з цим вони отримали назву симетричні мультипроцесорні системи (SymmetricMulti-Processing - SMP).

Як альтернатива таким дорогим мультипроцесорним системам на базі векторно-конвеєрних процесорів була запропонована ідея будувати еквівалентні за потужністю багатопроцесорні системи з великого числа дешевих серійно випускаємих мікропроцесорів. Однак дуже скоро виявилося, що SMP архітектура має дуже обмежені можливості з нарощуванням числа процесорів в системі, через різке збільшення числа конфліктів при зверненні до загальної шини пам'яті. У зв'язку з цим виправданою представлялася ідея забезпечити кожен процесор власною оперативною пам'яттю, перетворюючи комп'ютер у об'єднання незалежних обчислювальних вузлів. Такий підхід значно збільшив ступінь масштабованості багатопроцесорних систем, але у свою чергу зажадав розробки спеціального способу обміну даними між обчислювальними вузлами, реалізованого зазвичай у вигляді механізму передачі повідомлень (MessagePassing). Комп'ютери з такою архітектурою є найбільш яскравими представниками MPP систем. В даний час ці два напрямки (або якісь їхні комбінації) є домінуючими в розвитку суперкомп'ютерних технологій.

Щось середнє між SMP і MPP представляють собою NUMA-архітектури (NonUniformMemoryAccess), в яких пам'ять фізично розділена, але логічно загальнодоступна. При цьому час доступу до різних блоків пам'яті стає неоднаковим. В одній з перших систем цього типу Cray T3D час доступу до пам'яті іншого процесора був у 6 разів більший, ніж до своєї власної.

Мал.1.1. SMP і NUMA-архітектури

В даний час розвиток суперкомп'ютерних технологій йде за чотирма основними напрямками: векторно-конвеєрні суперкомп'ютери, SMP системи, MPP системи і кластерні системи. Розглянемо основні особливості перерахованих архітектур.