Метакомпьютинг

Кластеры для расчётов высоко востребованы для отраслей машиностроения, судостроения, авиапрома, энергетической отрасли, инжиниринговыми фирмами, научно-исследовательскими центрами, пользователями CAE-систем, киностудиями и мультипликационными студиями.

В качестве решаемых задач для высокопроизводительных вычислений можно выделить моделирование аэрогазодинамических процессов, моделирование химических реакций, моделирование сложного динамического поведения различных механических систем, моделирование задач любой степени геометрической сложности, рендеринг для кино и мультипликации и многие другие. А как результат – существенное снижение затрат на производство тестовых образцов, снижение количества требуемых натурных и дорогостоящих испытаний, предсказание поведения системы в нештатных условиях [5], [10],[20].

Высокопроизводительные кластерные решения - являются наиболее дешевыми решениями по соотношению цена - производительность. Строятся на базе серийных серверных компонентов с использованием высокопроизводительных меж узловых соединений (таких как Infiniband или Myrinet) для коммуникации между узлами вычислительного кластера. Такие системы позволяют решать задачи, требующие высокоскоростной и быстрой коммуникации между узлами системы.

Render Farm - так же как и кластерные решения строятся на базе серийных серверных компонентов с той лишь разницей, что для данного типа высокопроизводительных систем не требуется высокоскоростной коммуникации между узлами системы.

GRID системы - строятся на базе кластерных систем. Содержат слой виртуализации, который позволяет пользователю не задумываться о том, где конкретно запустилась его задача и как ему забирать выходные данные. Такие системы обычно используются при объединении большого числа кластеров в единую вычислительную сеть [5],[20].

Основные понятия

Классификация многопроцессорных систем по способу организации оперативной памяти:

1.) Мультипроцессорные вычислительные системы или вычислительные системы с разделяемой памятью.

В мультипроцессорах адресное пространство всех процессоров является единым. Это означает, что если в программах нескольких процессоров встречается одна и та же переменная, то для получения или изменения значения этой переменной процессоры будут обращаться в одну физическую ячейку общей памяти.

С одной стороны, не нужно физически перемещать данные между коммутирующими программами, что исключает затраты времени на межпроцессорный обмен.

С другой стороны, так как одновременное обращение нескольких процессоров к общим данным может привести к получению неверных результатов, необходимы системы синхронизации параллельных процессов и обеспечения когерентности памяти. Поскольку процессорам необходимо часто обращаться к общей памяти, возрастают требования к пропускной способности коммуникационной среды, что ограничивает число процессоров в мультипроцессорах несколькими десятками.

Ещё одно преимущество мультипроцессорной системы в том, что она функционирует под управлением единственной копии операционной системы и не требует индивидуальной настройки каждого процессорного узла.

Однородные мультипроцессоры с равноправным или симметричным доступом к общей оперативной памяти принято называть SMP-системами. Все процессоры SMP-системы имеют симметричный доступ к памяти, т.е. они обладают равными правами на доступ к памяти, одной адресацией для всех элементов памяти, равным временем доступа к памяти. Память в SMP-системы представляет собой UMA-память (Uniform Memory Access).

Главным недостатком SMP-системы является отличие в скорости работы оперативной памяти от скорости работы процессоров. Чтобы сгладить этот разрыв современные процессоры снабжаются высокоскоростной буферной памятью (кэш-памятью). Скорость доступа к этой памяти в несколько десятков раз превышает скорость доступа к основной памяти процессора. Однако наличие кэш-памяти нарушает принцип равноправного доступа к любой точке памяти, поэтому после каждой модификации копии переменной, находящейся в кэш-памяти одного процессора, необходимо производить синхронную модификацию самой этой переменной, расположенной в основной памяти [20],[22],[77].

Также из-за ограниченной пропускной способности коммуникационной среды SMP-системы плохо масштабируются. В настоящее время в реальных системах используется не более десятков процессоров.

2.) Мультикомпьютерные вычислительные системы или вычислительные системы с распределённой памятью.

Мультикомпьютеры не имеют общей памяти. Поэтому межпроцессорный обмен в таких системах осуществляется обычно через коммуникационную сеть с помощью передачи сообщений.

Каждый процессор в мультикомпьютере имеет независимое адресное пространство. Поэтому наличие переменной с одним и тем же именем в программах разных процессоров приводит к обращению к физически разным ячейкам памяти. Это обстоятельство требует физического перемещения данных между коммутирующими программами в разных процессорах. Но чаще всего основная часть обращений производится каждым процессором к собственной памяти. Поэтому требования к коммутационной среде ослабляются. В результате число процессоров в мультикомпьютерных системах может достигать нескольких тысяч и десятков тысяч.

Однородные мультикомпьютеры с распределённой памятью называются вычислительными системами с массивно-параллельной архитектурой (MPP-системами).

Используются два варианта работы операционной системы на MPP-системах. В одном варианте полноценная операционная система функционирует только на управляющей ЭВМ, а на каждом узле работает сильно урезанный вариант операционной системы, поддерживающий только базовые функции ядра. Во втором варианте на каждом узле работает полноценная UNIX-подобная операционная система. В таком случае может быть использован только ограниченный объем памяти каждого из процессоров.

По сравнению с SMP-системами, архитектура MPP-системы устраняет одновременно как проблему конфликтов при обращении к памяти, так и проблему когерентности кэш-памяти. Главным преимуществом MPP-систем является хорошая масштабируемость. С другой стороны, отсутствие общей памяти заметно снижает скорость межпроцессорного обмена в MPP-системах. Это обстоятельство для MPP-систем выводит на первый план проблему эффективности коммуникационной среды. Кроме того, в MPP-системах требуется специальная техника программирования для реализации обмена данными между процессорами.

3.) Нечто среднее между SMP-системами и MPP-системами представляют собой NUMA-системы (Non-Uniform Memory Access).

Логически общий доступ к данным обеспечивается при физически распределённой памяти. При этом расстояние между различными процессорами и различными элементами памяти, вообще говоря, различно и длительность доступа различных процессоров к различным элементам памяти различна. Память таких систем представляет собой NUMA-память.

NUMA-система обычно строится на основе однородных процессорных узлов, состоящих из небольшого числа процессоров и блока памяти. Модули объединены с помощью некоторой высокоскоростной коммуникационной среды. Поддерживается единое адресное пространство, аппаратно поддерживается доступ к удалённой памяти, т.е. памяти других модулей. Задержки при обращении процессора к своей памяти оказываются невысоки (например, по сравнению с SMP-системой), но в то же время доступ к чужой памяти, принадлежащей другому процессору, сопровождается высокими задержками. В сущности, NUMA-система представляет собой MPP-систему, где в качестве отдельных вычислительных элементов используются SMP-узлы [5],[20].