Конфигурация Univa Grid Engine

Компания Univa анонсировала создание форка проекта Sun Grid Engine, предназначенного для организации процесса выполнения заданий в сети распределенных вычислений. Компания Univa уже достаточно давно занимается созданием расширений и предоставляет услуги поддержки для решений на базе Univa Grid Engine, имея на это соответствующую OEM-лицензию. После поглощения Univa компанией Oracle, разработка открытого проекта была прекращена, поэтому компания Univa решила взять инициативу в свои руки и совместно с независимым сообществом разработчиков продолжить разработку независимо от Oracle. Продукт Univa Grid Engine предназначен, прежде всего, для сетей среднего размера, охватывающих отдел или небольшое предприятие. Этот продукт предназначен для сетей класса Cluster Grid и доступен бесплатно [7],[58].

Пакет позволяет объединить несколько серверов или рабочих станций в единый вычислительный ресурс, который может быть использован как для пакетных задач, так и для высокопроизводительных пакетных вычислений.

Администратор вычислительной сети может получать данные мониторинга и статистики, и на их основе оптимизировать уровень использования ресурсов. Административный интерфейс позволяет задавать различные параметры вычислительных задач, такие, как приоритеты, требуемые ресурсы оборудования, лицензии на программное обеспечение, временное окно выполнения, права пользователей на доступ к тем или иным ресурсам [7].

На диаграмме показаны компоненты Univa Grid Engine кластера.

Рисунок.2.16. Компоненты Univa Grid Engine

В центре диаграммы – qmaster. Этот центральный компонент Univa Grid Engine управляет кластером, принимая поступающие задания от пользователей, назначая задания на ресурсы, контролируя текущий статус кластера, и обрабатывая команды управления. qmaster – многопоточный демон, который работает на одном хосте в вычислительном кластере. Чтобы уменьшить незапланированный простой кластера, один или более shadow masters могут выполнить задачи на дополнительных узлах в кластере. В случае неудачного завершения задачи qmaster'ом или хостом, задача передается новому qmaster, запуская нового qmaster демона. Каждый хост в кластере, который должен выполнить задания, должен будет запустить соответствующий демон. Демон получает задания от qmaster и выполняет их в определённом месте на своем хосте. Программное обеспечение Univa Grid Engine не устанавливает ограничений на число заданий, которые может распределить демон, но в большинстве случаев число заданий определено числом ядер центрального процессора доступных на хосте. Когда задание завершено, демон сообщает qmaster, что он может планировать новое задание.

В стандартном режиме каждый демон шлет сообщение о своем состоянии qmaster'у. Если qmaster неудачно завершает одну из задач, получая несколько последовательных сообщений от демона, то qmaster не зарегистрирует этого хоста и все его ресурсы как доступные и удалит его из списка планировщика как доступного.

Задания посылаются в qmaster разнообразными путями. DRMAA обеспечивает программный интерфейс для приложения, чтобы обеспечить запуск и контроль задания. Программное обеспечение Univa Grid Engine работает с C и Java, позволяя использовать DRMAA для широкого диапазона приложений. qmon – это графический пользовательский интерфейс Univa Grid Engine. Через qmon пользователи и администратор могут запускать, контролировать и управлять заданиями, а так же управлять всеми функциями кластера. qsub – это командная строка утилита для того, чтобы запускать очереди, пакеты и параллельные задания. Последний компонент, показанный на диаграмме – это ARCo (Accounting and Reporting Console), интернет приложение, обеспечивающее доступ к Univa Grid Engine для учёта информации, хранившейся в базе данных. Используя ARCo, конечные пользователи и администраторы могут создавать и выполнять запросы по учёту работы кластера [3] [7].

Услуги и другие объекты, которые существуют и общаются в Grid, реализованы как демоны UN*X. Кроме того, UGE предлагает огромный набор инструментов в режиме командной строки для планирования заданий, мониторинг и общего управления, с возможностями резервного копирования, и дружественный к пользователю интерфейс. Такой подход открывает очень большие возможности для работы со скриптами операционного окружения, например в режиме терминала.

В дополнение к отмеченным особенностям важно понимать, что реализация инфраструктуры Grid в среде UN*X разрешает использовать все уже доступные стандартные и привычные инструменты коммуникации, такие как rsh и ssh, продвижение X-Window, NFS, NIS +, RPC и т.д.

Первый шаг, необходимый для начала работы, это собрать данные по топологии доступных ресурсов, выбирая подходящие машины для поставленных задач. UGE использует в основном 4 типа хостов: Master host, Execution host, Administration host and Submit host.

Каждый хост может быть членом в то же время больше чем одной категории и будет управлять соответствующими демонами UGE. Единственное ограничение к этому подразделению хостов состоит в том, что может существовать только один Master хост на верхнем уровне UGE grid (названный Cell) [33].

Рисунок.2.17. Конфигурация Univa Grid Engine (Графический интерфейс пользователя - qmon)

В данной работе реализовали систему управления распределенными ресурсами UGE в в двух многопроцессорных серверах Ultra Sparc T1 в ВТ СПбГЭТУ«ЛЭТИ». И рассмотрено выполнение приложение PI для расчетов в распределенной вычислительной среде. Как видно, мы имеем очень хорошие результаты: ускорение расчетов близко к идеальному.

yemyint@sun2:~$ qhost

HOSTNAME ARCH NCPU NSOC NCOR NTHR LOAD MEMTOT MEMUSE SWAPTO SWAPUS

----------------------------------------------------------------------------------------------

global - - - - - - - - - -

sun1 sol-sparc64 32 1 8 8 2.59 15.9G 10.1G 2.0G 0.0

sun2 sol-sparc64 32 1 8 8 2.70 15.9G 13.6G 2.0G 0.0

Таблица.2.5. Результаты времени выполнения на приложении PI