Мета створення кластерів та розпаралелення задач

Часто можна зустріти невірне твердження, що використання суперкомп’ютера може само по собі дати приріст продуктивності. Це невірне твердження. Так як якщо задача не має внутрішнього паралелізму і неадаптована відповідним чином, максимум, що Ви отримаєте від кластера – це запуск декілька програм одночасно, кожна із якої працює з своїм набором даних. Це не прискорить виконання програми, проте дозволить з економити час, якщо потрібно обробити багато варіантів даних. Можна навести приклад: якщо 1 корабель перепливе море за 7 днів, то 7 кораблів море за день не перепливуть. Проте, за цей самий час 7 кораблів перевезуть у 7 раз більше вантажу. Якщо ж об’єми задачі такі, що тільки один прогін програми може тривати декілька днів, то відповідно слід адаптувати програму. Потрібно розділити задачу на декілька під задач, які можуть виконуватися незалежно. А в місцях, де незалежне виконання неможливе, потрібно явно викликати процедури синхронізації для обміну даними через мережу. Наприклад, якщо обробляється великий масив, то слід його розділити між вузлами кластера забезпечивши оптимальне навантаження. Тому перед тим як перейти до практичної реалізації кластерної технології, потрібно вирішити декілька принципових питань:

1. чи взагалі необхідний кластер та паралельні обчислення для даної задачі?

Кластер потрібен якщо:

- спеціальні пакети програм, що використовуються неадаптовані для паралельних обчислень;

- програма вимагає не більше декількох годин процесорного часу на вже існуючому обладнанні; може вийти так, що час, який затрачується на розпаралелювання на відладку програми, перевищить всі переваги, які дасть процесорна обробка;

- час життя програми порівняний із часом її розробки в паралельному варіанті, немає змісту витрачати на розпаралелювання задачі, якщо ця програма буде запущена один раз в житті, а потім нею користуватися ніхто не буде;

2. наявність принципової можливості розпаралелити задачу; деякі алгоритми не піддаються ефективній паралелізації. Нехай в програмі доля операцій, які треба виконати послідовно, тобто розпаралелити їх не можливо = f; 0 £ f £ 1. Якщо f=0, то всі операції – не залежні, f=1, то залежні. Для оцінки прискорення продуктивності S на комп’ютері із P-процесорами при певному значенні f використовують закон Амдала:

. Він дуже обмежує використання паралельних комп’ютерів. Якщо в програмі лише 10% послідовного колу, то за законом Амдала не слід очікувати прискорення більш ніж у 10 разів, яку б кількість Р – процесорів не використовували.