- •1. Класифікація архітектури обчислювальних систем за Флінном
- •3. Гібридна архітектура numa|
- •4. Організація когерентності багаторівневої ієрархічної пам'яті
- •5. Pvp|– паралельна архітектура з|із| векторними процесорами
- •6. Кластери. Типи кластерів
- •Типи кластерів
- •7. Приклади|зразки| побудови|шикування| комунікаційних середовищ|середи| на основі когерентного інтерфейсу sci|, що масштабується
- •8. Комунікаційне середовище|середа| myrinet|
- •10. Конвеєрні процесори
- •9. Асоціативні процесори
- •11. Матричні процесори
- •12. Прості комутатори з тимчасовим розділенням
- •13. Особливості реалізації шин
- •14. Прості комутатори з просторовим розділенням
- •15. Складені|складові| комутатори
- •16. Розподілені складені|складові| комутатори
- •21. Обчислювальні системи. Рівні паралелізму
- •22. Системи на кристалі та їх види
- •23. Стадії реалізації проекту комп’ютерних систем на кристалі
- •24. Особливості та відмінності моделювання і верифікації проектування комп’ютерних систем.
21. Обчислювальні системи. Рівні паралелізму
Паралельні обчислювальні системи - це фізичні комп'ютерні, а також програмні системи, що реалізують тим чи іншим способом паралельну обробку даних на багатьох обчислювальних вузлах.
Ідея розпаралелювання обчислень заснована на тому, що більшість завдань може бути розділене на набір менших завдань, які можуть бути вирішені одночасно. Зазвичай паралельні обчислення вимагають координації дій. Паралельні обчислення існують в декількох формах: паралелізм на рівні бітів, паралелізм на рівні інструкцій, паралелізм даних, паралелізм завдань. Паралельні обчислення використовувалися багато років в основному у високопродуктивних обчисленнях, але останнім часом до них зріс інтерес внаслідок існування фізичних обмежень на зростання тактової частоти процесорів. Паралельні обчислення стали домінуючою парадигмою в архітектурі комп'ютерів, в основному у формі багатоядерних процесорів.
Як показує історія, паралелізм, який застосовується для підвищення ефективності ЕОМ з моменту появи ранніх проектів, використовувався на кількох визначених рівнях, які можна було класифікувати наступним чином:
Рівень завдань: а) між завданнями, б) між фазами завдання.
Програмний рівень: а) між частинами програми, б) в межах циклів DO.
Командний рівень: між фазами виконання команд.
Арифметичний і розрядний рівень: а) між елементами векторної операції;
б) всередині логічних схем арифметичного пристрою [2, стор. 34].
На найвищому рівні призначення обчислювальної установки полягає в максимізації швидкості обробки завдань. При спрощеному аналізі кожне завдання можна розглядати як завдання, поділене на кілька послідовних фаз, кожна з яких вимагає різних програм і ресурсів системи. Типовими фазами можуть бути: введення вихідної програми на мові Фортран з диска, компіляція програми в об'єктний код, зв'язок об'єктного коду з різними бібліотечними підпрограмами, виконання результуючого модуля; роздрук вихідних файлів. Будь-яка операція вводу-виводу є дуже повільною, порівняно з виконанням програми, внаслідок чого будь-яка велика обчислювальна система забезпечується декількома каналами введення-виведення або периферійними процесорами, які можуть здійснювати введення-виведення паралельно з виконанням програм, а також комплектом дисководів. Є системи з одним процесором для виконання програм, а також є системи, що містять два або більше процесорів. Призначення операційної системи - організувати поділ системних ресурсів між різними завданнями. Зазвичай кілька програм (наприклад, 5 - 10) розміщуються в швидкодіючій пам'яті ЕОМ і, якщо є один процесор, то тільки одна перебуватиме у стадії виконання. Як тільки цій програмі буде потрібний повільний пристрій введення-виведення, наприклад, читання з диска, ця операція запускається в канал і виконується інша програма. Перша програма знаходиться в режимі очікування, поки не надійдуть необхідні дані, і потім управління знову передається їй. Аналогічно інші програми зобов'язані перебувати в режимі очікування. Таким чином, введення-виведення одного завдання поєднується з виконанням іншого, в динамічному режимі трапляється, що для виконання завдань в залежності від вимог в певний час ЕОМ використовується колективно [2, стор. 34-35].
Далі покажемо типи паралелізму, які можуть виникати під час виконання програми, що представляє одну з фаз завдань, розглянутих вище. У такій програмі можливо розбиття коду на секції, які є абсолютно незалежними одна від одної, і можуть виконуватися паралельно на різних процесорах і в мультипроцесорному середовищі (наприклад, безліч об'єднаних мікропроцесорів). Деякі секції незалежного коду можуть розпізнаватися на основі логічного аналізу вихідного коду, інші, що представляють залежні дані, є невідомими доти, поки не буде виконана програма. У деяких випадках різні операції циклу можуть бути незалежними одна від одної, навіть якщо різні тракти проходять через умовні оператори, що містяться в циклі. В цьому випадку в кожен мікропроцесор засилається повний код і різні прогони циклу виконуються паралельно завдяки наявності мікропроцесорів [2, стор. 35].
На нижчому рівні обробку будь-якої команди можна розділити на кілька підоперацій, а для поєднання підоперацій різних команд можна використовувати конвеєрну обробку.
На найнижчому рівні в самому АЛП є вибір: виконувати арифметичні дії або розрядно-послідовним способом, або паралельно над усіма розрядами числа. Існують проміжні варіанти: наприклад, можна виробляти логічні операції над усіма розрядами байта1 паралельно, а вибірку байтів числа послідовно
