Масово паралельні обчислення

Масивно паралельний процесор (MPP) це один комп'ютер з багатьма процесорами з'єднаними в мережу. MPP мають багато спільного з кластерами, та MPP мають спеціалізовані з'єднувальні мережі (тоді як кластери використовують стороннє обладнання для мережі). MPP також в основному більші ніж кластери, зазвичай мають «набагато більше ніж 100 процесорів».^[29] В MPP, «кожен процесор має свою власну пам'ять та копію операційної системи з програмами. Кожна підсистема спілкується з іншою через високошвидкісне з'єднання.»

Обчислення загального призначення на графічних співпроцесорах (GPGPU)

Загальні обчислення на графічних процесорах це порівняно нова тенденція в комп'ютерній інженерії. Графічні процесори — допоміжні процесори, що були сильно оптимізовані для обчислень комп'ютерної графіки.^[32] Обчислення в комп'ютерній графіці це галузь, в якій панує паралелізм даних, зокрема операції з матрицями в лінійній алгебрі.

На початку, відеокарти використовували графічні API для виконання свої програм. Щоправда тепер з'явилось кілька нових мов програмування та платформ збудованих для виконання обчислень загального призначення на відеокартах як на середовищахCUDA для Nvidia так і на CMT для AMD.

19 . Комп’ютерні системи з неоднорідним доступом до пам’яті.

У системі N U М А кожен процесор мас частину спільної пам'яті (рис. 12.20). Ця пам'ять мас єдиний адресний простір Тому, будь-який процесор може звернутися до будь-якої комірки спільної пам'яті безпосередньо, використовуючи ІІ адресу Проте час доступу до модулів спільної пам'яті залежить від їх відстані від процесора. Це приводить до різного (неоднорідного) часу доступу до пам'яті від різних процесорів. Використовується кілька архітектур для підключення процесорів до модулів пам'яті в системі N U М А .

У симетричних багатопроцесорних комп'ютерних системах із спільною пам'яттю мас місце практична межа числа їх процесорів.

Рис. 12.20. Система NUMA із спільною пам'яттю

Ефективна схема з кеш пам'яттю зменшує пам'ять навантаження на шину між процесором і основною пам'яттю, але зі збільшенням чис* ла процесорів навантаження на шину також зростає. Оскільки шина використовується також для передачі сигналів, шо забезпечують когерентність, ситуація з навантаженням на шину ше більш ускладнюється. З якогось моменту в плані продуктивності шина пере* творюгться на вузьке місце. Для систем із спільною пам'яттю такою межею стає число процесорів в межах від 16 до 64. Наприклад, кількість процесорів системи Silicon Grap­hics Power Challenge обмежена 64 процесорами типу R10000, оскільки при подальшому збільшенні числа процесорів продуктивність падає.

У даній конфігурації головна турбота - когерентність кеш-пам'ятей. Хоча окремі ре­алізації і відрізняються в деталях, загальним є те, що кожен вузол має довідник, в яко­му зберігається інформація про місцезнаходження в системі кожної складової спільної пам'яті, а також про стан кеш пам'яті.

20 Обчислювальні комп’ютерні системи на базі трансп’ютерів

Трансп'ютер -це мікрокомп'ютер із власною внутрішньою пам'яттю й лінками (каналами) для з'єднання з іншими трансп'ютерами.Трансп'ютер - транзистор і комп'ютер - це об'єднання слів відбиває основну область застосування даного класу мікроконтролерів, а саме - масово-паралельні обчислювальні системи, у яких трансп'ютер відіграє роль базового обчислювального елемента.Перший трансп'ютер Т414 був розроблений фірмою Inmos в 1983 році.У цей час, крім трансп'ютерів фірми Inmos, серійно випускаються трансп'ютероподібні МП TMS320, З4Х и ADSP2106X.