Идея параллельной обработки возникла одновременно с появлением первых вычислительных машин. В начале 50-х гг. американский математик Дж. Фон Нейман предложил архитектуру последовательной ЭВМ, которая приобрела классические формы и применяется практически во всех современных ЭВМ. Однако фон Нейман разработал также принцип построения процессорной матрицы, в которой каждый процессор был соединен с четырьмя соседними.
D825. Одной из первых полномасштабных многопроцессорных систем явилась система D825 фирмы “BURROUGHS”. Начиная с 1962 г. было выпущено большое число экземпляров и модификаций D825. Выпуск первых многопроцессорных систем, в частности D825, диктовался необходимостью получения не высокого быстродействия, а высокой живучести ЭВМ, встраиваемых в военные командные системы и системы управления. С этой точки зрения параллельные ЭВМ считались наиболее перспективными. Система D825 содержала до четырех процессоров и 16 модулей памяти, соединенных матричным коммутатором, который допускал одновременное соединение любого процессора с любым блоком памяти.
Практическая реализация основных идей параллельной обработки началась только в 60-х гг. 20 - го столетия. Это связано с появлением транзистора, который позволил строить машины, состоящие из большого количества логических элементов, что принципиально необходимо для реализации любой формы параллелизма.
CRAY. Основополагающим моментом для развития конвейерных ЭВМ явилось обоснование академиком С.А. Лебедевым в 1956 г. метода, названного
“принципом водопровода” (позже он стал называться конвейером). Прежде все-
го был реализован конвейер команд, на основании которого практически одно-
временно были построены советская ЭВМ БЭСМ-6 (1957-1966 гг., разработка
Института точной механики и вычислительной техники АН СССР), и англий-
ская машина ATLAS (1957-1963 гг.). Конвейер команд предполагал наличие
многоблочной памяти и секционированного процессора, в котором на разных
этапах обработки находилось несколько команд.
Следующим заметным шагом в развитии конвейерной обработки, реализо
ванном в ЭВМ CDC-6600 (1964 г.), было введение в состав процессора не-
скольких функциональных устройств, позволяющих одновременно выполнять
несколько арифметико-логических операций: сложение, умножение, логические операции.
В конце 60-х гг. был введен в использование арифметический конвейер, который нашел наиболее полное воплощение в ЭВМ CRAY-1 (1972-1976 гг.).
Арифметический конвейер предполагает разбиение цикла выполнения арифме-
тико-логической операции на ряд этапов, для каждого из которых отводится
собственное оборудование. Таким образом, на разных этапах обработки нахо-
дится несколько чисел, что позволяет производить эффективную обработку
вектора чисел.
Сочетание многофункциональности, арифметического конвейера для каж
дого функционального блока и малой длительности такта синхронизации по-
зволяет получить быстродействие в десятки и сотни миллионов операций в се-
кунду. Такие ЭВМ называются супер ЭВМ.
ILLIAC-IV. Идея получения сверхвысокого быстродействия в первую очередь связывалась с процессорными матрицами (ПМ). Предполагалось, что,
увеличивая в нужной степени число процессорных элементов в матрице, можно
получить любое заранее заданное быстродействие.
Поскольку в 60-е гг. логические схемы с большим уровнем интеграции от
сутствовали, то напрямую реализовать принципы функционирования процес-
сорной матрицы, содержащей множество элементарных процессоров, не пред-
ставлялось возможным. Поэтому для проверки основных идей строились одно-
родные системы из нескольких больших машин. Так, в 1966 г. была построена
система Минск-222, разработанная Институтом математики Сибирского отде-
ления АН СССР и минским заводом ЭВМ им. Г.К.Орджоникидзе. Система со-
держала до 16 соединенных в кольцо ЭВМ Минск-2. Для нее было разработано
специальное математическое обеспечение.
Другое направление в развитии однородных сред, основанное на построе-
нии процессорных матриц, состоящих из крупных процессорных элементов с
достаточно большой локальной памятью, возникло в США и связано с именами
Унгера, Холланда, Слотника. Была создана ЭВМ ILLIAC-IV (1966-1975 гг.), ко-
торая надолго определила пути развития процессорных матриц. В машине ис-
пользовались матрицы 8×8 процессоров, каждый с быстродействием около 4
млн оп/с и памятью 16 кбайт. Для ILLIAC-IV были разработаны кроме Ассемб-
лера еще несколько параллельных языков высокого уровня. Особенно ценным
является опыт разработки параллельных алгоритмов вычислений, определив-
ший области эффективного использования подобных машин.
Tранспьютер. Совершенствование микроэлектронной элементной базы,
появление в 80-х годах БИС и СБИС позволили разместить в одной микросхеме
процессор с 4-мя внешними связями, который получил название транспьютер.
Теперь стало возможным строить системы с сотнями процессоров.
Вычислительные кластеры. Далее развитие и производство супер-ЭВМ
пошло широким потоком. Сначала строились монолитные многопроцессорные
системы, для которых все разрабатывалось специально для конкретной систе-
мы: элементная база, конструктивы, языки программирования, операционные
системы. Затем оказалось много дешевле строить вычислительные кластеры на
основе промышленные средства, появились многояденые процессора, Грид,
квантовые компьютеры.
Некоторые этапы развития параллельных ЭВМ качественно можно представить следующей таблицей:
№ | НАЗВАНИЕ ЭВМ | ГОДЫ | НОВИЗНА | ПРОГРАММЫ |
D825 - одна из первых многопроцессорных систем | Доказана возможность построения многопроцессорных систем | Первая ОС для многопроцессорных систем - ASOR | ||
Матричный процессор ILLIAC IV | Реализована ОКМД машина | Параллельный язык Glupnir | ||
Векторно- конвейерная ЭВМ CRAY | Предложены конвейерные вычисления | Предложен ЯВУ векторного типа | ||
Транспьютер Т414 | Разработан процессор на кристалле со связями для мультисистем | Язык описания параллелизма OCCAM | ||
Кластер Beowulf | Сборка на серийном оборудовании | Использованы обыч ные сетевые ОС | ||
Грид | Неограниченная возможность расширения | GlobusToolkit, gLite | ||
Многоядерные про- цессоры | Разработаны МЯ процессоры с общей и индивидуальной памятью | OpenMP и MPI. Нужны новые разработки | ||
Квантовый компью- тер Orion компании D-Wave | Кубит, эспоненциальная скорость за счет суперпозиции | Алгоритмы Шора, Гровера. Языки моделирования |