Для исследуемого объекта сначала строится математическая модель. Она базируется на известных фундаментальных моделях. Вычислительный эксперимент, по своей сути, предусматривает исследование группы близких моделей. Вначале строится простая, но достаточно содержательная и полная с точки зрения описания исследуемых процессов, с точки зрения близости к экспериментальным данным модель.
В процессе проведения вычислительного эксперимента, на его последующих циклах модель уточняется, учитываются новые факторы и т.д. Поэтому мы всегда можем говорить (более того, должны говорить) о наборе, упорядоченном наборе (об иерархии) математических моделей, каждая из которых с той или иной точностью описывает действительность. И в рамках наиболее простой модели необходимо добиваться согласия с экспериментом. Это и является, в конце концов, целью вычислительного эксперимента.
После построения математической модели традиционными средствами прикладной математики проводится предварительное исследование математической модели. Суть вычислительного эксперимента, его содержательное зерно состоит в исследовании на компьютере математических моделей численными методами. Здесь же речь идет только о предварительном исследовании математической модели. На этом этапе с доступной полнотой, на принятом в математике уровне строгости решаются вопросы о корректности полной задачи в узком математическом смысле.
Основное содержание предварительного исследования математической модели состоит в выделении более простых (модельных) задач и их всестороннем исследовании, так как полная математическая модель слишком сложна. Модельные математические задачи в цикле вычислительного эксперимента строятся для двух различных целей: во-первых, для качественного исследования полной задачи (а опосредовано и исследуемого объекта), во-вторых - для проверки, тестирования вычислительных алгоритмов приближенного решения полной задачи.
При качественном исследовании модельных (упрощенных) задач изучаются вопросы множественности решения, его устойчивости и т.д. Большое значение имеют также точные частные решения существенно нелинейных задач, асимптотические решения и т.д. Таким образом здесь применяется обычный математический арсенал теоретического исследования проблемы.
На следующем этапе вычислительного эксперимента строится дискретная задача и численный метод решения этой дискретной задачи. Сама математическая модель включает в себя, как правило, уравнения с частными производными (ядро математической модели), системы дифференциальных и алгебраических уравнений. Построение вычислительных алгоритмов и их исследование является прерогативой вычислительной математики.
При прикладном математическом моделировании наблюдаются две тенденции научных исследований. В традициях (парадигме) чистой математики одни исследователи изучают дискретные модели и численные методы их исследования вне связи их с прикладным математическим моделированием, реализацией на компьютере в контексте решения прикладной проблемы. Проводятся строгие доказательства существования решения дискретной задачи, получают теоретические оценки погрешности приближенного решения, сходимости итерационного процесса. Это уместно прежде всего при разработке методов решения базовых задач, при разработке вычислительного арсенала исследователя.
Представители прикладного направления в вычислительной математике работают на несколько другом ("физическом") уровне строгости, для которого характерны такие нестрогие понятия как "практическая сходимость", "реальные сетки" и т.д. Безусловное требование полной строгости при прикладном математическом моделировании ни к чему хорошему не приводит.
Вычислительный эксперимент характеризуется двумя особенностями, которые необходимо учитывать при создании адекватного ему программного обеспечения. Это, во-первых, многовариантность расчетов в рамках фиксированной математической модели и, во-вторых, многомодельность. Здесь уже нельзя обойтись одной программой на компьютере, нужно иметь возможность легко менять ее для решения близких задач (задач для набора моделей).
Программное обеспечение вычислительного эксперимента базируется на использовании комплексов и пакетов прикладных программ. Комплекс программ предназначен для решения близких по своей математической природе задач из одной предметной области. Он включает в себя библиотеку программных модулей (в большой или меньшей степени независимых), из которых комплектуются рабочие программы. В комплексах прикладных программ сборка программ из модулей осуществляется вручную.
В пакетах прикладных программ для сборки используются системные средства компьютера, что позволяет в значительной степени автоматизировать этот процесс. Пакеты прикладных программ, рассматриваемые как технология решения задач в рамках вычислительного эксперимента, позволяют наиболее эффективно использовать накопленный программный продукт, резко поднять производительность труда программистов.
В наибольшей степени основные особенности вычислительного эксперимента учитывается при использовании объектно-ориентированного программирования и современных языков программирования.
Затем в цикле вычислительного эксперимента проводится серия расчетов на компьютерах при изменении тех или иных параметров задачи. Полученные данные анализируются и интерпретируются с участием специалистов в прикладной области. Обработка результатов проводится с учетом имеющихся теоретических представлений и экспериментальных данных. Она осуществляется, во-многом, в традициях классического натурного эксперимента. Сами опытные данные представляются в виде таблиц, графиков, фотографий с дисплея, кинофильмов и т.д.
Надо только всегда иметь в виду, что объем обрабатываемой информации, детализация полученных результатов в вычислительном эксперименте несравненно больше. В вычислительном эксперименте проблемы хранения и обработки информации имеют все возрастающее значение.
На этапе анализа результатов становиться ясным, удачно ли выбрана математическая модель, ее вычислительная реализация. Если есть необходимость, модели и численные методы уточняются и весь цикл вычислительного эксперимента повторяется, то-есть совершается новый виток спирали в познании истины.