Как известно коэффициент теплообмена a можно определить из критериального уравнения:
Nu= С·Rem·Prn·Grk (Рrж / Рrc) 0,25, (7)
где 
, число Нуссельта, определяет интенсивность теплообмена;
, число Рейнольдса, характеризует режим движения теплоносителя;
число Грасгофа, выражает влияние на теплоотдачу гравитационных сил и температурного расширения;
, число Прандтля, характеризует влияние на теплоотдачу физических свойств теплоносителя;
(Рrж / Рrc) 0,25, отношение учитывает изменение свойств теплоносителя по толщине пограничного слоя.
Постоянная С и показатели m,n,k определяются экспериментально на моделях геометрического и физического подобия.
Средний по длине трубы коэффициент теплоотдачи при вынужденном ламинарном течении в прямых гладких трубах можно рассчитать по формуле
Nu= 0,15Re0,33·Pr0,33(Gr·Pr)0,1·(Рr ж / Рr с)0,25·εl, (8)
а для случая турбулентного течения
Nu= 0,021Re0,8·Pr0,43(Рr ж / Рr с)0,25εl. (9)
Здесь и в дальнейшем индексы "ж" и "с" означают, что физические параметры, входящие в числа подобия берутся при среднемассовой температуре жидкости tж или средней температуре стенки tс.
Если в формулу (7) подставить физические величины, составляющие числа подобия, и решить его относительно коэффициента теплоотдачи, получим расчетную формулу для случая турбулентного течения воды в трубе:
, (10)
где l- теплопроводность теплоносителя при его средней температуре, Вт/(м К), (Приложение А и Б).
d- характерный линейный размер, м; если теплоноситель течет внутри труб- это внутренний диаметр трубы dвн; если теплоноситель течет в межтрубном пространстве вдоль труб- это эквивалентный диаметр межтрубного сечения dэ = (1,0…1,5)dн;
dн- наружный диаметр трубы, м.; если теплоноситель течет в каналах не круглого сечения, d=dэ.
n- кинематическая вязкость теплоносителя при его средней температуре, м2/с (приложения А и Б);
u- скорость движения теплоносителя, м/с;
ε l - коэффициент, характеризующий влияние начального участка на среднюю теплоотдачу принимается по Приложению В.
(11)
где А- площадь поперечного сечения канала, м2;
П- смоченный периметр, м;
Если в теплообменнике в качестве горячего теплоносителя применяется пар, то для конденсирующего пара коэффициент теплоотдачи определяется по формуле:
- для горизонтально расположенных труб
a= 0,728 
, (12)
- для вертикально расположенных труб
a= 0,943 
(13)
где r- плотность жидкости, кг/м3;
r- теплота парообразования, равная теплоте конденсации пара, кДж/кг;
g- ускорение свободного падения, м2/с;
n- кинематическая вязкость жидкости, м2/с;
tн- температура насыщения пара при заданном давлении, 0С;
tс- температура стенки, принимается приближенно:
(14)
Таким образом, по формуле (10) вычисляется коэффициент теплообмена (теплоотдачи a1), если горячим теплоносителем является вода или горячие газы, а по формулам (12) и (13), если горячим теплоносителем является пар. Затем по формуле 10 вычисляется коэффициент теплоотдачи a2 от поверхности труб холодному теплоносителю.
