К вопросам, связанным с обработкой ответов, близко примыкает вопрос о сглаживании экспериментальных зависимостей.
Пусть известно, что две физические величины x и y связаны функциональной зависимостью 
. Причем из предварительных соображений известен вид функциональной зависимости (линейная, квадратичная, экспоненциальная).
Необходимо по экспериментальным данным определить параметры этой зависимости. При этом необходимо учитывать, что при проведении опыта возникли ошибки измерения.
Общепринятыми при решении таких вопросов является метод наименьших квадратов. В нем наилучшее согласование кривой и экспериментальных точек сводится к тому, чтобы сумма квадратов отклонений экспериментальных точек от сглаживающей кривой сводилась к минимуму:
Будем считать, что 
- функция от 
и неизвестных параметров 
Продифференцируем 
по переменным 
и приравняем к нулю:
Используя метод наименьших квадратов, аппроксимировать табличные данные линейной зависимостью y=ax+b (найти параметры а и b).
Задача заключается в нахождении коэффициентов линейной зависимости, при которых функция двух переменных а и b 
принимает наименьшее значение. То есть, при данных а и b сумма квадратов отклонений экспериментальных данных от найденной прямой будет наименьшей. В этом вся суть метода наименьших квадратов.
Таким образом, решение примера сводится к нахождению экстремума функции двух переменных.
Для нахождения коэффициентов составляется и решается система из двух уравнений с двумя неизвестными. Находим частные производные функции по переменным а и b, приравниваем эти производные к нулю.
Решаем полученную систему уравнений любым методом (например методом подстановки или методом Крамера) и получаем формулы для нахождения коэффициентов по методу наименьших квадратов (МНК).
При данных а и b функция принимает наименьшее значение.
Вот и весь метод наименьших квадратов. Формула для нахождения параметра a содержит суммы 
и параметр n - количество экспериментальных данных. Значения этих сумм рекомендуем вычислять отдельно. Коэффициент b находится после вычисления a.
Пример 7.
Экспериментальные данные о значениях переменных х и у приведены в таблице.
| i =1 | i =2 | i =3 | i =4 | i =5 | |
| xi | |||||
| yi | 2,1 | 2,4 | 2,6 | 2,8 | 3,0 |
Решение.
В нашем примере n=5. Заполняем таблицу для удобства вычисления сумм, которые входят в формулы искомых коэффициентов.
| i | xi | yi | xi yi |  
|
| 2,1 | ||||
| 2,4 | 2,4 | |||
| 2,6 | 5,2 | |||
| 2,8 | 11,2 | |||
| 12,9 | 33,8 |
Значения в четвертом столбце таблицы получены умножением значений 2-ого столбца на значения 3-его столбца для каждого номера i.
Значения в пятом столбце таблицы получены возведением в квадрат значений 2-ого столбца для каждого номера i.
Значения последней строчки таблицы – это суммы значений по столбцам.
Используем формулы метода наименьших квадратов для нахождения коэффициентов а и b. Подставляем в них соответствующие значения из последнего столбца таблицы:
Следовательно, y = 0.165x+2.184 - искомая аппроксимирующая прямая.
