Калькулятор линейной регрессии методом наименьших квадратов

Метод наименьших квадратов

Если экспериментальные точки (xᵢ, yᵢ) лежат примерно на прямой, её уравнение y = a + bx подбирают так, чтобы сумма квадратов отклонений точек от прямой по вертикали была минимальной. Это и есть метод наименьших квадратов (МНК). Обозначим:

Sxx = Σ(xᵢ − x̄)², Syy = Σ(yᵢ − ȳ)², Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ)

Тогда коэффициенты прямой:

b = Sxy / Sxx, a = ȳ − b · x̄

Погрешности коэффициентов

Разброс точек вокруг прямой характеризует стандартная ошибка регрессии s = √(Σeᵢ² / (n − 2)), где eᵢ = yᵢ − (a + bxᵢ) — остатки. Через неё выражаются стандартные ошибки коэффициентов:

s_b = s / √Sxx, s_a = s · √(1/n + x̄² / Sxx)

Доверительные интервалы: b ± t · s_b и a ± t · s_a, где t — коэффициент Стьюдента для выбранной вероятности и n − 2 степеней свободы. В отчёте по лабораторной работе результат записывают, например, так: b = 0,401 ± 0,011 Ом/°C (P = 0,95).

Коэффициент корреляции и R²

Коэффициент корреляции Пирсона r = Sxy / √(Sxx · Syy) лежит от −1 до 1 и показывает силу линейной связи: знак — направление, модуль — тесноту. Квадрат коэффициента корреляции R² — доля разброса y, объяснённая прямой: R² = 0,95 означает, что 95% изменчивости y описывается линейной зависимостью от x.

Для словесной оценки силы связи часто используют шкалу Чеддока: |r| от 0,1 до 0,3 — слабая, 0,3–0,5 — умеренная, 0,5–0,7 — заметная, 0,7–0,9 — высокая, 0,9 и выше — весьма высокая.

p-значение проверяет гипотезу «связи нет» (b = 0): статистика t = b / s_b сравнивается с распределением Стьюдента с n − 2 степенями свободы. Если p меньше 0,05, связь считают статистически значимой на уровне 5%.

Пример

Сопротивление проводника измерили при шести температурах: 20, 30, 40, 50, 60 и 70 °C — получили 108,0; 112,1; 115,8; 120,2; 123,9 и 128,1 Ом. МНК даёт b ≈ 0,4009 Ом/°C и a ≈ 99,98 Ом, то есть R ≈ 99,98 + 0,4009·t. Коэффициент корреляции r ≈ 0,9998, R² ≈ 0,9996. Стандартная ошибка наклона 0,0039, при P = 0,95 и t = 2,776 интервал для b — от 0,390 до 0,412. Прогноз при 45 °C: около 118,02 Ом.

Прогноз и его точность

Калькулятор показывает два интервала для прогноза в точке x₀. Доверительный интервал среднего значения — где с выбранной вероятностью лежит сама прямая. Интервал предсказания шире: в нём окажется отдельное новое измерение, ведь к неточности прямой добавляется разброс точек. Оба интервала расширяются по мере удаления x₀ от среднего x̄, а прогноз за пределами диапазона измерений (экстраполяция) ненадёжен.

Частые вопросы