Як обчислюється параметр b у лінійній регресії (точка перетину y найкращої лінії)?

/ / Published in Штучний Інтелект, EITC/AI/MLP Машинне навчання з Python, Регресія, Розуміння регресії

У контексті лінійної регресії параметр b (зазвичай називається точка перетину y найкращої лінії) є важливою складовою лінійного рівняння y = m x + b, Де m являє собою нахил лінії. Ваше запитання стосується зв’язку між y-перехопленням b, середнє значення залежної змінної y і незалежна змінна x, і нахил m.

Щоб відповісти на запит, нам потрібно розглянути виведення рівняння лінійної регресії. Лінійна регресія спрямована на моделювання зв’язку між залежною змінною y і одна або більше незалежних змінних x шляхом підгонки лінійного рівняння до спостережених даних. У простій лінійній регресії, яка включає одну змінну предиктора, зв’язок моделюється рівнянням:

    \[ y = mx + b \]

Тут, m (нахил) і b (точка перетину y) – це параметри, які необхідно визначити. Схил m вказує на зміну в y за зміну однієї одиниці в x, тоді як y-перехоплення b представляє значення y коли x дорівнює нулю.

Щоб знайти ці параметри, ми зазвичай використовуємо метод найменших квадратів, який мінімізує суму квадратів різниць між спостережуваними значеннями та значеннями, передбаченими моделлю. Цей метод призводить до наступних формул для нахилу m і y-перетин b:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ b = \bar{y} - m\bar{x} \]

Тут, \bar{x} та \bar{y} є засобами в x та y значення відповідно. Термін \sum{(x_i - \bar{x})(y_i - \bar{y})} представляє коваріацію x та y, В той час \sum{(x_i - \bar{x})^2} представляє дисперсію x.

Формула для перетину y b можна розуміти так: раз нахил m визначається, точка перетину y b обчислюється, беручи середнє значення y значень і віднімання добутку нахилу m і середнє значення x значення. Це гарантує, що лінія регресії проходить через точку (\bar{x}, \bar{y}), яка є центроїдом точок даних.

Щоб проілюструвати це на прикладі, розглянемо набір даних із такими значеннями:

    \[ \begin{array}{|c|c|} \hline x & y \\ \hline 1 & 2 \\ 2 & 3 \\ 3 & 5 \\ 4 & 4 \\ 5 & 6 \\ \hline \end{масив} \]

Спочатку обчислюємо середнє значення x та y:

    \[ \bar{x} = \frac{1 + 2 + 3 + 4 + 5}{5} = 3 \]

    \[ \bar{y} = \frac{2 + 3 + 5 + 4 + 6}{5} = 4 \]

Далі обчислюємо ухил m:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ = \frac{(1-3)(2-4) + (2-3)(3-4) + (3-3)(5-4) + (4-3)(4-4) + (5-3)(6-4)}{(1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^ 2} \]

    \[ = \frac{(-2)(-2) + (-1)(-1) + (0)(1) + (1)(0) + (2)(2)}{(-2) ^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2} \]

    \[ = \frac{4 + 1 + 0 + 0 + 4}{4 + 1 + 0 + 1 + 4} \]

    \[ = \frac{9}{10} = 0.9 \]

Нарешті, ми обчислюємо y-перетин b:

    \[ b = \bar{y} - m\bar{x} \]

    \[ = 4 - 0.9 \рази на 3 \]

    \[ = 4 - 2.7 \]

    \[ = 1.3 \]

Таким чином, рівняння лінійної регресії для цього набору даних виглядає так:

    \[ y = 0.9x + 1.3 \]

Цей приклад демонструє, що перетин y b справді дорівнює середньому значенню всіх y значення мінус добуток нахилу m і середина всього x значення, яке узгоджується з формулою b = \bar{y} - m\bar{x}.

Важливо відзначити, що y-перехоплення b це не просто середнє y значення плюс добуток нахилу m і середина всього x значення. Натомість це передбачає віднімання добутку нахилу m і середина всього x значення від середнього значення всіх y значень.

Розуміння походження та значення цих параметрів має важливе значення для інтерпретації результатів аналізу лінійної регресії. Y-перетин b надає цінну інформацію про базовий рівень залежної змінної y коли незалежна змінна x дорівнює нулю. Схил m, з іншого боку, вказує на напрям і силу зв’язку між x та y.

У практичних застосуваннях лінійна регресія широко використовується для прогнозного моделювання та аналізу даних. Він служить базовою технікою в різних галузях, включаючи економіку, фінанси, біологію та соціальні науки. Пристосовуючи лінійну модель до спостережених даних, дослідники та аналітики можуть робити прогнози, визначати тенденції та виявляти зв’язки між змінними.

Python, популярна мова програмування для науки про дані та машинного навчання, надає кілька бібліотек і інструментів для виконання лінійної регресії. Бібліотека `scikit-learn`, наприклад, пропонує пряму реалізацію лінійної регресії через свій клас `LinearRegression`. Ось приклад того, як виконати лінійну регресію за допомогою `scikit-learn` у Python:

python
import numpy as np
from sklearn.linear_model import LinearRegression

# Sample data
x = np.array([1, 2, 3, 4, 5]).reshape((-1, 1))
y = np.array([2, 3, 5, 4, 6])

# Create and fit the model
model = LinearRegression()
model.fit(x, y)

# Get the slope (m) and y-intercept (b)
m = model.coef_[0]
b = model.intercept_

print(f"Slope (m): {m}")
print(f"Y-intercept (b): {b}")

У цьому прикладі клас `LinearRegression` використовується для створення моделі лінійної регресії. Метод `fit` викликається для навчання моделі на вибірці даних, а атрибути `coef_` і `intercept_` використовуються для отримання нахилу та перетину y відповідно.

Y-перетин b у лінійній регресії не дорівнює середньому значенню всіх y значення плюс добуток нахилу m і середина всього x значення. Натомість він дорівнює середньому значенню всіх y значення мінус добуток нахилу m і середина всього x значення, визначені формулою b = \bar{y} - m\bar{x}.

Інші останні запитання та відповіді щодо EITC/AI/MLP Машинне навчання з Python:

Перегляньте більше запитань і відповідей у ​​EITC/AI/MLP Machine Learning with Python

Більше питань і відповідей:

Теги: , , , , ,