如何用python实现多元线性回归检验

要用Python实现多元线性回归检验，可以使用库如scikit-learn、statsmodels、pandas和numpy。先从数据收集和预处理开始，然后使用合适的库和方法进行回归分析和检验。其中，scikit-learn和statsmodels是两个常用的库，它们提供了强大的线性回归功能。以下是详细步骤：

一、数据收集和预处理

在进行多元线性回归之前，需要有一个数据集。假设你有一个csv文件，其中包含多个变量。我们需要进行数据加载和预处理。

1、加载数据

首先，使用pandas库加载数据。

import pandas as pd
读取csv文件
data = pd.read_csv('your_dataset.csv')
显示数据的前5行
print(data.head())

2、数据清洗

确保数据没有缺失值并对数据进行必要的处理。

# 检查缺失值
print(data.isnull().sum())
如果有缺失值，可以选择删除或填充
data = data.dropna()  # 删除缺失值
或者填充缺失值
data = data.fillna(method='ffill')
确认处理后的数据
print(data.isnull().sum())

二、特征选择和数据分割

1、特征选择

确定特征变量（自变量）和目标变量（因变量）。

# 假设特征变量为 'X1', 'X2', 'X3'，目标变量为 'Y'
X = data[['X1', 'X2', 'X3']]
y = data['Y']

2、数据分割

将数据分割为训练集和测试集。

from sklearn.model_selection import train_test_split
分割数据，80%用于训练，20%用于测试
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

三、使用scikit-learn进行多元线性回归

1、创建和训练模型

使用scikit-learn的LinearRegression类创建和训练回归模型。

from sklearn.linear_model import LinearRegression
创建回归模型
model = LinearRegression()
训练模型
model.fit(X_train, y_train)

2、预测和评估模型

使用测试集进行预测，并评估模型性能。

# 使用测试集进行预测
y_pred = model.predict(X_test)
评估模型性能
from sklearn.metrics import mean_squared_error, r2_score
mse = mean_squared_error(y_test, y_pred)
r2 = r2_score(y_test, y_pred)
print(f'Mean Squared Error: {mse}')
print(f'R^2 Score: {r2}')

四、使用statsmodels进行多元线性回归

1、创建和训练模型

使用statsmodels库进行多元线性回归，并查看详细统计结果。

import statsmodels.api as sm
添加常数项
X_train_sm = sm.add_constant(X_train)
创建回归模型
model_sm = sm.OLS(y_train, X_train_sm)
训练模型
results = model_sm.fit()
查看模型摘要
print(results.summary())

2、预测和评估模型

使用测试集进行预测，并评估模型性能。

# 添加常数项
X_test_sm = sm.add_constant(X_test)
进行预测
y_pred_sm = results.predict(X_test_sm)
评估模型性能
mse_sm = mean_squared_error(y_test, y_pred_sm)
r2_sm = r2_score(y_test, y_pred_sm)
print(f'Mean Squared Error (statsmodels): {mse_sm}')
print(f'R^2 Score (statsmodels): {r2_sm}')

五、多元线性回归模型检验

1、残差分析

通过残差分析来检查模型的假设。

import matplotlib.pyplot as plt
绘制残差图
plt.scatter(y_pred, y_train - y_pred)
plt.xlabel('Predicted values')
plt.ylabel('Residuals')
plt.title('Residuals vs Predicted values')
plt.show()

2、正态性检验

使用正态性检验来检查残差是否服从正态分布。

import scipy.stats as stats
绘制QQ图
stats.probplot(y_train - y_pred, dist="norm", plot=plt)
plt.show()

3、方差齐性检验

使用方差齐性检验来检查残差的方差是否一致。

# 使用Breusch-Pagan检验
from statsmodels.stats.diagnostic import het_breuschpagan
bp_test = het_breuschpagan(results.resid, X_train_sm)
print(f'Breusch-Pagan test: {bp_test}')

4、多重共线性检验

使用方差膨胀因子（VIF）来检查多重共线性。

from statsmodels.stats.outliers_influence import variance_inflation_factor
计算VIF
vif = pd.DataFrame()
vif["VIF Factor"] = [variance_inflation_factor(X_train_sm.values, i) for i in range(X_train_sm.shape[1])]
vif["features"] = X_train_sm.columns
print(vif)