多元函數擬合。如 電視機和收音機價格多銷售額的影響，此時自變量有兩個。

python 解法：

import numpy as npimport pandas as pd#import statsmodels.api as sm #方法一import statsmodels.formula.api as smf #方法二import matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D df = pd.read_csv('http://www-bcf.usc.edu/~gareth/ISL/Advertising.csv', index_col=0)X = df[['TV', 'radio']]y = df['sales'] #est = sm.OLS(y, sm.add_constant(X)).fit() #方法一est = smf.ols(formula='sales ~ TV + radio', data=df).fit() #方法二y_pred = est.predict(X) df['sales_pred'] = y_predprint(df)print(est.summary()) #回歸結果print(est.params) #系數 fig = plt.figure()ax = fig.add_subplot(111, projection='3d') #ax = Axes3D(fig)ax.scatter(X['TV'], X['radio'], y, c='b', marker='o')ax.scatter(X['TV'], X['radio'], y_pred, c='r', marker='+')ax.set_xlabel('X Label')ax.set_ylabel('Y Label')ax.set_zlabel('Z Label')plt.show()

擬合的各項評估結果和參數都打印出來了，其中結果函數為：

f(sales) = β0 + β1*[TV] + β2*[radio]

f(sales) = 2.9211 + 0.0458 * [TV] + 0.188 * [radio]

圖中，sales 方向上，藍色點為原 sales 實際值，紅色點為擬合函數計算出來的值。其實誤差并不大，部分數據如下。

同樣可擬合一元函數;

import numpy as npimport pandas as pdimport statsmodels.formula.api as smfimport matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D df = pd.read_csv('http://www-bcf.usc.edu/~gareth/ISL/Advertising.csv', index_col=0)X = df['TV']y = df['sales'] est = smf.ols(formula='sales ~ TV ', data=df).fit()y_pred = est.predict(X)print(est.summary())fig = plt.figure()ax = fig.add_subplot(111)ax.scatter(X, y, c='b')ax.plot(X, y_pred, c='r')plt.show()

Ridge Regression:（嶺回歸交叉驗證）

嶺回歸(ridge regression, Tikhonov regularization)是一種專用于共線性數據分析的有偏估計回歸方法，實質上是一種改良的最小二乘估計法，通過放棄最小二乘法的無偏性，以損失部分信息、降低精度為代價獲得回歸系數更為符合實際、更可靠的回歸方法，對病態數據的擬合要強于最小二乘法。通常嶺回歸方程的R平方值會稍低于普通回歸分析，但回歸系數的顯著性往往明顯高于普通回歸，在存在共線性問題和病態數據偏多的研究中有較大的實用價值。