（注：該公式中的x和y就是輸入的x和y）最小的參數(shù)p，亦即多項式的各項系數(shù)。換句話說，該函數(shù)就是模型的訓(xùn)練函數(shù)。

polyval(p, x)：根據(jù)多項式的各項系數(shù)p和多項式中x的值，返回多項式的值y。

29 # 根據(jù)參數(shù)n、輸入的x、y返回相對應(yīng)的損失
30 def get_cost(deg, input_x, input_y):
31 return 0.5 * ((get_model(deg)(input_x) - input_y) ** 2).sum()
32 # 定義測試參數(shù)集并根據(jù)它進行各種實驗
33 test_set = (1, 4, 10)
34 for d in test_set:
35 # 輸出相應(yīng)的損失
36 print(get_cost(d, x, y))

所得的結(jié)果是：當n=1,4,10時，損失的頭兩位數(shù)字分別為96、94和75。這么看來似乎是n=10優(yōu)于n=4，而n=1最差，但從圖3可以看出，似乎直接選擇n=1作為模型的參數(shù)才是最好的選擇。這里矛盾的來源正是前文所提到過的過擬合情況。

圖3 線性回歸的可視化

那么，怎么最直觀地了解是否出現(xiàn)過擬合了呢？當然還是畫圖了。
37 # 畫出相應(yīng)的圖像
38 plt.scatter(x, y, c="g", s=20)
39 for d in test_set:
40 plt.plot(x0, get_model(d)(), label="degree = {}".format(d))
41 # 將橫軸、縱軸的范圍分別限制在(-2,4)、(〖10〗^5,8×〖10〗^5)
42 plt.xlim(-2, 4)
43 plt.ylim(1e5, 8e5)
44 # 調(diào)用legend方法使曲線對應(yīng)的label正確顯示
45 plt.legend()
46 plt.show()

上面這段代碼的運行結(jié)果如圖3所示。

其中，三條線分別代表n=1、n=4、n=10的情況（圖1.10的右上角亦有說明）?？梢钥闯?，從n=4開始模型就已經(jīng)開始出現(xiàn)過擬合現(xiàn)象了，到n=10時模型已經(jīng)變得非常不合理。

至此，可以說這個問題就已經(jīng)基本上解決了。在這個樣例里面，除了交叉驗證，我們涵蓋了機器學(xué)習中的大部分主要步驟（之所以沒有進行交叉驗證是因為數(shù)據(jù)太少了……）。代碼部分加起來總共40~50行，應(yīng)該算是一個比較合適的長度。希望大家能夠通過這個樣例對機器學(xué)習有個大概的了解，也希望它能引起大家對機器學(xué)習的興趣。

本章小結(jié)

與傳統(tǒng)的計算機程序不同，機器學(xué)習是面向數(shù)據(jù)的算法，能夠從數(shù)據(jù)中獲得信息。它符合新時代腦力勞動代替體力勞動的趨勢，是富有生命力的領(lǐng)域。

Python是一門優(yōu)異的語言，代碼清晰可讀、功能廣泛強大。其最大弱點—速度問題也可以通過很多不太困難的方法彌補。

Anaconda是Python的一個很好的集成環(huán)境，它能讓我們免于人工地安裝大量科學(xué)計算所需要的第三方庫。

雖說機器學(xué)習算法很多，但通常而言，進行機器學(xué)習的過程會包含以下三步：

. 獲取與處理數(shù)據(jù)；
. 選擇與訓(xùn)練模型；
. 評估與可視化結(jié)果。