AI: Training Data & Bias

機器學習的極限和您輸入的訓練數據程度相同。

因此，使用大量的高品質數據在機器學習的過程中至關重要。

但如果數據如此重要，是否值得一提這些訓練數據從何而來？

一般而言，電腦收集的訓練數據來自像你和我的人類，

而我們完全無需付出任何心力。

一個線上串流服務可能會追蹤您的觀看清單，接著透過您所輸入的資料辨識模型

推薦您接下來可能會喜歡的觀看清單。

另一種方式是系統會直接請求您的協助，例如，
一個網站會請您協助識別出路標和照片，

這時您正在提供訓練數據協助機器看見事物，
並在未來的某天駕駛車輛。

醫療研究人員可以利用醫療圖像當作訓練數據來教導

電腦如何識別和診斷疾病。

在能夠準確地識別疾病前，機器學習需要上百甚至上千張的圖像，

以及一位醫生的訓練引導，因為只有醫生知道該如何診斷。

即使有了上千個案例，電腦的預測仍有可能出錯。

如果X光片的數據只收集男性，那麼電腦的預測可能只對男性有用。

它可能因此無法辨識要求檢視疾病的女性的X光片。

這個盲點在訓練數據過程中產生的問題叫做偏見。

偏見數據有利於某些事物，而對其他事物則不具有優先權或排他性。

根據訓練數據的收集方式、收集者的收集方式，以及數據的提供方式，

這些訓練數據很有機會含括人為偏見。

透過從偏見數據中學習，電腦便可能做出偏見預測，

無論在訓練電腦的人是否有察覺到。

當您在查看訓練數據時，問問自己兩個問題：

這些數據足以準確地訓練一台電腦嗎？

以及這些數據是否能夠代表所有可能的情況和用戶，而不存在著偏見？

這便是身為人類的您所扮演的關鍵角色。

您掌握了提供無偏見數據的主權。

這意味著收集來自多方資源的大量案例。

記住，當您挑選給予機器學習的數據時，

您實際上是在編寫演算法，只是您使用的是訓練數據而非編碼。

這些數據即是編碼。

您所提供的數據越精準，電腦就將學習得越精準。