AI探索與NN隱藏層(Hidden Layer)的比喻
by 高煥堂
2019.08.01
(PS. 本文圖片引自百度圖片)
1. 前言
AI有兩項重要的行為，就是：1) 利用(Exploitation)；2)探索(Exploration)。<利用>是基於現有的知識和經驗(Known)，來做分析、歸納和預測。而<探索>則是善於借助<利用>的能力來嘗試未曾經歷的新事物(Unknown)。其中，最基本的探索行為是：自動提取特徵(Feature extraction)。包括探索出特徵之間的相關性等等。深度學習的多層神經網絡(NN)可以大大提升AI模型的探索能力。其中，包含許多的中間層，通稱為<隱藏層>(Hidden layer)。
2. 拿<小公主找帥哥>來做比喻
於此，我拿<小公主找心儀的帥哥>來做比喻。現在，有一位小公主想要交男友、谈恋爱了。小公主出去走走，驚動帥哥們，或請人介紹一些帥哥們。
首先，比喻一個單層神經網路架構，也就是沒有隱藏層的單純結構。沒有隱藏層的架構裡，只有輸入層和輸出層。通稱為：單層架構。通常在計算層次時，並不把輸入層列入計算。
於是，小公主就來識別一下他們的人品、財富、學問等特徵(Feature)。在小公主的心中，對於人品、財富、學問等有其評比權重(Weights)：w[]。小公主心中依據數學的乘積運算等等，算出y0值，告訴媽媽。
小公主依據一樣的評比模式，來針對第2位帥哥做評比。
同樣地，小公主也依據一樣的評比模式，來評比其他的帥哥們。
此時，精明的媽媽，可能會提出她的看法，來教女兒(又稱監督式學習)，眼睛要雪亮一些：
甚至，媽媽覺得這樣似乎還不放心，就派兩位Y嬛去幫忙識別一番：
這兩位Y嬛就對帥哥們識別一番。兩位Y嬛各自依據數學的乘積運算來評比出h_y0和h_y1：
於是Y嬛們就把評比結果提供給<小公主>做參考。接著，小公主心中依據數學的乘積運算(基於h_y0和h_y1的運算)，算出o_y0值，並告訴媽媽。
這些Y嬛和小公主針對每一位帥哥，都採取一樣的評比模式。
這新增加的Y嬛層，就是所謂的<隱藏層>了。
只是有人說這樣，對小公主而言，會更幸福嗎? 然而，對於這個精明的媽媽而言，一定會覺得安心多了，這就是監督式學習，仍舊非常有效的原因之一吧。
~ End ~
==> 返回首頁
