DL之ANN/DNN： 人工神經(jīng)網(wǎng)絡(luò)ANN/DNN深度神經(jīng)網(wǎng)絡(luò)算法的簡(jiǎn)介、應(yīng)用、經(jīng)典案例之詳細(xì)攻略

相關(guān)文章
DL：深度學(xué)習(xí)(神經(jīng)網(wǎng)絡(luò))的簡(jiǎn)介、基礎(chǔ)知識(shí)(神經(jīng)元/感知機(jī)、訓(xùn)練策略、預(yù)測(cè)原理)、算法分類、經(jīng)典案例應(yīng)用之詳細(xì)攻略

ANN/DNN深度神經(jīng)網(wǎng)絡(luò)算法的簡(jiǎn)介

? ? ? ? ? 人工神經(jīng)網(wǎng)絡(luò)ANN（Artificial Neural Network）是由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng)。它是一種模仿動(dòng)物神經(jīng)網(wǎng)絡(luò)行為特征，進(jìn)行分布式并行信息處理的算法數(shù)學(xué)模型。

? ? ? ? ? ANN的基本過(guò)程可以概述如下：外部刺激通過(guò)神經(jīng)末梢，轉(zhuǎn)化為電信號(hào)，傳導(dǎo)到神經(jīng)細(xì)胞（又叫神經(jīng)元）；無(wú)數(shù)神經(jīng)元構(gòu)成神經(jīng)中樞；神經(jīng)中樞綜合各種信號(hào)，做出判斷；人體根據(jù)神經(jīng)中樞的指令，對(duì)外部刺激做出反應(yīng)。其過(guò)程表述如上圖所示。

? ? ? ? ? 人工神經(jīng)網(wǎng)絡(luò)經(jīng)歷了漫長(zhǎng)的發(fā)展階段。最早是上個(gè)世紀(jì)六十年代提出的“人造神經(jīng)元”模型，叫做“感知器”（perceptron）。感知機(jī)模型，是機(jī)器學(xué)習(xí)二分類問(wèn)題中的一個(gè)非常簡(jiǎn)單的模型。它的基本結(jié)構(gòu)如下圖所示：

? ? ? ? ? 隨著反向傳播算法、最大池化（max-pooling）等技術(shù)的發(fā)明，神經(jīng)網(wǎng)絡(luò)進(jìn)入了飛速發(fā)展的階段。神經(jīng)網(wǎng)絡(luò)就是將許多個(gè)單一“神經(jīng)元”聯(lián)結(jié)在一起，這樣，一個(gè)“神經(jīng)元”的輸出就可以是另一個(gè)“神經(jīng)元”的輸入。典型的人工神經(jīng)網(wǎng)絡(luò)具有以下三個(gè)部分：

• 結(jié)構(gòu)（Architecture）結(jié)構(gòu)指定了網(wǎng)絡(luò)中的變量和它們的拓?fù)潢P(guān)系。
• 激勵(lì)函數(shù)（Activity Rule）大部分神經(jīng)網(wǎng)絡(luò)模型具有一個(gè)短時(shí)間尺度的動(dòng)力學(xué)規(guī)則，來(lái)定義神經(jīng)元如何根據(jù)其他神經(jīng)元的活動(dòng)來(lái)改變自己的激勵(lì)值。
• 學(xué)習(xí)規(guī)則（Learning Rule）指定了網(wǎng)絡(luò)中的權(quán)重如何隨著時(shí)間推進(jìn)而調(diào)整。

? ? ? ? ?一個(gè)典型的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如下圖所示

1、DNN VS 人類大腦

1、ANN的四個(gè)特性和三個(gè)優(yōu)點(diǎn)

? ? ? ? ? 人工神經(jīng)網(wǎng)絡(luò)具有四個(gè)基本特征：非線性、非局限性、非常定性和非凸性。
? ? ? ? ? 人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)和優(yōu)越性，主要表現(xiàn)在三個(gè)方面：具有自學(xué)習(xí)功能、具有聯(lián)想存儲(chǔ)功能和具有高速尋找最優(yōu)解的能力。

ANN/DNN深度神經(jīng)網(wǎng)絡(luò)算法的經(jīng)典案例

相關(guān)案例非常多，請(qǐng)自行查詢本博客文章即可！