其實在人工智能出現的早期，神經網絡就已經存在了，但神經網絡對於“智能”的貢獻微乎其微。主要問題是，即使是最基本的神經網絡，也需要大量的運算。神經網絡算法的運算需求難以得到滿足。
        現在，經過深度學習訓練的圖像識別，在一些場景中甚至可以比人做得更好：從識別貓，到辨別血液中癌症的早期成分，到識別核磁共振成像中的腫瘤。Google的AlphaGo先是學會了如何下圍棋，然後與它自己下棋訓練。它訓練自己神經網絡的方法，就是不斷地與自己下棋，反複地下，永不停歇。
        深度學習的相關技術
        深度學習可以讓那些擁有多個處理層的計算模型來學習具有多層次抽象的數據的表示。這些方法在許多方麵都帶來了顯著的改善，包括最先進的語音識別、視覺對象識別、對象檢測和許多其它領域。深度學習能夠發現大數據中的複雜結構。深度卷積網絡在處理圖像、視頻、語音和音頻方麵帶來了突破，而遞歸網絡在處理序列數據，比如文本和語音方麵表現出了閃亮的一麵。
        幾十年來，想要構建一個模式識別係統或者機器學習係統，需要一個精致的引擎和相當專業的知識來設計一個特征提取器，把原始數據(如圖像的像素值)轉換成一個適當的內部特征表示或特征向量，子學習係統，通常是一個分類器，對輸入的樣本進行檢測或分類。特征表示學習是一套給機器灌入原始數據，然後能自動發現需要進行檢測和分類的表達的方法。
        深度學習就是一種特征學習方法，把原始數據通過一些簡單的但是非線性的模型轉變成為更高層次的，更加抽象的表達。通過足夠多的轉換的組合，非常複雜的函數也可以被學習。
        監督學習
        機器學習中，不論是否是深層，最常見的形式是監督學習。我們要建立一個係統，它能夠對一個包含了一座房子、一輛汽車、一個人或一個寵物的圖像進行分類。我們先收集大量的房子，汽車，人與寵物的圖像的數據集，並對每個對象標上它的類別。在訓練期間，機器會獲取一副圖片，然後產生一個輸出，這個輸出以向量形式的分數來表示，每個類別都有一個這樣的向量。我們希望所需的類別在所有的類別中具有最高的得分，但是這在訓練之前是不太可能發生的。通過計算一個目標函數可以獲得輸出分數和期望模式分數之間的誤差(或距離)。然後機器會修改其內部可調參數，以減少這種誤差。這些可調節的參數，通常被稱為權值，它們是一些實數，定義了機器的輸入輸出功能。
        在典型的深學習係統中，有可能有數以百萬計的樣本和權值，和帶有標簽的樣本，用來訓練機器。為了正確地調整權值向量，該學習算法計算每個權值的梯度向量，表示了如果權值增加了一個很小的量，那麽誤差會增加或減少的量。權值向量然後在梯度矢量的相反方向上進行調整。我們的目標函數，所有訓練樣本的平均，可以被看作是一種在權值的高維空間上的多變地形。負的梯度矢量表示在該地形中下降方向最快，使其更接近於最小值，也就是平均輸出誤差低最低的地方。

返回列表