神經網絡是一種通用機器學習模型，是一套特定的算法集，在機器學習領域掀起了一場變革，本身就是普通函數的逼近，可以應用到任何機器學習輸入到輸出的復雜映射問題。一般來說，神經網絡架構可分為3類：
1、前饋神經網絡：是最常見的類型，第一層為輸入，最后一層為輸出。如果有多個隱藏層，則稱為“深度”神經網絡。它能夠計算出一系列事件間相似轉變的變化，每層神經元的活動是下一層的非線性函數。
2、循環神經網絡：各節點之間構成循環圖，可以按照箭頭的方向回到初始點。循環神經網絡具有復雜的動態，難以訓練，它模擬連續數據，相當于每個時間片段具有一個隱藏層的深度網絡，除了在每個時間片段上使用相同的權重，也有輸入。網絡可以記住隱藏狀態的信息，但是很難用這點來訓練網絡。
3、對稱連接網絡：和循環神經網絡一樣，但單元間的連接是對稱的（即在兩個方向的連接權重相同），它比循環神經網絡更容易分析，但是功能受限。沒有隱藏單元的對稱連接的網絡被稱為“Hopfiels網絡”，有隱藏單元的對稱連接的網絡則被稱為“波茲曼機器”。
