神經圖靈機
神經圖靈機(英語:Neural Turing machine,NTM)是圖靈機的循環神經網絡模型。該方法由Alex Graves等人於2014年發表[1]。 NTM 將神經網絡的模糊模式匹配功能與可編程計算機的算法能力相結合。
NTM 有一個與外部記憶資源耦合的神經網絡控制器,並通過注意力機制與之交互。內存交互是端到端可微的,使得可以使用梯度下降法來優化它們。[2]具有長短期記憶(LSTM) 網絡控制器的 NTM可以僅從示例中推斷出簡單的算法,例如複製、排序和聯想回憶。[1]
原始 NTM 論文的作者沒有發布他們的源代碼。 [1] 第一個穩定的開源實現於 2018年在第27屆國際人工神經網絡會議上發布,並獲得了最佳論文獎。[3][4][5]
參見
編輯參考資料
編輯- ^ 1.0 1.1 1.2 Graves, Alex; Wayne, Greg; Danihelka, Ivo. Neural Turing Machines. 2014. arXiv:1410.5401 [cs.NE].
- ^ Deep Minds: An Interview with Google's Alex Graves & Koray Kavukcuoglu. [May 17, 2016]. (原始內容存檔於2023-03-19).
- ^ Collier, Mark; Beel, Joeran, Implementing Neural Turing Machines, Artificial Neural Networks and Machine Learning – ICANN 2018 (Springer International Publishing), 2018: 94–104, Bibcode:2018arXiv180708518C, ISBN 9783030014230, S2CID 49908746, arXiv:1807.08518 , doi:10.1007/978-3-030-01424-7_10 (英語)
- ^ MarkPKCollier/NeuralTuringMachine. GitHub. [2018-10-20]. (原始內容存檔於2023-06-17) (英語).
- ^ Beel, Joeran. Best-Paper Award for our Publication "Implementing Neural Turing Machines" at the 27th International Conference on Artificial Neural Networks | Prof. Joeran Beel (TCD Dublin). Trinity College Dublin, School of Computer Science and Statistics Blog. 2018-10-20 [2018-10-20]. (原始內容存檔於2020-07-17) (英國英語).
- ^ Administrator. DeepMind's Differentiable Neural Network Thinks Deeply. www.i-programmer.info. [2016-10-20]. (原始內容存檔於2024-10-05).