DeepMind 在締造了 AlphaGo（“阿爾法狗”） 后，在人工智能方面又有新突破。他們開(kāi)發(fā)的“可微分神經(jīng)計算機”(DNC)，具有獨立學(xué)習的能力。這種模型模仿生物的神經(jīng)網(wǎng)絡(luò )，與可讀寫(xiě)的外部存儲結構結合，能像神經(jīng)網(wǎng)絡(luò )那樣調用記憶，通過(guò)訓練和試錯學(xué)習，也能像普通計算機一樣處理復雜數據。

DeepMind在最近的《自然》雜志上發(fā)表論文，展現其研究成果。論文稱(chēng)，DNC已有能力在沒(méi)有現成知識的情況下，規劃出最佳的倫敦地鐵線(xiàn)路，或根據符號語(yǔ)言所描述的目標來(lái)解決方塊拼圖問(wèn)題。以下是DeepMind 發(fā)布的博客原文。

最近，我們在《自然》雜志上發(fā)表了一份研究，介紹名為“可微分神經(jīng)計算機”（differentiable neural computer, DNC）的深度強化學(xué)習神經(jīng)網(wǎng)絡(luò )。我們在研究中展示了DNC如何學(xué)習使用其記憶，回答有關(guān)復雜結構數據的問(wèn)題，比如人工生成的故事、家譜，甚至是倫敦地鐵線(xiàn)路圖。此外，DNC還能通過(guò)強化學(xué)習，解決方塊游戲難題。

柏拉圖曾把記憶力比作蠟板，上面一旦刻了字，就能永久保存。柏拉圖用一個(gè)比喻來(lái)解釋“可塑性”，即人們可以塑造或重塑自己的想法。但我們的記憶，除了存儲內容外，還能夠形成聯(lián)系，相互連接。

英國哲學(xué)家約翰?洛克相信，如果記憶是在臨近的時(shí)間段和空間里形成的，那么它們就可以相連。除了蠟板以外，最著(zhù)名的比喻就是馬塞爾?普魯斯特的瑪德蓮蛋糕了（一個(gè)成年人只要嘗一口年幼時(shí)吃過(guò)的甜點(diǎn)，童年回憶就如洪水一樣涌現）?，F在我們知道，片段式記憶（或稱(chēng)事件記憶）依靠的是海馬體。

時(shí)至今日，人類(lèi)對記憶的比喻變得更為精煉。記憶對我們來(lái)說(shuō)不再是蠟板，而是一種可塑的過(guò)程。在這個(gè)過(guò)程中，特定的片段組成你的經(jīng)歷，而這些記憶的片段可以重組。

另外，行為與記憶之間的關(guān)系是可變的，而非“刺激—反應”這樣么簡(jiǎn)單。它怎么變，與事件的背景與處理事件的優(yōu)先級別相關(guān)。

舉個(gè)例子來(lái)說(shuō)，如果記得倫敦地鐵圖，就能回答以下兩個(gè)有相同答案的問(wèn)題：“怎么從Piccadilly Circus站去Moorgate站？”和“如果選一條和Northern Line線(xiàn)相鄰的線(xiàn)向北走，怎樣才能到Moorgate站？”可見(jiàn)，記憶的內容可以和記憶的使用被分開(kāi)。

另一種觀(guān)點(diǎn)認為，記憶經(jīng)過(guò)整理之后，可以用于計算。它更像是樂(lè )高玩具，人們可以根據問(wèn)題重組記憶。

神經(jīng)網(wǎng)絡(luò )在圖形認知方面表現出色，反應快速，決策及時(shí)，而我們才剛開(kāi)始建立能緩慢思考的神經(jīng)網(wǎng)絡(luò )，這種網(wǎng)絡(luò )能有目的，或理性地運用知識。比如，讓它儲存像交通運輸網(wǎng)這種信息，隨后有邏輯、合理地思考這些碎片化知識，并回答問(wèn)題。

我們在最近發(fā)表的論文中闡述，如何結合神經(jīng)網(wǎng)絡(luò )和記憶系統，造出這一種能快速儲存并靈活解讀知識的學(xué)習型機器。這些被我們成為DNC（differentiable neural computers）的機器，可以像神經(jīng)網(wǎng)絡(luò )一樣學(xué)習，還可以像電腦一樣存儲復雜數據。

一臺普通電腦的處理器可以通過(guò)RAM讀寫(xiě)信息。RAM給了處理器更多的空間來(lái)整理計算過(guò)程中的信息。儲存臨時(shí)信息的空間被稱(chēng)為變量，被存在記憶卡上。對電腦來(lái)說(shuō)，設置一個(gè)儲存數字的變量很簡(jiǎn)單，建立數據結構也不難，因為變量之間都有關(guān)聯(lián)。

最簡(jiǎn)單的數據結構之一是列表，列表中，變量按順序排列。一種更復雜的數據結構是樹(shù)狀結構，如家譜，順著(zhù)孩子就能找到父母，以及他們和祖先之間的聯(lián)系。最復雜且綜合的數據結構是圖表，如倫敦地鐵圖。

我們設計DNC的初衷，是讓機器獨自學(xué)習建立復雜數據結構，并解決相關(guān)問(wèn)題。DNC的核心是一個(gè)叫“控制器（controller）”的神經(jīng)網(wǎng)絡(luò )，它的功能與電腦處理器類(lèi)似?？刂破髫撠熭斎?、解讀、書(shū)寫(xiě)記憶，并回答相關(guān)問(wèn)題，它的“記憶”由一系列儲存臨時(shí)信息的空間構成。

控制器可以進(jìn)行數個(gè)記憶操作。每時(shí)每刻，控制器都在決定是否寫(xiě)入內存。選擇書(shū)寫(xiě)的話(huà)，信息就被存儲到全新的地方，或一個(gè)控制器找的地方。這樣，控制器就能隨時(shí)隨地更新存儲空間的內容。如果所有的記憶空間都滿(mǎn)了，控制器也可以選擇清空，正如電腦可以換個(gè)地方放置無(wú)用的數據。

控制器寫(xiě)入記憶，就是把一個(gè)矢量單位信息輸送到選定的記憶空間。一旦寫(xiě)入信息，不同的記憶空間都會(huì )存在聯(lián)系，這種聯(lián)系就是存儲信息的順序。

控制器除了寫(xiě)入信息外，還可以解讀儲存在不同區間的記憶，通過(guò)搜索，利用現有的聯(lián)系，順序或逆序回憶已寫(xiě)入的信息。被解讀過(guò)的信息可以直接回答某個(gè)問(wèn)題，或對某個(gè)問(wèn)題作出反應，采取行動(dòng)。總的來(lái)說(shuō)，這些操作令DNC有能力分配記憶空間、存儲記憶信息，并快速搜索記憶。

神經(jīng)網(wǎng)絡(luò )控制器接受外部信息。DNC儲存的是“已有關(guān)聯(lián)”，“已有關(guān)聯(lián)”能幫控制器搜索記憶。

非專(zhuān)業(yè)讀者看來(lái)，我們重復用“控制器能夠……”，“DNC決定做……”的措辭挺奇怪的，但這是因為，DNC是從0開(kāi)始學(xué)習使用記憶、回答問(wèn)題。 我們把DNC的回答拿去和正確答案作比較，于是，控制器不斷優(yōu)化自己，給出與正確答案越來(lái)越接近的答案。在此過(guò)程中，控制器也學(xué)會(huì )了如何使用自己的記憶。

我們想問(wèn)DNC和數據結構相關(guān)的問(wèn)題，以此測試它的能力。 圖表數據是一個(gè)很好的測試手段，因為它常包含了一些可以被任意相連的數據，并形成路徑和周期。 我們的論文表明，DNC可以通過(guò)自主學(xué)習，解釋一張圖表，并回答與之相關(guān)的問(wèn)題。

向DNC描述過(guò)倫敦地鐵圖后，我們問(wèn)它，“搭乘Central Line線(xiàn)，從Bond Street站出發(fā)，坐一站，換乘Circle Line線(xiàn)坐四站，再搭Jubilee Line線(xiàn)坐兩站，最后你在哪里出站？”我們也會(huì )讓DNC計劃路線(xiàn)，問(wèn)它“怎么從Moorgate站到Piccadilly Circus站？”

DNC在接受訓練時(shí)使用的是隨意生成的圖表（左）。訓練以后，我們再測試DNC能否在倫敦地鐵圖中找到合適的路線(xiàn)（右）。我們用多組三個(gè)詞來(lái)描述地鐵圖，并用兩個(gè)任務(wù)來(lái)舉例：“橫向往返運動(dòng)”，即DNC從站點(diǎn)開(kāi)始，按一定順序的路線(xiàn)行走；“最短路線(xiàn)”，也就是DNC要找到兩個(gè)站點(diǎn)之間最短的線(xiàn)路。

利用一份家譜，我們展示了DNC可以回答需要做復雜運算的問(wèn)題。比方說(shuō)，即使我們僅提供了父母、孩子以及兄弟姐妹之間的信息，也可以問(wèn)DNC“誰(shuí)是Freya媽媽那邊的叔父？”現在我們可以看到controller讀取的是哪個(gè)記憶區間的信息，以此分析DNC如何使用其記憶。和DNC相比，之前傳統神經(jīng)網(wǎng)絡(luò )要么沒(méi)法存儲信息，要么就是不會(huì )學(xué)習解讀數據，舉一反三。

DNC回答有關(guān)家譜的問(wèn)題。

我們還可以通過(guò)強化學(xué)習來(lái)訓練DNC。我們讓DNC對一個(gè)問(wèn)題作出反應，但不會(huì )告訴它正確答案。一旦它的反應令人滿(mǎn)意，我們就會(huì )給它打高分?；蚴亲孌NC面對一些彩色磚堆，給它指令：“把淺藍格子放到綠格子底下；橙色格子移到紅色格子的右邊；紫色的弄到橙色的下面；淺藍色的放深藍色右邊；綠色格子扔紅色格子底下；紫色格子放綠色格子的左邊?！?/p>

DNC解決移動(dòng)方塊游戲的問(wèn)題。

我們可以創(chuàng )建許多可實(shí)現的目標，再讓神經(jīng)網(wǎng)絡(luò )來(lái)執行任務(wù)，達成目標。 在這種情況下，就像一臺電腦，DNC能夠記住好幾條線(xiàn)索，不同線(xiàn)索和某個(gè)特定目標相關(guān)，DNC可以執行這些任務(wù)。

人類(lèi)記憶如何運作是一個(gè)古老的問(wèn)題，我們對它的理解還不完全。我們希望DNC能夠為電腦科學(xué)提供新手段，也為認知科學(xué)、神經(jīng)科學(xué)提供一個(gè)新的模型：這是一臺學(xué)習機械，無(wú)需提前編程，也可以整理信息，讓信息和事實(shí)相聯(lián)系，并且利用這些信息解答問(wèn)題。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數控、和而泰、中科曙光、永創(chuàng )智能、北京君正、通富微電、永創(chuàng )智能、勁拓股份。