最初，當人們預測AlphaGo和李世石圍棋大戰誰會贏時，我就斷言AlphaGo會贏。因為李世石面對的不僅僅是一個算法程序，除了包括走棋網絡、估值網絡、快速走子程序和蒙特卡洛搜索幾大部分構成的復雜算法之外，人機大戰的戰場還裝備了40個在線網絡平臺、1200多個CPU、170多個GPU，還有大數據、云計算即時處理當前棋局和史上積累的3000萬個棋局，甚至還有一條專門鋪設的賽事光纜，而這一切都是一群世界一流的深度學習專家所為。從這個意義上講，AlphaGo是一個人機交互的巨無霸耦合體，是一個即時處理專項任務的延展認知系統，這個系統的核心是人。前臺表演的只是這個系統的程序運行終端，而人才是其背后的智力資源。

劉曉力

無心的機器是目前人工智能的局限

AlphaGo戰勝李世石產生的一個直接效應是，很多人認為，AlphaGo的勝利意味著人工智能已經突破某種極限達到了高智能水平，照此下去，人類所珍視的所有智慧終將被機器所替代，人類未來命運著實堪憂。

但事實上，雖經歷一個甲子歲月的洗禮，人工智能目前還沒有擺脫“無心的機器”的命運，今天的人工智能可以說既無智力也無心靈。這是因為目前計算機使用的都是二進制編碼的圖靈機計算，是遞歸算法。80年前，偉大的邏輯學家哥德爾就已指出圖靈機的計算能力與人類相比較是有先天局限的。但是，人們更熱衷于引用圖靈1950年在《機器與智能》中的話，“我們不能因為一臺機器不能參加選美大賽而責備它，就像我們不能因為一個人沒有飛機飛得快責備他一樣，機器也能夠思維”；卻忽視了1936年圖靈經典文獻《論可計算數》的基本點，其中清晰地區分了什么是可計算的、什么是不可計算的，以及計算的界線在哪里。只要是不可計算的問題，人們無論如何找不到算法。而且不可計算的世界相比可計算的世界要大得不可勝數。

國際計算理論、視覺理論家馬爾曾將可計算之事歸結為三大步驟。第一，要把具體的現實問題抽象化成一個可以清晰定義的問題；第二，要看它是否是可計算類的問題；第三，要在可計算的范圍內找到算法。對于人工智能而言，自然還有重要一步，就是要在機器上執行算法完成計算。目前人工智能可以在很多需要做大量計算的局部領域超出人的計算能力，但它的局限性最尖銳地體現為不能處理以下三類問題：意義理解；意識和意識體驗；自主性和覺知。

第一個問題可以歸結為，機器理解語言嗎？我們知道，人類是借助抽象符號使用語言來描述外部世界的，人是世界意義的制造者，這個意義就是我們內在的心理世界的所思所想與外部世界的關系。機器懂得人類語言表達的意義嗎？機器翻譯程序真的懂得所翻譯的語言內容嗎？手機上安裝的語音輸入系統真的理解人們所輸入的語言符號的意義嗎？這一直是人工智能的所謂“瓶頸問題”的困難所在。時至今日，機器根本不能理解語言的意義，不能理解我們跟外部世界究竟有怎樣的關聯，因為這個意義的解釋者只有人類自身。當前人工智能最重要的進展，一方面是機器人在感知外部環境信息方面能力的提高，如iCub、谷歌大狗、谷歌自動駕駛汽車和飛機等；另一方面是通過多層神經網絡深度學習，機器在模式識別、圖像識別、語音識別能力上有令人驚異的表現。但是可以說，目前的各類識別還只是完成某種“匹配”任務，匹配過程中并不關涉圖形和語音所包含的意義。

第二個問題是，在與世界打交道的過程中，人除了有感官知覺，還有情感、意識和意識體驗。人們把李世石輸棋的原因歸為他的情緒不穩定，但這恰好就是人類超過機器的獨特之處。人有喜怒哀樂、愛恨情愁；有追求真理的欲望；有宗教情感和同情之心，能在與他人的交流中獲得理解、體驗痛苦和快樂；人也經常會出錯會失敗，有各種非理性的行為。這些正是人之為人的價值所在。機器沒有這樣的信念欲望意圖和意識體驗。一個當下處理圍棋問題的確定算法一經運行就不會更改，所以機器不會出錯。如果有錯，責任也在編寫算法的人。AlphaGo既沒有恐懼也沒有焦慮，沒有喜也沒有悲，它是靠著強力搜索高速計算取勝的，在這一點上，恰好說明作為算法的AlphaGo有不及人類智能的弱勢之處。盡管目前人工智能專家也在研究機器情感、機器意識，但是離機器真正有情感有意識和意識體驗，恐怕還有本質上的距離。

第三個問題是，單純作為算法的AlphaGo沒有自主性和覺知。AlphaGo的運行需要外部驅動力，這個動力是人給予的，圍棋算法是人設計的，實現算法的程序是人編寫的，3000萬個棋局是歷史上棋手長期積累又由人陸續輸入數據庫的。此外，更重要的是，人的行動是有動機的，人有意圖會規劃未來，有做出選擇和行動的自由意志，因此，作為一個行動者，人可以為自己的行動提供理由。但是，無論如何，AlphaGo沒有辦法為自己的走子行為提供理由。AlphaGo甚至根本不知道自己是在下棋，更別提棋感、直覺、欺騙、故意下壞棋了，它的行為只受輸贏這個簡單的目標導向。從比賽結果看，像是這樣一個硅基材料的機器有了勝過世界冠軍下棋的智慧和能力，但事實上，依照我們下面的分析，AlphaGo的智能實際上是以人為核心的一個巨大的延展認知系統的能力，是系統部分認知功能的某種外化。