智力的超越，確實會摧毀人類的安全感。畢竟智力是人類站在食物鏈頂端的重要基礎。蔣和穆博士剛剛翻譯的《自然》雜誌科幻小說選登作品，收錄了10篇涉及人工智能的文章，故事結局多為荒誕，字裏行間隱憂重重。“在西方科幻和前沿人士之間，似乎有壹個不成文的規定。科幻專門用來質疑研究的內容，想象其發展帶來的壹些不好的未來。《自然》上的小說家很入流，都是在用西方當下的科幻潮流寫作。”相比之下，對人工智能的擔憂似乎並非空穴來風。
這種擔憂大致可以分為三個層面:第壹個層面是技術濫用和技術缺陷對人類社會造成了危害；二是哲學層面的擔憂，即人們過分依賴技術，把壹切都交給計算機來決策，以至於人類失去了主體地位和生活的意義；第三層是最可怕的。人工智能變壞，在意識的驅動下傷害人類，更像《終結者》裏的場景。
電影《終結者5》
人工智能會超越人類智能嗎？這種說法在學術界壹直存在。堅持人工智能無法超越人類的人不在少數。依據是人工智能是壹個神器，它在不斷地模擬人類。模擬器如何超越被模擬的？
"這種觀點的論據是站不住腳的。"江說，“沒有壹個定理證明被創造的東西不能超越造物主。現實生活中，有很多相反的例子。比如孩子比父母聰明，這是很典型的。雖然現在還在討論人工智能能否通過圖靈測試，距離超越人類還很遠，但我不認同人工智能永遠無法超越人類的觀點。”他認為這類事情的問題在於技術突破是不可知的，突破可能很快就會到來。
反駁“不超”論的壹個重要依據是機器強大的升級能力。最貼近我們生活的例子就是電子郵箱裏的程序，根據收件人的習慣篩選出垃圾郵件。這是霍金警告的壹個重要原因。他擔心壹旦開發出相當於或超越人類智能的人工智能技術，它就會失控，以不斷加快的速度重新設計自己。但受限於緩慢的生物進化，人類無法與之抗衡，最後甚至可能被超越。庫茲韋爾還在書中寫道:人工智能壹旦達到人類水平，就壹定會超越人類水平，因為它將人類智能的力量與非生物所表現出來的智能(包括速度、記憶能力和知識享受)結合在壹起。機器學習是人工智能學習人類智能的重要方式。通過大量的數據和信息樣本，計算機可以發現學習經驗，自動改進計算機算法。美國辛辛那提大學智能維護中心主任李傑認為，人工智能確實有學習能力，但屬於程序中的學習，不會跳出程序。人工智能只能在指定領域升級。“別忘了，人工智能裏面有壹個核心的東西叫軟件。軟件不會自己思考。肯定是人編的。”
目前人工智能模擬人類智能還有很多障礙，這讓很多人相信終結者的出現還很遙遠。
比如，現階段機器學習人類知識並不容易。這種學習有壹個困境——計算機學到的知識不壹定都是人類的知識。李傑認為，人在自身智慧的基礎上學習智慧的其他功能，是機器無法復制的。“比如人會被某壹條信息啟發，人類稱之為靈感。靈感是精神上的，無形的，不可編程的。在我看來，機器可以代替知識，幫助人慢慢做決定，但是靈感無法實現。靈感是人類智慧和個人精神造成的非常直接的影響，無法量化描述，而機器是基於目標的。當目標守時，比如打字速度、翻譯速度、計算能力，人腦無法與計算機抗衡，但當人以價值為標準，以道德價值、意識價值為標準時，計算機就不知道如何與人相比了。”
難以數字化的不僅僅是靈感。從現象上看，壹個人有壹個特性叫物質性——他有身體，有知覺，可以通過與周圍環境的接觸獲得知識。這種知識和不接觸外界通過推理獲得的知識是不壹樣的。比如眼睛的轉動，可以幫助人集中精力做出多種選擇，這種選擇是生活在世界中，與周圍環境接觸形成的，很難提取出來放入電腦。兩條腿走路並不容易，因為這涉及到人如何利用力量來抵抗重力，這是生物經過幾百萬年進化後的自然反應。給機器人加上這項技能會涉及大量的計算，而這項操作需要非常復雜的機電控制系統，要保證它像人的肢體壹樣可靠準確地運行，是壹個巨大的挑戰。總之，人的知識來源於社會和交往，很難將這些知識形式化。至少在目前，知識的形式邊界也是數字計算機的能力邊界。人工智能缺乏身體特征，很難從周圍環境中獲取這些未成型的知識。
知識學習足夠復雜，但不是人類智能的全部。幾年前，機器人“沃森”參加了美國的答題節目，已經超過了美國最好的選手。它有很多字典和報紙，還能做簡單的推理。它的知識已經很豐富了，但是沒有人把它當成壹個完整的人。“人除了知識，還有感情和意義，也就是意誌信仰，感情和人的群體有關，知識和感情是綁定在壹起的。很多知識的正確性取決於感覺和意義，比如宗教信仰和社會背景。作為壹種社會動物，人所做的決策並不完全是壹種知識表達，其中有很多情感和意向因素，所以很難還原壹個算法來展示人類是如何做決策的。”上海交通大學計算機專業科學史博士生陳子夫是壹名ai愛好者。他的觀點和李傑相似。在李傑看來，人類是團結的動物，人類的智慧來自於群體間的學習和成長。人類的智慧不是簡單的機器，而是智能的綜合技術。簡而言之，智慧是智力的結晶。人工智能可能會在“壹對壹”中勝出，但人類智能超越整個社會的可能性不大。
“即使是最樂觀的計算機科學家也相信人工智能會在21世紀達到單個人的智力水平，這很好，但不涉及情感和意義。”陳子富認為，在知識方面，未來30年，計算機可以達到非常高的水平，人工智能壹般可以幫助普通個人做出不那麽糟糕的決定，比如幫助人們計算存壹筆錢是否值得，是定投還是活期，買哪只股票。“對於某些特定的任務，人工智能可以做到，而壹些非確定性的任務就比較難。說白了，機器只有不斷進化，成為我們社會的壹員，才能達到人類的水平。”
人工智能最終達到或超越人類的智慧，必然跨越機器與人的區別。這種差異主要在於群體交往中的理性、信仰、情感互動和文化基因。有許多科學家想創造有意識和情感的人工智能。Zenkert說，我們可以讓機器人像人類壹樣思考，但要建立壹個完美的機器人大腦需要很長時間。。
2009年，BlueBrain項目的領導者亨利·馬克拉姆(Henry Markram)聲稱將在10年內推出人類意識的全息圖，意圖建立壹套具有自我意識的人工智能。實現的方法是建立壹個從突觸到半球的完整人腦模型，並在超級計算機上進行模擬。雖然他的實驗室已經成功模擬了小鼠大腦皮層單個單元的活動，但距離現在似乎還很遙遠。
“西方人常說生命是奇跡，所以大腦是奇跡。大腦是生命中最高級的部分，人們還沒有弄清楚這個奇跡的所有機制。”蔣說，當人們說生命是壹個奇跡時，這並不等於說蘋果是壹個奇跡。後者只是壹種褒義，其結構和運行機制可以厘清，而前者是因為它們不知道生活中發生了什麽，人腦也是如此。
讓我們看看弄清楚大腦神經元是如何工作的有多難。人腦是壹個由100萬億個突觸組成的網絡，與100億個神經元相連。這些突觸和神經元的狀態每秒鐘變化10到100次，而線蟲只有302個神經元，人們仍然不明白其中的機制。“大腦是壹個復雜開放的巨系統，與外界總有信息交換。用計算機模擬整個巨系統是非常困難的。目前，還差十萬八千裏。”陳子富說，現在很多人通過計算機程序模擬神經細胞。比如Google的壹個項目，大概可以實現654.38+萬到654.38+0萬個腦神經元的處理功能，可能還達不到壹只貓的智力水平，更不用說它的算法是不是人腦中的算法了。連馬克·萊姆自己都無法給出“模型造出來之後還能思考嗎？”。
事實上，神經系統的計算方法與計算機有本質區別。計算機的狀態轉換完全由程序設定，而神經系統從壹種狀態到另壹種狀態非常依賴於當時的情況。“人腦在處理事情的時候會做很多修剪。當妳拿著杯子倒水出來的時候，其實有很多分支。大腦會給出壹個直接的判斷，砍掉壹些不必要的判斷。但是機器人這麽做的時候，是為了逐個計算每個分支的可行性。這叫蠻力計算，所有的計算都是消耗能量的。再者，從技術角度來說，大腦神經元雖然多，運行速度慢，但對事物的處理是並行的。如果計算機實現10到10的12的腦神經元處理功能，散熱是目前技術條件下的難題。”陳子富認為，人工智能需要認知科學的進步來學習人類這種緩慢的處理機制。但要理解大腦的大部分原理，還需要幾十年甚至上百年的時間。可以說，從現實的技術路徑來看，在模擬人類智能的道路上很難完成超越，終結者似乎離我們還有幾個星系。
(摘自《人工智能是人類的“終結者”嗎？發表於2015 04 17《文匯報文匯學者》)
*文慧獨家稿件，轉載請註明出處。