隨著人工智能的興起，一些人提出了這樣的警告：我們可能正處在創造一種新的生命形式的邊緣，它不僅標志著進化上的突破，也會對人類物種的生存構成潛在威脅。真的是這樣嗎？
機器人幼兒園
“歡迎來到機器人幼兒園，” 38歲的彼得•阿比爾（Pieter Abbeel）在加州大學伯克利分校機器人學實驗室門口說。阿比爾2000年獲得了斯坦福大學的計算機科學博士學位，在“如何教會機器人聰明地思考”領域，他是一名世界級的專家。
但是在教會它們聰明地思考之前，阿比爾首先必須教會它們思考。“這就是為什么我們說這是幼兒園的原因，”他開玩笑說。布雷特（Brett）是一個六英尺高的人形機器人，是這個幼兒園眾多“學生”中的一個。它由硅谷廠商柳樹車庫（Willow Garage）制造，幾年前被該實驗室買下用來做實驗。阿比爾和學生教布雷特玩玩具：木錘、塑料玩具飛機、一些巨型樂高積木。
可編程工業機器人出現已經很久了，你可以在工廠里看到那種將模塊插入PC板的機器人，它們重復同樣的動作，每小時300次。那種機器人并不智能。
但近年來，機器學習（模仿人類大腦、讓機器自己學習東西的算法）取得了很多突破，計算機識別語音和視覺模式的能力因而突飛猛進。
阿比爾的目標是給機器人灌輸一種通用智能——認識世界，以便它們能夠自己學會完成任務的方式。他還有很長的路要走。 “機器人的學習能力還不如一個兩歲的小孩，”他說。布雷特學會了完成一些簡單任務，比如疊衣服。
對于人類來說很簡單的事情，比如明白桌子上一團皺巴巴的東西實際上是一條毛巾，這對于機器人來說卻相當困難。部分原因是機器人沒有常識，沒有之前嘗試疊毛巾的記憶，以及最重要的是，它們對毛巾是什么東西完全沒有概念。它們看到的只是一塊顏色。
小孩子在解決問題時，往往會持續不斷地調整自己的做法。阿比爾從中受到啟發，開創了一種讓機器人自學的方法?，F在，當布雷特整理衣物時，它會用手抓起卷成團的毛巾，試圖弄明白它的形狀，搞清如何折疊它。這聽起來很幼稚，但機器人學習疊毛巾就是這么不容易。
這將把我們帶向何方？
智能機器可以執行的任務的復雜性正在呈指數級增長。最終這將把我們帶向何方？如果機器人能夠自己學會疊毛巾，有朝一日它也會學會給你做飯，給你做手術，甚至打仗嗎？
人工智能可能有助于解決我們面臨的一些復雜問題，比如治療癌癥和應對氣候變化——但在短期內，它也有可能用來開展監視活動、破壞隱私，進行電子推銷。除此之外，更大的問題也隱隱呈現出來：機器有朝一日會擁有獨立思考、對問題進行推理，以及展示情緒的能力嗎？沒人知道這些問題的答案。
智能機器的興起不同于其他任何技術革命，因為它最終和“人性”這個概念利益攸關。我們有可能正處在創造一種新的生命形式的邊緣，它不僅標志著進化上的突破，也會對人類物種的生存構成潛在威脅。
但這場革命已經開始。去年夏天，伯克利團隊給一個仿真機器人安裝了一個短期記憶系統。參與該項目工作的計算機科學家謝爾蓋•萊文（Sergey Levine）說，在機器人身上測試這個記憶程序時，他們注意到“一件怪事”，他們向它發出一個命令，讓它把一個木釘放在的兩個孔洞中的一個里面，或者放左邊，或者放右邊。
為了做比較，他們在沒有記憶程序的時候重做了實驗 ，結果令他們吃驚：機器人仍然能夠把木釘放在正確的孔洞中。沒有了記憶程序，它是怎么記得該放哪里的？ “最終我們發現，一旦機器人接收到命令，它就把胳膊朝著正確的孔洞伸過去，”萊文說。然后，在命令消失后，它可以根據自己身體的姿勢，知道該放哪個孔洞。實際上，機器人是自己想出了一個方法來正確地執行這個命令。 “這真是非常令人驚訝，”萊文說。 “而有點令人心驚肉跳。”
發展人工智能是在“召喚惡魔”？
人工智能領域一再出現新的突破：今年1月，DeepMind表示它已經開發了一種算法，擊敗了歐洲冠軍圍棋。圍棋比象棋更加復雜，而這種名為AlphaGo的算法將在3月中旬挑戰世界圍棋冠軍。當然，人類在這種快速發展中起到了作用，但是人們不免也會覺得，我們似乎已經在智能機器的進化中達到了某個拐點。難道我們正要目睹一個新物種的誕生嗎？還需要多長的時間，機器就會變得比我們更加聰明？
在近期的一次會議上，特斯拉及SpaceX公司創始人伊隆•馬斯克（Elon Musk）突發驚人之語，說發展人工智能是在“召喚惡魔”。不過他后來承認，這么說有點言過其實。他說，“智能機器的突飛猛進提出了一些嚴肅的問題，我們需要考慮自己作為人類的身份，需要考慮我們正在為自己打造什么樣的未來。”正如他所指出的，我們對機器的依賴已經是個不爭的事實：“我們已經成為了那種靠機電裝置維持生命的人了，你試試把手機關上一段時間——你就會明白幻肢綜合癥是什么意思。”
這并不是說，超級智能機器只有在變得超級邪惡之后，才會對我們人類構成威脅。 “人工智能真正的風險不是惡意，而是競爭力，”物理學家霍金最近提出。 “超級智能機器將非常善于實現自己的目標，如果這些目標與我們的目標不一致，我們就麻煩了。你踩死螞蟻，可能并不是因為你是一個邪惡的螞蟻仇恨者，但如果你負責一個水電綠色能源項目，有一個蟻丘被水淹沒，那螞蟻就是純屬倒霉。我們不能讓人類陷入螞蟻的這種處境。”
現在的人工智能有多聰明？
盡管現在我們有了更聰明的算法，更強大的機器人，超級智能機器卻仍然更像是科幻而非科學的產物。Facebook人工智能研究主管揚•樂康（Yann LeCun）說，“人工智能現在的聰明程度和老鼠差不多。”他說得沒錯。IBM花了多年時間編程，投入了數以百萬計的美元，在2011年推出了“沃森”（Watson）程序。沃森在《危險邊緣》智力游戲節目中，擊敗了最出色的人類選手，現在它是IBM公司“認知計算”項目的基礎。
它可以每秒讀取8億個頁面，可以消化維基百科的全部語料，更不用說積累了幾十年的法律和醫學期刊了。但是它不能教你如何騎自行車，因為它的智能頻譜很狹窄——它不知道這個世界實際上是如何運轉的。Aristo是最先進的人工智能程序之一，但它無法理解這樣一句話：“人呼吸空氣。”因為要理解這一點，你需要一般性的知識——它卻沒有這樣的知識。即使它知道這句話中每個詞的定義，它也不知道人們呼吸空氣是為了生存；不知道人是每分鐘呼吸一次空氣，還是一輩子只呼吸一次。還一些令人印象深刻的服務，比如Skype翻譯（目前只有預覽版），用戶可用兩種不同的語言進行實時對話，但它也有很長的路要走。如果你與意大利的一個人聊天，你對天氣的談論，可能會被翻譯成對《圣經》的評論。
這并不是說智能機器的興起就沒有風險。自主武器系統，比如武裝無人機，可以利用面部識別技術和其他數據來開展暗殺活動，這樣的危險確實是存在的。
但它們并不對整個人類的生存構成威脅。有些人會想象，朝鮮黑客會突然開發出新的算法，讓金正恩擁有了世界終結者那樣的攻擊力，這其實不太可能。因為人工智能和iPhone不一樣，不是你寫一個新應用就能大功告成的事情。它更像構建互聯網本身——只能通過時間來完成，它需要大量的增量發展。
夸張的想象掩蓋了真正的風險
事實上，夸張的想象反而掩蓋了智能機器興起帶來的真正風險——導致工人失業，在戰爭中更多使用自主武器，以及這樣一個事實：我們越是依賴機器，出問題的時候（無論是技術故障還是黑客攻擊），我們的風險就會越大。
這是一個關于“異化”（alienation）的問題。如果在一個世界中，我們和機器說話的時候多過和人說話，而藝術不過是一種諧調悅目的算法輸出，異化就會出現。此外，人工智能時代也會帶來嚴重的隱私挑戰，這不僅僅是說有智能無人機從上空監視你，而且也是說一些公司會跟蹤你的一舉一動，目的就是為了向你銷售東西。
夸張的想象也掩蓋了我們與機器更深入地合作可能帶來的好處。大多數研究者，比如DeepMind的杰米斯•哈斯比斯，他們認為，如果我們給機器提供資料，它們就可以幫我們解決諸如疾病和醫療這樣的重要問題，可以幫助科學家應對氣候變化等等。
技術革命往往會激發恐懼感——有時候合情合理，有時則不然。工業革命初期，英國紡織工人砸壞了機器，因為擔心自己的飯碗會被機器搶走（確實如此）。電力時代開始的時候，人們覺得電線可能會引起精神錯亂（其實沒有）。而在20世紀50年代，家電廠商還認為很快就會出現核動力吸塵器。
實際上，人類已經在和機器一起合作，你很難想象未來會有什么不同——不管機器人以后變得多么復雜。 著名的計算機科學家賈瑞恩•拉尼爾（Jaron Lanier）曾說過：“算法是人類設計的，它們反映了設計者的偏見。”無論是好是壞，無論我們會創造什么樣的未來，它都是我們為自己設計和建造出來的。
