人工智能的真正風險
如果你相信一些人工智能觀察者的看法，那麼我們正在奔向奇點——屆時，人工智能將超越人類智能並繼續以指數增長的速度自我完善。如果出現這一情況——可能性很低——那麼人類會怎麼樣？
圖片來源：Getty Images 在過去幾年中，史蒂芬·霍金（Stephen Hawking）、伊隆·馬斯克（Elon Musk）、比爾·蓋茨等一些名人警告我們應加強關注超級人工智能可能帶來的危險後果。而且，他們還把錢用在這方面：包括馬斯克在內的幾位億萬富翁為OpenAI提供支持，該組織致力於開發惠及人類的人工智能。 但是對很多人來說，這不過是杞人憂天。斯坦福大學的吳恩達（Andrew Ng）稱擔心殺人機器人的出現就好像擔心火星上人口過剩一樣。吳恩達也是中國互聯網巨頭百度的首席科學家。 像巴黎的無人駕駛迷你巴士這樣的無人駕駛汽車正出現在全世界各個城市的街頭。（圖片來源：Getty Images） 不過，對人工智能的依賴日益加深並不意味著就沒有風險。事實上，風險早已存在。智能系統已經進入醫療、金融、司法等重要領域的決策過程。我們生活的重要部分有可能冒著未經充分審視的風險。 更重要的是，人工智能有可能產生讓人猝不及防的連鎖效應，比如改變我們與醫生的關係，或者改變小區的治安方式。 人工智能到底是什麼？ 簡單來說，它就是機器做人類需要智力才能完成的事情：理解自然語言，識別照片中的面部，駕駛汽車或者基於我們先前的閱讀偏好猜測我們可能會喜歡的書。 人工智能區別於工廠生產線上按照編程重覆進行簡單任務的機械臂，它更像是通過試錯自動學習如何處理不同任務的機械臂。 人工智能有哪些好處？ 機器學習是目前人工智能的領先技術，經過訓練的程序能夠在大量數據中尋找規律並作出反應，比如在圖片中識別人臉或者在下圍棋時選擇正確的一步。該技術可應用到各類問題中，比如讓計算機尋找醫學影像中的規律。谷歌的人工智能子公司DeepMind正在與英國國家醫療保健服務（National Health Service，NHS）展開合作，其中的一個合作項目就是讓軟件學會根據掃描結果診斷病人是否患有癌症或眼部疾病。其他的項目包括通過機器學習捕捉心臟病和阿茲海默症的初期症狀。 人工智能可能很快在醫療、病情診斷方面發揮不可替代的作用，比如通過醫學影像診斷眼部疾病和癌症。（圖片來源：Getty Images） 人工智能還被用來分析數量龐大的分子信息，以尋找新藥的候選品——如果讓人來完成這一過程，耗時過長，沒有分析的價值。的確，機器學習可能很快在醫療方面發揮不可替代的作用。 人工智能還能幫助我們管理全球船運網絡這樣的高度複雜的系統。以悉尼博塔尼港（Port Botany）的集裝箱碼頭為例，這裏的核心系統管理著數千個集裝箱進出港口的事項。它在一個完全無人的區域管理一批無人操縱的集裝箱跨運車。在採礦業也有類似的情況，越來越多的優化引擎被用於規劃和協調資源的運輸，比如將鐵礦石運輸到巨大的無人駕駛採礦卡車上，再運送到運貨列車上，最後把鐵礦石送到港口。 人工智能的用途遍及各行各業，從金融業到運輸業，它監控著股票市場上的可疑交易行為，幫助控制地面和空中的交通。它們甚至可以幫你阻擋垃圾郵件。這還只是人工智能的開端。隨著技術的進步，它的用途也會越來越多。 那麼問題出在哪裏？ 與其擔心人類被人工智能統治，不如思考因為我們過分相信我們製造的智能系統而可能帶來的真正風險。還記得機器學習的工作模式吧：訓練軟件尋找數據中的規律。一旦訓練完成，人工智能的機器就開始分析新的數據。但是當機器作出回答時，我們通常無法知道它的解答過程。 這就存在明顯的問題。機器的凖確性取決於它學習時所使用的數據的凖確性。比如一個系統了解了肺炎患者的死亡可能性較高，所以系統有可能讓患者住院。系統在無意中會把哮喘病患者歸位風險較低者，這是因為在正常情況下，有哮喘病史的肺炎患者會被直接送至重症監護病房，這種治療方式會大幅減低死亡風險。但是機器通過學習會認為這意味著哮喘+肺炎=較低的死亡率。 算法正在被用於很多能改變人一生命運的決策方面，比如在什麼情況下犯人可以保釋，但是算法的凖確性取決於我們提供的數據的凖確性（圖片來源：Getty Images） 由於人工智能廣泛應用於生活的方方面面，從你的信用評級，到工作職位的匹配度，再到罪犯再次犯罪的概率，一旦人工智能犯錯——我們並不一定知道——的風險也會增加。 由於我們提供給人工智能的很多數據都是不完美的，我們也不應期待人工智能一直能提供完美的答案。認識到這一點是管理風險的第一步。我們需要加強審視基於人工智能的決策過程。由於我們按照自己的樣子製造出人工智能，它就很可能兼具人類的優點和缺點。 請訪問 BBC Future 閱讀 英文原文。