科技失控：智慧機器將成為人類的最後一項發明？

　　作為人工智慧倫理學方面的權威，耶魯大學生物倫理學跨學科中心的主管溫德爾·瓦拉赫（Wendell Wallach）對於新興科技的預言和警告，一直被科技界當做未來發展的重要參考。

　　比如在2016年天津夏季達沃斯論壇上，瓦拉赫教授認為谷歌人工智慧Alpha Go戰勝韓國棋手李世石的就表明機器學習的能力越來越重要，但同時，瓦拉赫教授在他的新書《科技失控：用科技思維重新看懂未來》中，也對新興的熱點技術，如人工智慧、自動駕駛、地球工程等，提出了倫理挑戰和警告。

　　失業、災難和毀滅

　　科技所帶來的問題，不僅僅在於技術本身所引發的一些環境、健康和危害，還在於其可能引發的社會問題和倫理問題。

　　聯合國報告稱：2/3發展中國家工人將被機器所取代，這一趨勢已經被各機構所認同，但其實新技術引發的對失業的恐懼並非新現象，早在1779年英國傳奇無産階級英雄奈德·盧德（Ned Ludd）就親手砸毀了當時先進的針織機，英國諾丁漢的針織品手工藝人受到其鼓舞及對失業的恐懼而大肆毀壞當時工廠中的機械針織機。以至於後來人們總是把反對工業化和自動化的人稱為“盧德分子”。

　　瓦拉赫教授説：“也許我們的下一代有可能會親眼看到200年前盧德派所擔心的夢魘發生，技術所搶奪的工作將遠遠超過其創造的工作。就業機會的創造可能也存在週期性的增長，但是我們可以暫時假設所創造的新工作形式遠遠落後於人們對於就業的需求，這肯定會産生破壞性的後果。”

　　系列電影《終結者》也引發了人們對於智慧自主武器的恐懼，這種由人工智慧和超級武器結合的産物，也成為了人類的超級夢魘之一，也被各種科幻創作引為人類毀滅的手段之一。或許人們會找出各種理由來支援自主武器的發展，其中的理由之一極可能是這項技術可以減少戰爭中的生命損失。但也有可能因此而降低戰爭的門檻——因為看起來戰爭成本會更低。

　　對此瓦拉赫教授在《科技失控》中説：“自主武器系統與非自主武器系統之間的區別可能只是一行代碼的問題。”“自主武器容易導致錯覺，以為戰爭可以迅速啟動並很快以最小的成本取勝。但是，一旦戰爭開始，不僅是士兵的生命還有平民的生命都難於倖免。”

　　智慧機器將成為人類最後一項發明

　　數學家古德（I.J. Good）在1965年發表了一篇題為《有關第一台超智慧機器的猜想》的文章中，預測電腦將從各方面都超過人類的智慧能力。超智慧機器的一個顯著特點是具備製造出更好機器的能力 。它們的出現會引發“智慧爆炸”，機器將設計出更智慧的電腦，它們的進化將遠遠超出人類的智慧。古德寫下了一句非常著名的話：“第一台超智慧機器將是人類的最後一項發明。”

　　智慧機器將給我們帶來的變化和發展不言而喻，這種顯而易見的好處和發展趨勢甚至可以沖淡人們對於智慧機器産生的憂慮，近來谷歌的人工智慧Alpha Go的表現就經常被當成娛樂新聞被人津津樂道，但是我們絕不能因此而忽視其潛在的問題。更多時候面對趨勢我們並不能阻止其發展，但可以決定其究竟什麼時候實現。

　　瓦拉赫教授説：“但是時間越長，機會越多，可以確保超智慧機器人對人類和人類的價值觀友好。認為科學家肯定終有一天會發現製造此類機器人或實現人類進化當然不是愚蠢的。但是，這很大程度上取決於在20年、200年還是1000年以後實現。”

　　生死關頭，我們是否應該將決策權交給機器

　　對於無人駕駛汽車安全性較目前的汽車更高的説法，瓦拉赫教授表示懷疑：“據谷歌的統計，當前的設計平均36000英里才會出現一次電腦司機出現嚴重錯誤需要人進行干預的情況。這聽起來讓人比較放心，因為一般的司機需要2或3年才能開夠這麼遠的里程。然而，人類司機一般每50萬英里才會出現事故，每130萬英里可能發生傷人的事故，每9000萬英里才可能導致人員死亡的事故。因此，難以證明依賴備份人類司機的無人駕駛汽車能否真正降低死亡率。”

　　失控點也可能不僅是技術本身。比如即便是事故死亡率更低，也要區分是駕駛者死亡和事故中死亡，比如説，失控的汽車是選擇撞向行人還是路邊的供電設備——後者看起來是一個不錯的選擇，但可能會造成駕駛者死亡，並且如果造成全面停電可能會引起部分區域停電從而影響那些在醫院中急救的人從而造成死亡；比如説，為了避免撞上公共汽車或兒童，造成更多的死亡，有些駕駛者會選擇從橋上衝下去，這個問題可能並不讓人愉快，但確實關乎一個決策權的問題。

　　而且，現實問題可能會比設想更為複雜往往會涉及到三種或更多的因素在裏面，這裡面可能涉及一個道德回復：我們的本能反應未必會比機器的選擇更好。但這同時也返回我們最初的問題：我們是否應將決策權交給機器？

　　我們不會停止腳步，但可以少繳智商稅

　　在科技的發展過程中，我們總要為自己的判斷和試驗而付出不小的代價。不同於科技發展本身的代價和投入，科技中可預見但因為貪婪或其他原因造成的失控點也會造成研究者、投資者和消費者的嚴重損失，我們姑且將其稱之為“科技智商稅”。智商稅的特點是，在人們清醒之前，總會哭著喊著要交，你如果提醒他他還會怒不可遏，除非他自己最終能意識到。

　　我們不期望《科技失控》能完全消除科技智商稅的發生，但如果我們能對科技進行正反的思考，就能盡可能減少我們犯錯的幾率。

　　正如史蒂芬 霍金（Stephen William Hawking）雖然一直警告科技是人類最大的威脅，但同時他也説：我們不會停止進步，或刻意逆轉。所以我們必須認識到進步的風險並控制它。

　　推薦

　　大量技術發明的涌現都伴隨著相應的風險。倫理學家瓦拉赫在這一領域的研究幫我們從危險中排除了不理智的因素。

　　——《自然》（Nature）

　　溫德爾·瓦拉赫似乎總是比我們超前幾年。他這本了不起的書將我們帶到了科技前沿，向我們展示了最卓著的技術發明如何，為什麼以及在哪些地方改變人類的生活。瓦拉赫思維敏銳入微，他完美地將對新興技術的淵博知識與對歷史的把握、對人性的尊重結合起來。《科技失控》是一本引人入勝、意義非凡的書，話題本身屬於學術研究範疇，但讀起來卻妙趣橫生。

　　——哈佛大學道德與認知實驗室主任喬舒亞·格林（Joshua Greene）

　　這本恰逢其時的書對於大量快速發展的科學技術的利弊進行了不偏不倚的評價。這是一本值得廣泛閱讀的書。

　　——康橋大學宇宙學和天體物理學教授馬丁·李斯（Martin Rees）

　　《科技失控》讓人不禁聯想到成千上萬的暢銷小説和賣座電影：比如羅伯特·海因萊因的《我不會害怕邪惡》，艾薩克·阿西莫夫的《我和機器人》，大衛·米切爾的《骨醫生》，石垣和未的《別讓我走》，尼爾·斯蒂芬森的《鑽石時代》，以及《千鈞一髮》《駭客帝國》《X戰警》和《星球大戰前傳1：幽靈的威脅》等。但是，上述這些作品和它們描述的各種反烏托邦通常被認為是科幻虛擬世界，而瓦拉赫的書絕不能如此定性，他向我們發出了現實的警告，如不加以關注，警惕技術的發展趨勢，不斷評估技術的利弊，那麼他所警告的一切將有可能。

　　——美國科技部落格媒體Ars Technica