ad9_210*60
關鍵詞:
台灣網  >   評論中心  >   大陸觀察

中青報:如何看待霍金對人工智慧的警告

2017年06月05日 13:51:00  來源:中國青年報
字號:    

  原標題:如何看待霍金對人工智慧的警告

  今年3月8日,著名物理學家史蒂芬霍金向英國《獨立報》表示,人類必須建立有效機制儘早識別威脅所在,防止新科技(人工智慧)對人類帶來的威脅進一步上升。霍金警告,未來人工智慧可能會以生化戰爭或核子戰爭的方式摧毀人類。其實,早在2015年9月,霍金就發出過類似的警告:聰明能幹的人工智慧會讓人類滅亡。霍金錶示:一個超級聰明的人工智慧可以非常好地實現它的目標,如果這些目標沒有與我們人類一致,我們人類就麻煩了。

  我們如何來對待霍金的警告呢?首先,霍金本人也是人工智慧技術的支援者,霍金認為,如今人工智慧似乎已經滲透到各個領域。人工智慧甚至可幫助根除長期存在的社會挑戰,比如疾病和貧困等。

  人工智慧技術是當今新技術革命的領頭羊。事實上,人工智慧技術的發展已歷經三次浪潮。第一次浪潮以“手工知識”為特徵,典型範例如智慧手機應用程式等。第二次浪潮以“統計學習”為特徵,典型範例如人工神經網路系統,並在無人駕駛汽車等領域取得進展。雖然這些人工智慧技術,對明確的問題有較強的推理和判斷能力,但不具備學習能力。第三次浪潮則以“適應環境”為特徵,人工智慧能夠理解環境併發現邏輯規則,從而進行自我訓練並建立自身的決策流程。今年年初,谷歌AlphaGO的升級版Master以 60:0的戰績,擊潰當世所有圍棋頂級高手;就在5月25日,AlphaGO又接連兩局擊敗中國圍棋職業九段棋手柯潔;我以為,這些都是人工智慧第三次浪潮的標誌。

  其次,人工智慧技術也是一把雙刃劍。一方面,借助人工智慧技術實現自動化,將極大提高生産率,節省勞動成本;通過優化行業現有産品和服務,開拓更廣闊的市場空間。正由於人工智慧對社會經濟無可替代的重要推動作用,在我國兩會上已將人工智慧寫進了政府工作報告。

  另一方面,人工智慧技術對社會也帶來了近期和遠期的風險。在不遠的將來,那些重復、耗時、乏味的工作;在快速變化的複雜環境中進行的工作以及超出人類極限的工作,都有可能被人工智慧系統所代替,從而衝擊勞動力市場。可以預測,由於人工智慧的發展,多數人的智慧將低於或接近人工智慧的水準,如果沒有政策的有效控制,財富就會集中到少數智慧超過人工智慧的人手中,這將進一步擴大社會的貧富差別,引發社會的撕裂。

  至於説到霍金警告的人工智慧引發的人類生存風險,即人工智慧將來會從整體上超越人類智慧,目前對此在認識上還有分歧。許多自然科學家認為,目前人工智慧離上述水準還很遠很遠,其危險遠不足慮;而某些社會科學家卻有擔憂,認為隨著技術變革的深入,人工智慧所引發的鏈式反應,就會出現無法控制的局面。上述認識的差異,正好體現了人類對智慧認識的多樣性。從這個角度看,科學家全面認識人類智慧,並將其復現,只是時間問題。鋻於人工智慧有可能超越人類智慧,以及由此産生十分嚴重的後果,再加上科學技術發展的內在不確定性,就充分説明瞭研究人工智慧安全問題的必要性。

  早在1950年出版的美國著名科幻小説家艾薩克阿西莫夫撰寫的《我,機器人》小説中,就提出了著名的“機器人三大定律”:第一定律,機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手旁觀;第二定律,機器人必須服從人給予它的命令,當該命令與第一定律衝突時例外;第三定律,機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。此後,這“三大定律”不斷激發出對於人工智慧安全性的新思考。由於人工智慧最終必將會具備自主意識,到那時人類與人工智慧系統之間的關係,必須服從普適、可靠的準則。特別是在軍事領域要更加小心,否則極有可能出現科幻電影中描述的人機大戰的場景。

  因此,我們在發展人工智慧系統的同時,還要確保其在預先制定的相關準則下進行工作,以防止其出現越規行為。

[責任編輯:郭碧娟]

海峽時評
深度幕後
七日視點
視頻