據英國每日郵報報導，著名物理學家史蒂芬•霍金（Stephen Hawking）教授預測，下個世紀人類將面臨比人類更聰明智能的人工智能機器人的崛起。霍金教授表示我們需要擔心的不是誰控制著人工智能，而是人工智能是否可以被控制。他在倫敦召開的Zeitgeist2015會議上發表了這一言論，隨後他表示人工智能可能意味著人類的終結。
“在未來100年內，人工智能計算機將接替人類。如果這一情形的確發生了，那麼我們必須確保計算機的目標與我們的相一致。我們的未來是科技日益發展與我們睿智的使用科技之間的競賽。”
今年早期，霍金和Space-X和特斯拉公司CEO企業家埃隆•馬斯克（Elon Musk）共同簽署了一份公開信，聲稱人工智能的發展不應該任由其不可控制的發展下去。這份文件表示如果智能機器沒有任何保護措施，那麼人類的未來將一片黑暗。
這份公開信是由非營利組織生命未來研究起草的，它警惕科學家們要注意那些可能毀滅人類的風險。作者表示“廣泛的普查”表明人工智能研究目前一切順利，它將會對社會產生日益增多的影響。“潛在的益處是巨大的，因為文明所提供的一切都是人工智能的產品；我們無法預測當人工智能所能提供的工具將這種智能無限放大時，我們可能面臨的結果是什麼，但疾病和貧窮的根除並非深不可測，”作者這樣寫道。
但這也提出了Stark警示，研究不應該只關注於人工智能所能帶來的益處，還要調查如何避免它可能帶來的潛在損害。例如，從短期來看，人工智能可能導致上萬人失業。從長期來看，它可能變成小說裡虛構的那種糟透了的社會，比人類更聰明的機器開始反抗它們的編制程序。“我們的人工智能係統必須做我們希望它們做的事，”這份公開信這樣寫道。這也回應了霍金今年早期發表的言論，他認為成功的創造人工智能“將是人類歷史上最大的事件，但不幸的是，這也可能是最後一件事。”
去年11月，馬斯克警告稱最快在未來五年，由於具有人工智能的機器的發展，人類將面臨“某件異常危險的事即將發生”的風險。在此之前，馬斯克將自主思考機器的發展與“召喚惡魔”相聯繫。
去年十月在美國麻省理工學院AeroAstro百年學術研討會上，馬斯克將人工智能描述為我們面臨的“目前存在的最大威脅”。他表示：“我認為我們必須小心翼翼的處理人工智能。如果非要我猜測目前人類面臨的現有最大威脅是什麼，我認為很可能是人工智能。因此我們必須時刻保持警惕。我越來越傾向於認為一些管理監督是非常有必要的，可以從國家或者國際層面上，目的是確保我們沒有做出什麼愚蠢的行為。”（編譯/嚴炎劉星 - 鳳凰科技5/15）
留言列表
