AI滅絕人類的可能性
據美國傳媒報導,揚波爾斯基教授在路易斯維爾大學(University of Louisville)擔任電腦科學教授,專注於網絡和AI安全的研究。他最近出版了一本名為《人工智慧:無法解釋、預測或控制(AI: Unexplainable, Unpredictable, Uncontrollable.)》的新書,並在一個Podcast節目中,用了超過兩小時的時間來討論AI未來可能帶來的風險,對未來抱有悲觀的態度。
揚波爾斯基教授認為,是否能夠在未來一百年內開發出無錯誤的高複雜度軟體,將是人類生存的關鍵。然而,他認為這一目標難以實現,因為人們經常嘗試讓AI執行超出其原始設計範圍的任務:「它們已經釀成失誤,我們發生過意外,它們曾越獄過(jailbroken)」
AI的三種悲慘結局
揚波爾斯基教授預測AI可能導致的三種悲慘結局:第一種是人類全面滅絕,第二種是人類生活在極度痛苦中,渴望死亡,第三種則是AI的創造力超越人類,完成所有工作,使人類失去追求目標業界對AI風險的看法。
不過大多數AI工程師認為這種可能性在1%至20%之間,而馬斯克也預測AI毀滅人類的機率為10%至20%。前Google CEO艾立克·施密特則認為AI的真正危險在於網絡和生物攻擊,這些風險將在未來3到5年內出現,而他指出最簡單的解決方法便是直接拔掉插頭。