在過去很多年內，人工智能更多的只是作為科幻影片中的橋段出現在我們面前，但如今這一前沿科技似乎已經逐漸成為了人們日常生活的主流元素之一。比如，包括蘋果Siri、亞馬遜Alexa、IBM的Watson以及Google Brain都擁有著理解人類語言的極高認知能力。

　　應該說，近年來大量可聯網設備的出現以及全新機器學習算法的結合使得越來越多人工智能科技的實現成為了可能。有業內人士甚至擔心，科幻影片中機器自主學習、自我改善的能力恐怕也將在不久后成為現實，而那時人類的重要性則將被大大削弱。

　　“我認為全能型人工智能科技的發展甚至有可能終結人類的延續。”英國著名物理及天文學家史蒂芬-霍金(Stephen Hawking)說道。

　　對于霍金的這一觀點，特斯拉CEO埃隆-馬斯克(Elon Musk)以及微軟聯合創始人比爾-蓋茨(Bill Gates)也都表示了贊同。

　　對于這一外界非常關注的話題，美國媒體日前就邀請到了Skype聯合創始人讓-塔林(Jaan Tallinn)、IBM沃特森研究中心副總裁古如德斯-巴維亞(Guruduth Banavar)、巴多瓦大學(University of Padua)計算機教授弗朗斯卡-羅西(Francesca Rossi)共聚一堂同我們分享了他們對于人工智能科技發展的看法。

　　記者：人工智能是否對人類構成了威脅？

　　古如德斯-巴維亞：由于受到了科幻影片的影響，人們大多將這一問題歸咎于人類和機器之間的沖突。智能機器的設計初衷是幫助人們完成人類所不善于完成的工作，就比如處理、過濾規模宏大的數據流。同樣的道理，智能機器在一些人類所擅長的領域則有著諸多的不足，就比如簡單的詞義理解、創造性思維等。因此我們相信將人類和機器的智慧結合在一起才是這個“認知計算”概念的根基所在，并將徹底革新我們解決復雜問題的能力。

　　目前，基于人工智能的系統已經在許多方面改善了我們的生活，就比如飛機的自動駕駛功能、系統的自動推薦模塊以及應用于工業領域的機器人等等。而且在過去5-10年時間內，機器自主學習算法以及先進的計算機基礎設施已經幫助我們打造出了許多全新應用設備。

　　但需要指出的是，我們必須明白這類“機器自主學習算法”的作用僅限于此，因為即便是如今最先進的神經科學以及認知學成就也僅僅是觸及了人類智慧最表面的東西而已。

　　讓-塔林：如今的人工智能技術恐怕還不足以構成威脅，但當我們進入所謂的超級智能時代后，我們的問題才會真正出現。

　　記者：什么是所謂的“超級智能控制問題”(superintelligence control problem)？

　　讓-塔林：即便是如今最智能的機器人都會擁有一個開關，以讓人們對其進行最終的控制。然而，這個開關之所以能夠奏效是因為它隸屬于機器人的控制范圍之外。舉例來說，下棋電腦僅僅會專注于下棋，而卻不會意識到自己的競爭對手可以隨時拔掉電源來終結比賽。

　　然而，如果超級智能機器可以對這個世界的狀態產生認知，并預計出人們拔掉電源的后果，那么它就有可能阻止人們這樣做。

　　記者：那么這個問題會有多嚴重呢？

　　讓-塔林：就現階段而言，這其實是一個純粹的理論問題，我們相信超級智能機器極有可能會始終遵循設計者的編程語言或者某些物理定律。但就你的問題而言，我認為超級智能機器開始阻止人們對其進行“斷電”的做法是一個非常嚴重問題，因為我們至少需要對超級智能機器保留有一定的控制權。

　　弗朗斯卡-羅西：就狹義來說，人工智能已經在某些領域相比人類更為聰明了。人類暫時還沒有受到來自人工智能的威脅，但卻已經感受到了來自它們的影響力。因此，我們有必要評估人工智能在狹義領域對人類有可能產生的威脅，并將它們打造的更為安全、友好、且秉持同人類相同的價值觀。這絕不是一個簡單的工作，因為就連人類有時都不會遵循自己定下的規矩。

　　記者：你認為人工智能在狹義領域會對人類產生哪些威脅？

　　弗朗斯卡-羅西：比如自動交易系統以及自動駕駛汽車。尤其是后者，如果人工智能出錯的話甚至將威脅到乘坐者的生命安全。

　　記者：巴維亞，你是怎么看待這一威脅的？

　　古如德斯-巴維亞：關于威脅的問題總是分為兩個方面的。我們早就知道如今因為信息不充分、或者非專業人士而作出的錯誤決定會導致數億美元的損失或者數千人的生命。而根據IBM沃特森在多個領域的應用情況來看，我認為人工智能在狹義領域所帶來的威脅是十分有限的。

　　我個人的看法是，我們經常低估了鋪設人工智能科技的復雜性，因為這其中有著太多的不確定因素存在。

　　記者：IBM的超級電腦沃特森正幫助醫生更好診斷病人，如果診斷有誤的話沃特森應該為此負責嗎？

　　古如德斯-巴維亞：沃特森并不給出診斷結果，而僅僅是為醫生提供數據和信息進行參考。因此在進行具體診斷的時候，人類醫生可以根據沃特森給出的數據以及其他一些因素作出具體的判斷。總而言之，醫生才是最終作出診斷決定的一方。

　　事實上，IBM團隊的目標是讓沃特森可以根據病人的病史做出分析，給醫生提供關鍵信息以及可能的診斷結果，以此來大大縮短診斷時間。

　　弗朗斯卡-羅西：醫生一直會作出錯誤的診斷，這并不是說他們不夠出色，而是因為他們不可能洞悉某一疾病的方方面面。不過，諸如沃特森這樣的人工智能機器則有可能降低出錯的幾率。

　　古如德斯-巴維亞：總的來說，我相信醫生能夠從沃特森處獲取信息是有益的。就我個人而言，我更加希望能夠無時無刻獲得這樣的診斷服務。