包括霍金在內的許多科學家認為AI機器人獲得意識僅僅是時間問題，這些機器人將勝任人類的一切工作，然而這也將帶來法律和道德上的挑戰。據英國《每日郵報》12月12日報道，在“The Conversation”網站的一篇文章中，美國俄克拉荷馬州立大學教授蘇巴什˙卡闡述了機器人獲得意識可能造成的后果。

　　蘇巴什˙卡稱，人工智能在未來將有突破性的進展： 機器能夠感知自身和周圍環境，，并且實時吸收和處理大量數據。它可以進入太空、投入戰斗，完成危險的任務，還可以做飯、打掃、洗衣服——甚至能在人孤獨的時候給予陪伴。一套特別先進的機器能夠代替人類完成所有工作，將人類從枯燥的工作中解放出來。但蘇巴什˙卡也指出，這樣的機器會動搖社會基礎，帶來麻煩的法律和倫理問題。更可怕的是，它們可能會反抗、并希望徹底消滅人類。他在文章中寫道，研究人員在這些超感知機器是否存在的問題上存在分歧。在機器是否可以或者應該被稱為“有意識”的問題上，學界也意見不一。

　　報道中還提到了“機器人殺手”和自動化武器的運用。2016年人權觀察組織的報告顯示，由于機器人無需為戰爭負責，因此需要禁止“機器人殺手”使用和發展。去年，超過1000名科技以及機器人專家警告，機器人武器可能只需數年的發展，而不是幾十年。在一封公開信中，他們稱，如果主要的軍事力量推動自動化武器的發展，那么“全球軍備競賽將無可避免”。