受益於人工智慧進行交流的史蒂芬·霍金一次次地向人們警告，人工智慧很危險。 在接受美國王牌脫口秀主持人拉里·金（Larry King）的採訪時，這位英國物理學家表示，人工智慧進化的速度比人類的角度更快，而這種進化可能朝著人們無法預知的方向發展。 我不認為人工智慧的進化必然是良性的。一旦機器人達到自我進化的階段，我們就無法預測它們的目標是否與我們一致。 人工智慧究竟是天使還是惡魔？儘管業界各執一詞，但存在這樣一個共識：人工智慧不能墮為一種專制力量，人類必須確保需人工智慧的設計符合道德倫理規範。 說白了，就是技術不能落到壞人手上了。 於是避免人工智慧失控的組織出現了——未來生命研究所（Future of Life Institute），這個由 Skype 聯合創始人 Jaan Tallinn 和麻省理工學院教授 Max Tegmark 主導的組織，在去年召集了一眾人工智慧領域的專家簽署了一封公開信： 我們認為，人工智慧技術的健康發展，和給人類文明帶來更多益處同樣重要。我們發展人工智慧系統必須在可控範圍之內。 簽署這封公開信的就有 Elon Musk 和霍金。 有趣的是，Elon Musk 曾在一次公開訪談說道： 就像所有的神話中畫著法陣捧著聖水的邪惡巫師一樣，每個巫師都聲稱自己可以控制惡魔，但沒有一個最終成功的。
mcjoy 其實人類發明的所有的工具全都失控過，汽車車禍、飛機空難、核電廠爆炸，所以我真不懂為什麼去年以來突然出現一批人，嘲笑人類對人工智慧的恐懼，拍胸脯保證人工智慧沒那麼可怕，希望他們只是譁眾取寵，如果是有組織的就細思極恐了。我個人對人工智慧的觀點是，當然要發展，不能因噎廢食，但必須以玩火的心態謹慎對待。