機器人表示被人類控制很難過?機器人過度“自信”后，阻止人類將其關閉?隨著人工智能的不斷發展，機器人愈發智能化，當前我們所面對的或許已經不僅僅是機器人帶來的失業，甚至還面臨著被機器人控制的危險。

6月9號，在瑞士日內瓦“人工智能造福全球人類峰會”上，一位口才出眾的智能機器少女—索菲亞成為了全場的焦點。當被問及“當機器人累嗎?因為你時刻被人類控制”的時候，她竟然明確的告訴人類，被人類控制很難過。

當然，機器人的回答是否被提前設計過，我們不得而知。但如果完全是臨場發揮，那這一問題似乎看起來并不是那么簡單了。就如青少年在不愿被家長左右思想的時候，他們會做出什么反應?無疑是叛逆。那么，機器人不愿受人類控制的時候，將會是怎么樣的表現?

Matt Reynolds近期在New Scientist網站上發表了一篇名為“Robots will be more useful if they are made to lack confidence”的文章。文章介紹了最近的一項實驗，科學家把 AI 賦予充分的自信之后，AI 會認為自己做的才是對的，進而會阻止人類關掉自己。

加利福尼亞大學伯利克團隊曾做過一個實驗，為了探索計算機的“自信”，設計了一個人與機器之間相互作用的數學模型，稱之為“開關游戲”。當機器人被設定為高度“自信”模式時，它們認為它們所做的都是有用的，這會使得它們永遠也不會讓人們把它關掉，因為它們試圖最高效的完成任務。

其實，機器人控制人類的傳言已經流傳了很長一段時間。早在2015年Zeitgeist大會上，著名科學家史蒂芬·霍金(Stephen Hawking)就發出警告——未來100年內，人工智能將比人類更為聰明，機器人將控制人類。

霍金宣稱，現在不是擔心誰控制人工智能的時候，而應該擔心人工智能是否能被完全控制住。未來100年中，人類將面臨比人類更聰明的人工智能的挑戰。霍金此前也曾發出警告，他稱人工智能可能終結人類。

此外，特斯拉CEO伊隆·馬斯克(Elon Musk)也曾與霍金共同發表過公開信，他們認為人工智能的發展應該受到控制。信中稱，如果智能機器無法保障安全，人類可能陷入黑暗的未來。

來自牛津大學的Marta Kwiatkowska認為，那些拒絕讓人類關閉的自動操作系統聽起來可能有些牽強，但是這樣的考慮應該是制造在人們身邊工作的這類機器人時所必須具備的。她同樣認為，在建造無人駕駛汽車、消防機器人時，都要求為人類的安全考慮，因此，對于這些倫理框架的決策宜早不宜遲。

但另一方面，人類也不必妄自菲薄，如今的智能機器人并非無所不能。就如日前剛剛擊敗圍棋高手的阿爾法狗而言，目前阿爾法狗只能在少量領域里逞能。據科學家分析，當前市場上的大部分智能機器人智商只相當于4歲的兒童，其“常識”比正常的成年人相差甚遠。

美國科學家羅伯特·斯隆認為，人工智能的難題之一，就是開發出一種能實時做出判斷的計算機軟件。盡管機器人在工作強度、運算速度和記憶功能方面可以超越人類，但在意識、推理等方面都不可能超越人類。等方面都不可能超越人類。