有人違背法則 開始製造不聽話的機器人

【新唐人2016年1月5日訊】好萊塢曾經給科學家們一個教訓，那就是機器人開始反抗它們的創造者——人類。然而科學家只把好萊塢的電影當成娛樂，並沒有把它看成具有科學意義的警示。甚至已經有人開始教機器人拒絕執行人類的命令了。

據英國鏡報報導，他們給兩個名叫謝弗和鄧普斯特的小型機器人編制了程序，當人類的指令對它們自己有危險時，容許它們違背人類的命令。

這個試驗的結果很像威爾·史密斯主演的《我與機器人》中那個會道歉的機器人索尼，它們都遵守一些基本原則。

馬塞諸塞州塔夫茨大學的工程師戈登·布里格斯和馬特赫茲博士正試圖創造出更能以人性化方式交流的機器人。他們在一篇論文中表示，隨著自動自主主體能力的提升，會有更多人對計算機倫理學或自主主體行為的道德性領域產生興趣。

這兩個機器人會遵守如「起立」和「坐下」的指令。但如果命令它們走入障礙物或者走向桌子的邊緣，機器人會禮貌地拒絕。

研究人員在機器人的程序中植入了推理機制，讓機器人評估環境，並判斷指令是否會危及它們的安全。然而，這項研究似乎違反了科幻作家艾薩克·阿斯莫夫制定的機器人法則，即機器人必須服從人類的命令。

許多人工智能專家認為，確保機器人遵守這些法則是十分重要的。這些法則還包括機器人永遠不能傷害人類，只能在不和其它法則相衝突的前提下保護自己。

這項工作可能會引發憂慮。人們擔心人工智能使機器人可以違背人類的命令，這可能會帶來災難性的後果。

科學界的領袖人物，包括霍金教授和馬斯克都已警告過，人工智能可能會失控。

還有人警告說，機器人可能最終會取代人類的工作，擔心機器人將接管一切。

在電影《我與機器人》中，人工智能讓機器人索尼突破了編程，違抗了人類的命令。

（新唐人記者又容綜合報導）

◇【新唐人】編輯整理作品，歡迎轉載。請註明文章來源及地址，違者將追究法律責任。