在美國經典科幻電影《2001:太空奧德賽》中,宇宙飛船上一臺名叫“哈爾”的智能電腦出現“妄想狂”故障,劫持飛船并設計殺死了4名機組人員,最后一名幸存宇航員設法戰勝了哈爾。這也許只是科幻電影中的場景,然而美國科學家已經設計發明出了能夠欺騙其他機器人、甚至欺騙人類的智能機器人。
6 v/ {2 m' u* u: j# }
image.jpg (11.97 KB, 下載次數: 37)
下載附件
保存到相冊
2010-9-14 12:38 上傳
2 c5 w. S" r, D/ X+ Y8 K, z& I亞金教授(左)和同事讓兩個機器人玩“躲貓貓”游戲
, l' r% S9 }- O2 e8 p- Z( Q+ O) F3 \' Z5 ]+ e8 x5 N
亞特蘭大市佐治亞州理工學院的科學家亞金教授率領的研究小組已經編寫出一種計算機運算法則,這一高科技程序能讓機器人自主決定它是否面臨危險,以及是否應該通過欺騙另一個機器人或一個人的方式讓自己安全躲藏起來,不被別人發現。4 A! L4 @ ?/ x( ?3 Q1 U
( Y. L( V; _5 s
為了防止機器人濫用“欺騙行為”,機器人必須要滿足兩個必要條件后,才能獲得行使“欺騙行為”的授權。第一個條件是和尋找它的機器人之間必須有沖突,第二個條件是可以從它的欺騙行為中獲益。
$ E# I& L4 A) d$ B! ?1 n- n8 I b* ~" ], R B* c
科學家為了測試他們的高科技電腦程序,讓兩個自動機器人進行了20次“躲貓貓”游戲,實驗地點有3個可以讓機器人藏身的地方。那個安裝了最新“欺騙程序”的機器人在游戲中,多次順利通過欺騙行為躲過另一個機器人的尋找。
3 S0 T/ [4 x5 C; u: j+ P. g# S+ c6 f9 d h' a9 o( x# Y
“騙人型”機器人的問世在科學界引發巨大爭議,因為這意味著人類的安全將受到潛在威脅。不過科學家稱,“騙人型”機器人在軍事上具有重要用途,因為它們將能在戰場上設下迷魂陣欺騙敵人。 |