網(wǎng)訊：在1968年上映的經(jīng)典科幻電影《2001太空漫游》中，宇宙飛船的計(jì)算機(jī)HAL面臨著兩難選擇。程序指令要求他履行飛船調(diào)查木星附近人造物的任務(wù)，同時(shí)還要求不向宇航員透露任務(wù)的真正目的。為了解決這個(gè)矛盾，HAL殺害了宇航員。

也日益普遍，從飛機(jī)駕駛艙到手術(shù)室不一而足�？蜋C(jī)很久以前便可自動(dòng)降落。無(wú)人駕駛火車(chē)也很平常。沃爾沃的V40轎車(chē)在堵車(chē)時(shí)實(shí)際上可做到自動(dòng)駕駛，當(dāng)它感覺(jué)到即將撞車(chē)時(shí)會(huì)緊急剎車(chē)，福特的B-Max也可做到這一點(diǎn)。完全自動(dòng)駕駛的汽車(chē)正在全球各地進(jìn)行試驗(yàn)。谷歌（微博）的無(wú)人駕駛汽車(chē)已在美國(guó)行進(jìn)了25萬(wàn)英里，內(nèi)華達(dá)州成為美國(guó)對(duì)公共道路無(wú)人駕駛立法的第一個(gè)州。幾天前在巴塞羅那，沃爾沃展示了一列自動(dòng)駕駛汽車(chē)上路。

　　隨著機(jī)器人越來(lái)越智能和普遍，自動(dòng)化機(jī)器終將在不可預(yù)知的情形下做出生死攸關(guān)的決定，從而具備——或至少表面上具備——道德主體資格。武器系統(tǒng)目前還有人類(lèi)最后把關(guān)，但隨著系統(tǒng)進(jìn)一步復(fù)雜化，很可能變?yōu)樽詣?dòng)執(zhí)行命令的設(shè)備。

　　當(dāng)科技發(fā)展到這一天時(shí)，機(jī)器人將面臨倫理兩難處境。黃蜂機(jī)器人該向據(jù)信為軍事目標(biāo)隱匿的建筑（同時(shí)也可能是民用避難所）開(kāi)火嗎？無(wú)人駕駛汽車(chē)該避讓行人嗎？——如果這樣做意味著將損害其它車(chē)輛或給車(chē)內(nèi)人員帶來(lái)危險(xiǎn)。搶險(xiǎn)救災(zāi)的機(jī)器人該將現(xiàn)場(chǎng)的實(shí)情告訴大家嗎？——如果告知實(shí)情有可能造成公眾恐慌。這類(lèi)問(wèn)題導(dǎo)致了“機(jī)器倫理學(xué)”的興起，研究賦予機(jī)器人判斷對(duì)錯(cuò)的能力，讓他們面臨上述兩難困境時(shí)能做出恰當(dāng)?shù)倪x擇。