英國標(biāo)準(zhǔn)協(xié)會(British Standards Institute，簡稱BSI)，是有著 100 多年歷史的英國國家標(biāo)準(zhǔn)機(jī)構(gòu)，在世界范圍內(nèi)具有很高的權(quán)威性。這個倫理指南的全稱是《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計和應(yīng)用指南》(以下簡稱《指南》)，主要針對的人群就是機(jī)器人設(shè)計研究者和制造商，指導(dǎo)他們?nèi)绾螌σ粋€機(jī)器人做出道德風(fēng)險評估。最終的目的，是保證人類生產(chǎn)出來的智能機(jī)器人，能夠融入人類社會現(xiàn)有的道德規(guī)范里。這個標(biāo)準(zhǔn)的文件代號為 BS8611，發(fā)布于9月15日英國牛津郡的 “社會機(jī)器人和AI ”(Social Robotics and AI)大會上。西英格蘭大學(xué)機(jī)器人教授Alan Winfield表示，這是業(yè)界第一個關(guān)于機(jī)器人倫理設(shè)計的文件內(nèi)容雖然用詞枯燥，但是里面所描繪的場景，簡直跟從科幻小說里蹦出來的一樣。機(jī)器人欺騙、令人成癮、具有超越現(xiàn)有能力范圍的自學(xué)能力，這些都被列為危害因素，是設(shè)計人員和制造商需要考慮的。
《指南》開頭給出了一個廣泛的原則：機(jī)器人的設(shè)計目的不應(yīng)是專門或主要用來殺死或傷害人類;人類是負(fù)責(zé)任的主體，而不是機(jī)器人;要確保找出某個機(jī)器人的行為負(fù)責(zé)人的可能性。
《指南》也聚焦了一些有爭議性的話題，例如，人類與機(jī)器人產(chǎn)生情感聯(lián)系是可以的嗎，尤其是當(dāng)這個機(jī)器人本身設(shè)計目的就是為了與小孩和老人互動。
謝菲爾德大學(xué)教授Noel Sharkey認(rèn)為，這就是機(jī)器人在無意的情況下欺騙人類的例子。機(jī)器人是沒有感情的，但是人類有時候并不這么認(rèn)為。他指出，最近有一項研究，把小機(jī)器人放到一所幼兒園里，孩子們很是喜愛，并且認(rèn)為這些機(jī)器人比家里的寵物具有更高的感知能力。
《指南》建議設(shè)計者更應(yīng)關(guān)注機(jī)器人的透明性，但是科學(xué)家們表示這個在現(xiàn)實里很難應(yīng)用。這是因為人們無法確切了解AI系統(tǒng)(尤其是深度學(xué)習(xí)系統(tǒng))是如何做出決定的。
一個人工智能體，并沒有用固定的程序來指導(dǎo)它完成任務(wù)，它是通過數(shù)百萬次的學(xué)習(xí)和嘗試，才找出成功的解決方法。這種學(xué)習(xí)和做出決策的過程，有時候是其人類設(shè)計者都無法理解的。
《指南》里也提到了機(jī)器人的性別和種族歧視問題。這是因為深度學(xué)習(xí)系統(tǒng)很多都是使用互聯(lián)網(wǎng)上的數(shù)據(jù)進(jìn)行訓(xùn)練，而這些數(shù)據(jù)本身就帶著偏見。
機(jī)器人的偏見是會直接影響技術(shù)應(yīng)用的。它會對某些群體的學(xué)習(xí)更深入，而對另一些群體有所忽視，這在以后的應(yīng)用中，意味著機(jī)器人會“看菜下飯，看人說話”。
現(xiàn)在已有的例子就是，聲音識別系統(tǒng)對于女性的理解要弱一些，再比如機(jī)器識別白種人的臉更容易，識別黑人的臉更難。 長遠(yuǎn)來看，在未來的醫(yī)療應(yīng)用中，機(jī)器人在診斷女性和少數(shù)族群的時候，其專業(yè)程度會降低。
Sharkey 教授說：“我們也需要一個機(jī)器人黑盒子，可以打開來仔細(xì)審查。如果一個機(jī)器人表現(xiàn)出種族主義的傾向，我們可以把它關(guān)掉，從街上拽回來。”
兩周前，路透社有文章指出，有科學(xué)家表示性愛機(jī)器人會使人成癮，因為機(jī)器人不會拒絕。
《指南》也提到了這種“過度依賴機(jī)器人"的現(xiàn)象，然而并沒有給設(shè)計者一個確切的可遵循的準(zhǔn)則。這也是在未來的工作中需要繼續(xù)補(bǔ)充的。
機(jī)器人上戰(zhàn)場 道德安全成問題
近日，在瑞士達(dá)沃斯舉辦的世界經(jīng)濟(jì)論壇上，與會人士討論了智能機(jī)器應(yīng)用于戰(zhàn)場可能產(chǎn)生的后果。美國福克斯新聞網(wǎng)在報道中指出，盡管機(jī)器人能減輕士兵在戰(zhàn)場上的負(fù)擔(dān)，但自主機(jī)器人可以不受人類操控而自動選擇目標(biāo)，所以需要建設(shè)完善的道德程序才能保證安全，否則，遇到黑客襲擊將會十分危險。
機(jī)器起來對抗它們的人類主人，這是科幻小說中常見的橋段，但在最近的世界經(jīng)濟(jì)論壇上，有專家警告稱，它有可能成為一個真實的威脅。與現(xiàn)在無人機(jī)仍然由人類操控不同，自主武器有可能被編程從而能夠自主選擇并攻擊目標(biāo)，這些戰(zhàn)爭機(jī)器可能會有不符合道德的行為并且成為黑客的游樂場。
自主武器提出道德挑戰(zhàn)
澳大利亞新南威爾士大學(xué)計算機(jī)科學(xué)和工程學(xué)院人工智能教授托比·沃爾什接受福克斯新聞網(wǎng)采訪時說：“這是我們?nèi)ツ炅谐龅膽?yīng)該關(guān)注的主要問題之一。”
他補(bǔ)充說：“令人擔(dān)心的是，各國軍隊可能會在未來數(shù)年內(nèi)將機(jī)器人派上戰(zhàn)場，但我們中的大多數(shù)人相信，我們沒有能力建造出有道德的機(jī)器人，而且，我們也不認(rèn)為會有人打算建造有道德的機(jī)器人。”
科學(xué)小說作者艾薩克·阿西莫夫在他1942年的短篇小說《環(huán)舞》（Runaround）中提出了著名的“機(jī)器人三定律”：機(jī)器人不能危害人，或任人受傷而袖手旁觀；除非違背第一定律，機(jī)器人必須服從人的命令；除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。
研究人員認(rèn)為，對于任何“有道德的機(jī)器人”來說，這樣的守則必不可少，但將這些倫理規(guī)范編入機(jī)器人內(nèi)是建造者的責(zé)任。不過，理想很美好，現(xiàn)實很骨感。
美國安全中心倫理自主性項目新主管保羅·謝爾說：“這樣的武器目前還不存在。而且，即使先進(jìn)的系統(tǒng)也被設(shè)計成不能選擇目標(biāo)，只可以在射擊目標(biāo)時做出糾正。”
盡管目前仍然沒有國家研發(fā)出自主武器，但包括美國在內(nèi)的幾個國家已經(jīng)在戰(zhàn)區(qū)部署了無人機(jī)。美國不僅將無人機(jī)作為監(jiān)控手段，而且，也作為一種遠(yuǎn)程攻擊和殺死可疑恐怖分子的手段。
以色列飛機(jī)工業(yè)公司的“哈洛普”（Harop）巡飛無人機(jī)可能是通向真正的自主武器的第一步。“哈洛普”是基于以色列航空工業(yè)公司生產(chǎn)的上一代無人機(jī)“哈比”（Harpy）制造而成。《簡氏防務(wù)周刊》此前報道，以色列航空工業(yè)公司2015年6月7日宣布成功對“哈洛普”無人機(jī)進(jìn)行了試驗，該無人機(jī)在沒有探測到目標(biāo)后，可以安全降落。
“哈洛普”這款自殺無人機(jī)可以在目標(biāo)區(qū)域盤旋6個小時，發(fā)現(xiàn)目標(biāo)后飛向并撞擊目標(biāo)，引爆其33磅（約15千克）重的彈頭。據(jù)悉，“哈比”無人機(jī)主要用于探測并摧毀雷達(dá)站，但“哈洛普”也可以攻擊汽車和地面其他目標(biāo)。
謝爾說：“這類武器能通過遵守程序，自己選擇目標(biāo)，但它能變得非常狡猾。相比較而言，自動駕駛汽車自身并不能做決定。”
目前，這類機(jī)器仍然不能進(jìn)行主動攻擊。布雷德斯補(bǔ)充說：“主動攻擊權(quán)仍然不能賦予機(jī)器，至少不能被任何文明世界的個人給機(jī)器。”
謝爾強(qiáng)調(diào)稱，戰(zhàn)爭法本身并不禁止自主武器，這是一個事實。不過，他也警告稱，讓此類設(shè)備遵守目前共同接受的規(guī)則，是一個巨大的挑戰(zhàn)，即便這一切成為現(xiàn)實，自主武器仍然提出了嚴(yán)重的倫理和道德挑戰(zhàn)，也存在技術(shù)方面的隱憂。
謝爾說：“假定我們能建造出有道德的機(jī)器人，它們能遵守這些法則，但還是存在另一個隱憂，那就是，我們?nèi)匀粺o法建造任何不被攻擊的系統(tǒng)。”
面臨被攻擊和劫持的威脅
即使現(xiàn)在的“當(dāng)紅炸子雞”無人機(jī)本身也非完全安全。2011年，伊朗軍隊宣稱“劫持”了一架美國尖端的RQ-170隱形無人機(jī)。盡管美國軍方否認(rèn)，但這也說明遠(yuǎn)程設(shè)備很有可能被攻擊。
簡氏信息集團(tuán)下屬的《國際防務(wù)評論》雜志的編輯胡武·威廉姆斯說：“科學(xué)家們一直在努力，希望通過加固數(shù)據(jù)鏈接的‘加密’程序來使其與操作員之間的連接變得更安全。但是，沒有加密方法是完美無缺的，盡管現(xiàn)在的加密程序的安全性已經(jīng)極高，但數(shù)據(jù)鏈接仍然可以被攻破；而且，也有人在不斷想方設(shè)法破壞對遠(yuǎn)程系統(tǒng)的控制。”
正如一直有聯(lián)網(wǎng)汽車會被攻擊的報道那樣，立法人士擔(dān)心，某些人可能會對無人武器系統(tǒng)發(fā)動攻擊。弗若斯特&沙利文咨詢公司航空航天和國防領(lǐng)域資深分析師邁克爾·布雷德斯說：“我們打算對包括無人機(jī)在內(nèi)的更多人工智能遠(yuǎn)程系統(tǒng)進(jìn)行核查。這些系統(tǒng)配備的激光雷達(dá)、聲學(xué)傳感器等傳感設(shè)備的先進(jìn)性與日俱增，且與我們在目前的自動汽車內(nèi)看到的大相徑庭。”
布雷德斯說：“盡管我們現(xiàn)在正努力確保遠(yuǎn)程機(jī)器不被不懷好意的人接管，很多設(shè)備都擁有加密的數(shù)據(jù)連接，但威脅仍然存在。”威廉姆斯解釋稱：“今天的遠(yuǎn)程系統(tǒng)的安全性已經(jīng)非常高，但仍會有人想辦法來破壞它們，來竊奪控制權(quán)、竊奪GPS系統(tǒng)或通過其他手段來破壞對飛機(jī)的控制。”
