提案中建議,設(shè)計(jì)師們應(yīng)該確保任何機(jī)器人身上都裝有“關(guān)閉開(kāi)關(guān)”,在必要時(shí)候,允許人類(lèi)關(guān)閉機(jī)器人功能。與此同時(shí),機(jī)器人用戶應(yīng)該在沒(méi)有危險(xiǎn)或擔(dān)心受到心理或生理傷害的情況下使用機(jī)器人。提案中稱(chēng),機(jī)器人、聊天機(jī)器人以及其他人工智能機(jī)器正準(zhǔn)備發(fā)動(dòng)新的工業(yè)革命,任何社會(huì)階層都將受到影響。
科幻作家艾薩克·阿西莫夫(Isaac Asimov)曾提出機(jī)器人三原則,即當(dāng)機(jī)器人擁有自我意識(shí)后,它們應(yīng)該如何行事。機(jī)器人三原則包括:1.機(jī)器人不得傷害人類(lèi),或看到人類(lèi)受到傷害而袖手旁觀。2.機(jī)器人必須服從人類(lèi)的命令,除非這條命令與第一條相矛盾。3.機(jī)器人必須保護(hù)自己,除非這種保護(hù)與以上兩條相矛盾。
與此同時(shí),機(jī)器人研究應(yīng)該尊重基本權(quán)利,并為人類(lèi)謀福祉。設(shè)計(jì)師可能被要求為機(jī)器人進(jìn)行登記,同時(shí)在機(jī)器人造成的意外或損失調(diào)查中提供源代碼。設(shè)計(jì)師在進(jìn)行最新機(jī)器人研究時(shí),可能需要獲得研究倫理委員會(huì)的批準(zhǔn)。提案呼吁創(chuàng)建歐洲機(jī)器人和人工智能機(jī)構(gòu),以便提供技術(shù)、倫理以及監(jiān)管等方面的指導(dǎo)。
有許多報(bào)道稱(chēng),大量工作將被人工智能或機(jī)器人取代,歐盟成員國(guó)應(yīng)該考慮為本國(guó)公民引入普遍的基本收入保障機(jī)制。提案還呼吁機(jī)器人承擔(dān)法律責(zé)任,并建議它們承擔(dān)的責(zé)任應(yīng)該與機(jī)器人的實(shí)際指令水平和自動(dòng)化程度成正比。提案中稱(chēng):“機(jī)器人的學(xué)習(xí)能力或自動(dòng)化程度越高,其他方需要承擔(dān)的責(zé)任就越小。機(jī)器人受訓(xùn)的時(shí)間越長(zhǎng),其導(dǎo)師應(yīng)該承擔(dān)的責(zé)任就越大。”
將來(lái),機(jī)器人的制造者或主人可能要為他們機(jī)器人造成的潛在損壞投保。如果歐洲議會(huì)投票通過(guò)這部提案,還需要各成員國(guó)進(jìn)行進(jìn)一步辯論和修改,最后才會(huì)成為歐盟法律。