不久之前，沙特阿拉伯王國(guó)授予機(jī)器人索菲亞該國(guó)公民身份！而在這個(gè)消息公布之前，沙特就已承諾將投入5000億美元，打造一個(gè)由機(jī)器人和可再生能源推動(dòng)的全新的城市。
身為人類(lèi)，成為一國(guó)公民并享有隨公民身份而來(lái)的一系列權(quán)益是莫大的榮耀，而眼下這種榮耀被授予了一個(gè)機(jī)器。一位在人工智能與自主系統(tǒng)領(lǐng)域具有豐富科研經(jīng)驗(yàn)的教授表示：他所從事的工作是設(shè)法讓這些機(jī)器和系統(tǒng)更值得信賴，但他并不覺(jué)得人類(lèi)社會(huì)已經(jīng)做好了接納機(jī)器人公民的準(zhǔn)備。
賦予機(jī)器人公民身份，象征著對(duì)相關(guān)技術(shù)的高度信賴，然而，該教授認(rèn)為人類(lèi)尚未做好應(yīng)對(duì)機(jī)器人公民所帶來(lái)的社會(huì)和道德疑慮。
索菲亞是何方神圣？
索菲亞是香港漢森機(jī)器人技術(shù)公司研發(fā)的產(chǎn)品。她具有一張可以表情達(dá)意的女性面孔，會(huì)說(shuō)英語(yǔ)，能講笑話，還能夠與人進(jìn)行有意義的對(duì)話。它的創(chuàng)造者是2007畢業(yè)于德克薩斯大學(xué)的大衛(wèi)·漢森博士。
索菲亞這個(gè)名字很容易讓人聯(lián)想到1986年上映的電影《霹靂五號(hào)》中第一個(gè)拿到美國(guó)公民身份的機(jī)器人。但是，霹靂五號(hào)僅僅是一個(gè)構(gòu)想，是由科幻喜劇小說(shuō)家威爾森和布倫特·馬多克想象出來(lái)的！
不知這兩位編劇能否想象得到他們的劇本在大約30年后變成了現(xiàn)實(shí)呢？
賦予索菲亞公民身份的風(fēng)險(xiǎn)
現(xiàn)在，公民——一個(gè)國(guó)家給予其人民最崇高的一種身份特征——這個(gè)身份正面臨威脅。有研究人員表示，科學(xué)家們打造的自主系統(tǒng)必須能夠值得信賴，但目前的技術(shù)尚未成熟。
在機(jī)器人能夠真正獲得人類(lèi)信賴之前，依然有許多挑戰(zhàn)需要克服。舉例來(lái)說(shuō)，目前仍缺乏一個(gè)可靠的機(jī)制去確保這些智能系統(tǒng)遵循人類(lèi)的道德規(guī)范行事，或是能夠保證機(jī)器人不做出引發(fā)人類(lèi)浩劫的舉動(dòng)。
現(xiàn)在賦予機(jī)器人索菲亞公民身份是一個(gè)輕率的決定，我們需要考慮下面三種問(wèn)題。
首先是身份定位的問(wèn)題。我們每個(gè)人都擁有獨(dú)特的身份標(biāo)記，用以與其他人區(qū)分開(kāi)來(lái)。當(dāng)在機(jī)場(chǎng)快速通關(guān)時(shí)，我們并不需要與工作人員進(jìn)行過(guò)多的交流，臉部影像、虹膜以及指紋等信息可以實(shí)現(xiàn)自動(dòng)辨識(shí)。
索菲亞的身份識(shí)別從何而來(lái)呢？她的物理地址？還是一個(gè)條形碼呢？她皮膚的一個(gè)特殊標(biāo)記？還是她講話時(shí)的聲音特征呢？或者又是類(lèi)似人類(lèi)腦電波的電磁信號(hào)呢？
雖然通過(guò)這些措施或者其他的一些技術(shù)手段來(lái)對(duì)索菲亞進(jìn)行身份識(shí)別都是可行的，但是這些方法都沒(méi)有體現(xiàn)索菲亞的個(gè)體特性——它們不過(guò)是在硬件層面上建立區(qū)分度。那索菲亞的個(gè)體特性又體現(xiàn)在哪兒呢？
個(gè)體身份是一個(gè)多維的概念，是由我們的生物特性、認(rèn)知意識(shí)，以及我們所有的經(jīng)驗(yàn)、文化與環(huán)境背景所共同定義出來(lái)的。就此而論，索菲亞的身份定位非常模糊。
其次是法律權(quán)利的問(wèn)題。假設(shè)索菲亞獲得了公民的投票權(quán)。那么在選舉的那一天，做出投票給誰(shuí)決定的人，到底是索菲亞？還是打造她的機(jī)器人公司呢？
如果說(shuō)索菲亞是獨(dú)立于機(jī)器人公司以外的法律個(gè)體，那么索菲亞似乎也應(yīng)該像其他人一樣繳納收入所得稅吧。同時(shí)，索菲亞也應(yīng)該像其他公民一樣享有受法律平等保護(hù)的權(quán)利。
再比如一名警察看到索菲亞和另一名女子同時(shí)受到攻擊，警察只有能力保護(hù)其中一個(gè)人，那么他該去救誰(shuí)呢？如果警察因發(fā)現(xiàn)索菲亞“坐在輪椅上”且毫無(wú)自衛(wèi)能力而決定去救她而放棄了另一名女子，這樣又是否正確呢？
目前，人工智能學(xué)界仍處于討論人工智能技術(shù)的設(shè)計(jì)和使用規(guī)范的階段，法律問(wèn)題根本就還沒(méi)有機(jī)會(huì)觸及。
包括了23條準(zhǔn)則的阿西洛馬人工智能原則就涉及到故障透明性原則（如果一個(gè)人工智能系統(tǒng)造成了損害，那么造成損害的原因要能被確定）、價(jià)值歸屬原則（高度自主的人工智能系統(tǒng)的設(shè)計(jì)，要確保他們的目標(biāo)和行為在整個(gè)運(yùn)行中與人類(lèi)的價(jià)值觀相一致）、以及遞歸自我改善原則（被設(shè)計(jì)成能夠以一種快速提升質(zhì)量和數(shù)量的方式進(jìn)行遞歸自我升級(jí)或自我復(fù)制的人工智能系統(tǒng)，這種方式必須受制于嚴(yán)格的安全和控制標(biāo)準(zhǔn)）等等。
最后還有社會(huì)權(quán)利的問(wèn)題。作為一個(gè)公民，索菲亞擁有與人類(lèi)類(lèi)似情感反應(yīng)，如果她自己有意愿“結(jié)婚”或“生子”的話，可以被允許嗎？來(lái)自北達(dá)科他州立大學(xué)的學(xué)生已經(jīng)開(kāi)始嘗試打造一個(gè)借助3D打印技術(shù)進(jìn)行自我繁殖的機(jī)器人。
如果在世界上有越來(lái)越多的機(jī)器人像索菲亞一樣成為各國(guó)公民，或許他們就會(huì)要求自身繁衍的權(quán)利，繁衍出來(lái)的機(jī)器人也將會(huì)是公民。如果對(duì)機(jī)器人的繁衍沒(méi)有設(shè)下限制，它們的數(shù)量很快就會(huì)超過(guò)人類(lèi)的數(shù)量。
作為具有選舉權(quán)的公民，這些機(jī)器人可以推動(dòng)社會(huì)的改造，修改法律，再過(guò)不久人類(lèi)就會(huì)發(fā)現(xiàn)事情的演變，遠(yuǎn)超乎他們意料。所以，在發(fā)展人工智能的同時(shí)，我們還應(yīng)該考慮這可能帶來(lái)的一系列社會(huì)倫理問(wèn)題。
