首位機器人公民！沙國頒發證書 AI專家憂：人類還沒準備好 鏡週刊 ETtoday 20171106

沙烏地阿拉伯頒發公民證書給索非亞機器人！在上週這項宣布之前，沙國已承諾將投入5,000億美金，打造一個由機器人與可再生能源推動的城市。

成為一國公民並享公民權益，是人類最大的榮耀之一。身為一名專研人工智慧與自主系統的大學教授，我的工作是設法讓這些系統更值得信賴，而我相信現今的人類社會還沒有準備好接納機器人公民。

給予機器人公民身分，象徵著對機器人的信賴，而我認為目前的機器人技術仍不值得信賴。對於機器人所衍生的社會與道德疑慮，人類還沒有好因應處理的準備。

索菲亞是何方神聖？

索菲亞是香港的漢森機器人技術公司所開發的產品。她具備一張可以表情達意的女性臉孔，會說英語，會講笑話，有能力和人進行有意義的對話。

索菲亞的創造者是大衛漢森博士（David Hanson），他在2007年於德州大學取得博士學位。

索菲亞讓人聯想到「霹靂五號」（Johnny 5），也就是1986年那部電影裡第一個拿到美國公民身分的機器人。但霹靂五號只是電影，是科幻喜劇寫手威爾森（S. S. Wilson）和布蘭特麥達克（Brent Maddock）憑空想像的虛幻情節。

這兩位編劇能否想像他們的劇本竟在30年後成真？

公民權的風險

在我看來，公民權是一個國家所能給予其人民最崇高的一種身分權利，但現在這個身分卻面臨存在危機。

我一向主張科學家打造出來的自主系統，必須能夠讓人信賴。而我很清楚目前的技術仍未成熟。

在機器人取得人類的信任之前，仍然有許多的挑戰須克服。舉例來說，目前仍缺乏一個可靠機制可以確保人工智慧系統依循人類的道德規範行事，或是能夠保證機器人不做出引發人類浩劫的舉動。

我認為現在給予機器人索菲亞公民權是一個輕率的決定，原因有三：

一、個體身分

公民地位的賦予對象，是一個獨特的個體。

我們每個人都擁有獨特的身分標記，用以區別人我。當我們在機場快速通關時，我們的身分是透過臉部影像、虹膜以及指紋來辨認。我的博士班學生曾經用腦波的波形，來辨識人的身分。

索菲亞的身分從何而來？是她的網路位址嗎？還是一個條碼？一個特殊皮膚印記？她講話時的聲波記號？還是類似人類腦波的電磁訊號？

我認為，個體身分是一個多面向的概念，是由我們的生物特徵、認知意識，以及我們所有的經驗、文化與環境背景所共同定義出來的。依此概念，索菲亞的身分定位非常模糊。

二、法律權利

純粹為了討論之便，我們假設索菲亞獲得了公民的投票權利。在選舉那一天，做出投給誰的決定的人，到底是索菲亞？還是打造她的機器人公司？

如果說索菲亞是獨立於機器人公司以外的法律個體，那麼索菲亞似乎也應該像其他人一樣繳交所得稅。

索菲亞也應該像其他公民一樣，受到法律平等對待的保護。

想像一下這個假設場景：一名警察看到索菲亞和另一名女子，同時受到攻擊。警察只有能力保護其中一個人，那麼他該去救誰呢？如果警察發現索菲亞是用輪子移動，毫無自衛能力而決定救她而不救另一名女子，這樣對嗎？

人工智慧產學界目前仍停留在討論機器人的設計和使用規範的階段，法律問題根本就還沒有機會觸及。

最近提出來的一套規範，是列有23條準則的阿希洛馬人工智慧原則（Asilomar AI Principle）。準則中包括了「故障透明度」（如果機器人造成損失傷害可以判定原因）、「價值校準」（讓機器人的工作目標符合人類價值），以及「遞迴自我改善」（對擁有自我複製能力的機器人設下嚴格的安全限制與控管措施）等。

三、社會權利

還有親密關係與繁殖的問題。

擁有情緒反應的索菲亞機器人做為一個公民，可以被允許「結婚」或「生子」嗎？北達科達大學的學生已嘗試打造過一個能夠用3D印表機進行自我複製的機器人。

如果有越來越多機器人像索菲亞一樣成為各國公民，或許他們就會開始要求繁衍的權利，複製出來的機器人也將會是公民。如果沒有對機器人的繁衍設下限制，機器人的數量很快就會超越人類的數量。

作為公民，這些機器人可以推動社會的改造，修改法律，再過不久人類就會發現事情的演變，遠超乎他們意料之外。

本文已獲作者授權。原文〈一位人工智慧教授的解說：授予公民權給機器人索菲亞的三大疑慮〉（An AI professor explains: three concerns about granting citizenship to robot Sophia）刊載於《The Conversation》，作者Hussein Abbass為澳洲國防大學教授。