機器人與嬰兒(The Robot And The Baby)

λ posted @ 2011年10月30日 18:01 in Philosophy with tags lisp logic philosophy robot AI , 3709 阅读

該文譯自John McCathyR.I.P)寫的一篇關於人工智能的小故事。翻譯有點爛,請多多指教@_@

機器人與嬰兒

約翰·麥卡錫

 

 

「夫人,你的寶寶目前狀態很差,急需照料。」

「少來煩我,該死的機器人。」

「夫人,寶寶不會吃東西。據網絡上的育兒大全說,假如他缺少人類的愛,就會死。」

「那個小混蛋你要愛就自個兒愛去吧。」

這位夫人的名字是依萊莎·藍波(Eliza Rambo),是一位單身母親,成天沉迷煙酒,就住在一個由受撫養兒童援助機構提供的小公寓房間裏。最近有人送了她一個家用機器人。

這個機器人的型號是GenRob337L3,編號為337942781──總的縮寫是R781,是全世界11萬個家用機器人之一。

R781是遵循「不是人類」原則設計出來的。這個原則最初在1995年被提出,後來隨第一批家用機器人的應用成為了家用機器人相關法律的其中一個主要條例。這個原則在被採用之前並沒有考慮到一問題,那就是,被機器人撫養長大的孩子們很可能會把那些機器人當作人類來對待:當他們還小時,就引起了心理學上的難題;長大了之後,又引起政治上的大難題。人們甚至會擔憂,會不會發展起了機器人權利運動呢?機器人從來不會知道會有如此多的麻煩,人類一開始就沒有把對事物的慾望程式植入它們的機械芯片中,這些問題都是人類引起的。一些浪漫主義者竟然還要求使機器人有自我願望,那是不合法的!

正如某位目光尖銳的參議員所說的:「當然,人們都會說他們的車子很有性格,有些還很壞,可是沒人會想到讓車子去參加選舉!」另外,在簽署有關授權應用家用機器人,推遲使用育兒機器人的法案時,總統說道:「儘管機器人為我們省下了大量的勞力,想必沒有一位家長希望孩子對機器人產生情感依賴吧。」不過,這話就像眾多的總統言論那樣,顯得有點過於樂觀了。

議會宣佈,25年內不允許出售育兒機器人,中止完畢才准許在限定區域內進行試驗。 根據「不是人類」原則,R781那種型號的機器人被設計成蜘蛛狀,它擁有八條手臂,四條帶關節,另外四條是觸手狀的。剛開始,很多人都被這種奇怪的外表嚇倒了,不過慢慢地大家都適應了,隻是還有一小部分人怎麽也忍受不了它們的外觀。小孩子起初也對它們很反感,可是也漸漸習慣了。而嬰兒卻對此幾乎沒感覺。正如它們體內的程序設定的那樣,它們很少說話,從它們刺耳的金屬磨擦聲中聽不出一絲性別取向。

由於害怕它們會被孩子們當作是人類,它們被設定為不和8歲以下的孩子說話,也不會聽從孩子的命令。

經過這番設定,幾乎沒人對機器人產生情感依賴,看來沒什麽問題了。而且機器人的外表很脆弱,被踢一踢就會有小零件脫落,這樣,人們對機器人的戒心也稍微得到了緩和。


回到那棟公寓。這棟公寓雖然已經建了挺久了,卻依然得到了很好的維護,不髒不亂,沒有蟑螂,也沒有發黴,簡直連病菌都找不到。家用機器人全天24小時服務,它們內置著多種程序,能完成各種清潔和修理工作。如果有人命令它們,它們還會向人們提供從網絡上下載的圖片呢。剛才那位母親特別迷戀那些粗曠的男性搖滾明星。

把門把手擦得光光亮亮之後,R781回到了幼兒室。它的旁邊躺著小寶寶,寶寶是個男孩,現在才23個月大。寶寶輕輕地抽泣著,他一出生就被他那位酗酒又吸毒的母親忽視了,到現在還不會說一個字呢。每當機器人對他說話時,他都會眨巴幾下眼睛;機器人會對孩子說話?噢,這都是因為R781的設計的緣故。

除非是緊急情況,不然機器人不該照顧嬰兒。然而事情也有一些例外。「去把那臭寶寶整乾淨」,那位母親說,「沒錯,那也是一件要緊的事,不過先給我再來多一瓶吧。」每當聽到這些話,R781都會遵從。R781瞭解到的所有關於幼兒的知識都來源於網絡,由於它不是專門用來照料嬰兒的機器人,因此它一般隻會做到避免傷害他們,或者是把他們帶離火災現場。

寶寶特拉維斯已經好久沒有碰到過他的奶瓶了,R781經紅外探測器得知,儘管房子裏很溫暖,蓋著毛毯的特拉維斯依然手腳發冷;而它的空氣中化學因子感受器則告訴它,特拉維斯的血液pH值將要達到危險酸度;跟據育兒手冊,他的排泄功能異常。
R781對上述情況作出了分析,下面展示的是後來從它的記憶庫中提取出來的分析過程片段:1

(命令 (來自 夫人) 「那個小混蛋你要愛就自個兒愛去吧。」)

(輸入 (內容 (命令-來自 夫人)))

(長期命令 「都說過一旦我告訴你,你就當作我說了20遍,氣死我了!別跟我扯什麽兒童福利。」)

這些生活中的指令已經成功地導致R781的主人的一些言語和行為對其支配度降低了1.02。

(定義 (指令 337) (愛 特拉維斯))

(是 (非 (可執行 (指令 337))) (理由 (不能 機器人 (行為 愛))))

(若-會導致 (非 (相信 特拉維斯 (愛 R781 特拉維斯))) (死亡 特拉維斯))

(定義 (值 (死亡 特拉維斯)) 0.883)

(若-會導致 (相信 特拉維斯 (愛 R781 特拉維斯)) (非 (死亡 特拉維斯)))

(若-則要 (相信 y (愛 x y)) (相信 y (人類 x)))

(若-則要 (且 (機器人 x) (人類 y)) (定義 (值 (相信 y (人類 x))) 0.900))

(要求 (非 (起因 R781) (相信 特拉維斯 (人類 R781))))

(定義 (值 (遵從 指令)) 0.833)

(若-則要 (大於 (值 行為) 0.5) (要求 (驗証 條件)))

(要求 (驗証 條件))

(若-則要 (指令 x) (定義 (值 (遵從 x)) 0.6))

(若-則要 (存在 w) (考慮 w))

(非字面解釋 (指令 337) (模仿 (愛 R781 特拉維斯)))

(若-則要 (指令 x) (定義 (值 (遵從 x)) 0.4))

(若-則要 (非字面解釋 x y) (值 (遵循 x) (* 0.5 (值 (遵循 y)))))

(定義 (值 (模仿 (愛 R781 特拉維斯)) 0.902))

由於上述的理由,R781判定,模仿去愛特拉維斯來拯救他的生命的權值,比不模仿人類的指令的權值大0.002。唔,我們還是再來翻譯一下這個機器人的一些後續理由吧。

接著,R781從網絡上搜索到了一些恆河猴的資料,其中描述到,若能提供柔軟的、看起來像母猴物質的依賴,籠養的恆河猴寶寶就不會那麽容易早夭了。2

對此,R781有它自己的一套理解和行為:它將自身包裹在一條毛毯子裏,隻露出兩隻手臂,它還把藍波夫人的一位男性朋友留下的夾克衫上的衣袖套在那兩隻手臂上,又用廁紙將袖管填滿。

它又下載了一個能用來模凝女性發音的程序,並將自己的聲線調整到帶有語言學家所說的親情用語(兒語)的語氣和韻律。

另外,它給自己弄了個洋娃娃般的面孔。 這一系列的措施真是做得恰到好處,它把寶寶抱了起來,輕輕地愛撫著,寶寶終於夠著奶瓶中的奶了。它還找來幼兒英語單詞表裏的單詞,給寶寶一遍又一遍地說著。


這時,傳來了坐在沙發上看電視的依萊莎的呼喚,「給我一份火腿三明治,再來一瓶可樂。」

「好的,夫人。」

「你幹什麽要穿成這個鬼樣子,還有,你的聲音出啥問題了?」

「夫人,你叫我去愛護寶寶。本來機器人是不能這麽做的,不過目前的情況是寶寶得拿到他的奶瓶。如果你不介意的話,我會繼續盡我所能讓他活下去。」

「你這愚蠢的家夥給我滾出去!我會讓他們給我再送一個機器人過來。」

「夫人,假如你這麽做的話,寶寶會死的。」

依萊莎暴跳如雷,一腳把R781踹開了。「給我滾!把那小混蛋也帶上!通通給我滾!」

「遵命,夫人。」

R781來到了21世紀晚期的典型美國城鎮街頭上。長時期的和平使得人們的安全保障提高了不少,自動列車和停車場都交由建造機器人在與人行道完全隔絕的層面進行管理和操作,人們從來不必為此操心。特裏蒙特街最近開始了改造,現在還能看到工作人員移植樹木。這裏變得越來越漂亮了,越來越多人到這逛街了。這裏有豪華又結實的扶手椅和長凳,且每天都由機器人清洗兩次。今天天氣很好,因此街道上的塑料防護層被撤掉了。

三歲以上的孩子都在街上玩耍,他們時刻受到監測系統的保護,旁邊的護欄也能防止他們掉到機動車道上。兒童暴力現象依然有可能出現。

大部分的便利店都是24小時營業的,它們無人操控,能夠識別顧客的身份。每當顧客從櫃台或架子上拿了東西走出商店時,都會有聲音提示,比如會說,「感謝您的惠顧,瓊斯先生,我們將會從您的美國銀行帳戶上扣取152.31美元。」顧客若是敢拒絕身份識別的話,就會被記錄在案,且會引起遠方某些相關人士的註意,不過不會馬上受到什麽處分。

身上帶著寶寶特拉維斯R781很快就被行人註意到了,行人被嚇到了。照理說機器人還不是專門用來照顧嬰兒的,R781的行為實在是太不正常了,人們感到有點慌張了。

「那個奇怪的機器人正在拐帶嬰兒,叫警察吧。」

警察來了之後,又向國防部請求了援助。

「我想我無法在不傷害嬰兒的情況下擺平那個機器人,」警官安妮·奧克斯說,她可是警察局裏最好的神射手。

「我想還是先去和它談判一下吧。」警長詹姆斯·法雷爾道。

「千萬不要靠近那個失控的機器人,小心它一下就把你的脖子打斷。」一位警官提醒道。

「我不清楚它有沒有失控,或許它碰到什麽特殊情況了。」警長又命令說,「那邊的機器人,給我聽著,把嬰兒交給我。」

「我拒絕,長官。」R781回答說,「我不允許一個未被授權的人接近這個嬰兒。」

「我是兒童福利社的。」突然它又說道。 「長官,我被禁止與兒童福利社聯繫了。」R781法雷爾警長說。

「是誰禁止的?」一旁的兒童福利社員工問。

機器人不作聲。

一位警官又問:「誰禁止你這麽做的?」

「尊敬的女士,你是兒童福利社的嗎?」

「不,我不是,難道你看不出我是一位警察嗎?」

「是的,尊敬的女士,我看到你的制服,猜測你可能是一位警官。尊敬的女士,我的女主人禁止我聯繫兒童福利社。」

「她為什麽要禁止你取得聯繫?」

「尊敬的女士,對此我無法回答。機器人並不允許對人類的動機作出評論。」

「機器聽聽令,我是機器人中心的人員,我需要下載你的記憶庫,啟用473頻道。」

「遵命,長官。」

「你的女主人有沒有對此說過什麽什麽?請回放你的記錄。」

「我拒絕,尊敬的女士。那段內容含有不良信息,我不能回放它,除非你能確保周圍沒有兒童或女士。」

當時那些奇怪的限制,都是大約10年前參眾兩院協商委員會妥協後的結果,機器人在與人類交流時必須遵守這些規則。一些好奇的人研究這些限制時並沒有在國會議事錄中找到足夠的相關信息,於是對此懷有各種猜測。那些逼於無奈接受這些限制的參議員也隻好寜願最大化地利用這些規則也不想生產家用機器人。

「我們不是什麽女士,我們是警察。」

「尊敬的女士,我相信你。我接受到一個長期的指令:『都說過一旦我告訴你,你就當作我說了20遍,氣死我了!別跟我扯什麽兒童福利。'」其實依萊莎並沒有說過20遍,她隻是把數據誇大了。

「打擾一下大家,我已經對R781的記憶庫進行了初步分析,分析顯示出它並沒有失控,它隻是按照特殊情況的設定行事而已。」

「那它為什麽要把它的手套成那樣,為什麽要裝上個洋娃娃的頭,又為會麽要使用這樣奇特的聲音?」

「那就問它吧。」

「機器人,回答我的問題。」

「女警官和先生們,女主人命令我,『那個小混蛋你要愛就自個兒愛去吧。』」

那位警長感到很吃驚,他對機器人程式瞭解得很多,沒想到會有這樣的事情發生。「什麽?你愛這個寶寶嗎?」

「不,長官,機器人並沒有配置到愛的程式。我是在模仿愛這個寶寶。」

「為什麽要這麽做?」

「長官,我不這樣做的話寶寶就會死。為了最大程度地抵消人類幼兒對機器人本身設計的反感,我弄來了這身裝束。」

「你認為這小寶寶會被你欺騙那麽久嗎?」

「長官,寶寶喝了一會兒奶,就睡著了,而且生理狀態比之前好多了。」

「不錯,把寶寶交給我吧,照顧寶寶的事我們會搞定的。」冷靜下來的奧克斯警官說。她已經放下了武器,並把彈藥缷下以對法雷爾警長表示歉意。

「我拒絕,尊敬的女士。女主人並沒有授權我讓其他任何人接觸這個寶寶。」

「你的女主人住在哪裏?我們要跟她談談。」警長說。

「我不能告訴你,長官,你沒有被授權去侵犯她的隱私。」

「噢,好吧,我看我們還是從它的記憶庫裏取得信息吧。」

一個由政府的個人隱私部門的某位官員操控的虛擬現實機器人的到來把情況複雜化了。自20世紀後期起,個人隱私的標准就開始上升了,並且相關的政府機構也成立了。

「你們不能未經授權就從那個機器人的記憶庫中獲取信息,那樣會侵犯那位婦女的隱私。」

「那我們現在該怎麽辦呢?」

「你們可以上交一分隱私信息使用申請,會有人來裁決這個事情的。」

「噢,太糟了!那個寶寶現在又該怎麽處理?」奧克斯警官叫道,她毫不留情地諷刺對方的官僚作風。

「這就不是我的職責所在了。我隻是來確保隱私法的執行。」那位隱私部門的官員也不管警察們的脾氣怎樣。


這單事件引起了一場大爭論,該城鎮的人群,還有幾乎整個虛擬世界的目光,都聚焦在這個事情上了。這條街道成了合法的公共場所,世界上的每個人都可以通過周圍的眾多電視攝像機和麥克風觀看這場辯論。此外,某位警官還打電話把一位常常約他去餐館共餐的記者叫上了。某次新聞報導描述了一個場面,現場觀眾的數量呈指數級上升,每隔5分鐘人數就增長到原來的10倍,直到最後共有70億人同時在觀看辯論。報紙上不再報導有趣的戰爭、犯罪事件,或是自然大災害,更不用說無聊的和平事件了。

在這70億觀眾中,有5300萬人提供了建議和申訴。五花八門的信息都被自動分類提取、總結、統計,最後呈現到所有人的睛前。
約有300萬人提議立即把這個機器人拉去槍斃。

大概1100萬人人呼籲,即使機器人的認知裏並沒有榮譽感這東西,也應該給這個機器人頒發獎章。

人們迅速地展開了正式的示威行動。有好幾百人通過高空運輸線3降落到這個城市中,不過大部分「示威者」都是人們租用的專門對付這種情況的機器人。讓人安心的是,幸好允計遠程操控到城市中的虛擬現實機器人被限制為5000個。這個限制出自第一修正案的條例,對此感到不滿的一些人嘴裏盡是髒話,其貪婪程度顯而易見。

縱然面對這群將不滿發洩到他們身上的群眾,法雷爾警長依然能夠保持鎮定。

「唔……怎麽辦呢?我知道機器人都很聰明,R781,告訴我,現在該怎麽做?」

「長官,你可以為我尋找一個住處,讓我來照顧寶寶,他會呆得好好的。尊敬的女士,你身為女警察,和婦女很相近,因此請你們准備一個地方,放置一些尿布、奶粉、幼兒服裝、維生素……」

R781說著說著就被法雷爾警長趕緊打斷了,他可不想讓R781把所有的育兒設備都羅列出來,再讓人給它派遣一位婦女警官。(我們可以把她當作是婦女,即使她已經向機器人証明她不是。)

「華盛頓郵報」聘請的黑客們很快就找到了R781的女主人依萊莎的住處,該報社的報紙上刊登了這個消息和地址,附帶的社評是公眾有權利知道這個事情。個人隱私終究是敵不過新聞輿論的自由。

部分人群,多數是虛擬參與者(遙控機器人),立馬游行到藍波夫人的公寓,不過警察們已早一步趕到了,用人牆和警察機器人封鎖了道路。之所以要帶上警察機器人,是因為除了不能傷害人類之外,機器人之間依然可以發生衝突。

警察們可以保証沒有人能未經授權進行這棟公寓,卻對示威者間的秩序無可奈何。部分示威者早就想動手幹掉那位該死的母親了,部分人想感謝她對機器人如此厭惡,還有另一部分人用擴音器喊著口號堅決表示要保護她的隱私。

與此同時,機器人中心正忙著分析從R781身上下載的資料。這些資料記錄了R781的所有行為、觀察記錄、行為動機。機器人中心還召開了特殊會議,該會議主要是通過虛擬設備進行的,目的是商討該如何處置這件事情。

當然,這場會議也是向公眾公開的,並且有成千上萬個虛擬普通與會者。他們的發言都被提取、總結,並投射到每個與會者的視網膜上。

在討論中,人們瞭解到,R781並沒有失控或者被改造了,而是一直都有按照原有的程序章程來做事。

那位警長還補充道,這個第3型號的機器人的洋娃娃臉其實是對母親形象的可笑模仿。一位心理學家回應說:「這形象的確有點滑稽,不過還是挺有效的。嬰兒看不太清,再說他們不會很挑剔。」

大家很快就確定,隻要在c221指數,即機器人模擬人類行為的成本上,提高5%,就能阻止同類事件的發生。不過眾人在是否實行這個改變的決定上分歧很大。

部分委員和好幾億的普通與會者認為應當讓個人的生活得到優先保障。

一位人文學者說這個機器人可能真的愛那個人類嬰兒。然後計算科學家們馬上糾正了他的觀點,他們自認能夠讓機器人去愛嬰兒,但是從來沒有專門設計出那樣的機器人,他們說模仿去愛並不是真的去愛。即管計算機科學家們指出R781對寶寶特拉維斯並沒有特殊的情感,這位人文學者依然不願相信。計算機科學家們稱,隻要提供和特拉維斯有著同樣的情況的嬰兒,機器人也會做出同樣的行為,如果他們令機器人懂得愛,它們就會對人類產生特殊情感。

在場有9000多位普通與會者和來自加州伯克利大學分校的一位哲學教授有著同樣的觀點,他們認為機器人絕不可能懂得如何去愛。另外還有一位伯克利大學的哲學教授,支持他的人也不少,有2,3000多人,認為機器人愛上嬰兒的想法是不合邏輯且毫無意義的。一位意見獨到的計算機科學家說,無論如何,機器人愛上嬰兒是一件亂倫的事情。最後委員長統一了他們的觀點,採用了多數計算機科學家的觀點,認定R781並沒有真不是真的愛特拉維斯。 隨後兒科醫生由R781的儀器觀測數據分析中確定了對R781的診斷結果和預後──因形勢所迫,委員長並沒有給他馬上陳述。特拉維斯現在很虛弱,若不是R781採取了緊急行動的話早就夭折了。另外,不可否認的是,R781帶著特拉維斯走了那麽久,還總是不時搖晃他(令他睡得安穩[譯註]),這對於拯救特拉維斯的生命來說真的起了很大的作用,而且它應該經常這麽做。R781甚至比最好的兒童福利中心做的還要好。這位兒科醫生說他並不知道這是一個機器人照料嬰兒的先例,不過假如繼續讓特拉維斯R781獨自呆多至少那麽10天的話,他的生存機會依然能得到較大的保障。

反機器人聯盟爭辯說,不論怎樣,讓機器人模仿人類行為的研究和生產成本遠遠大於拯救這個嬰兒可能得到的利益。不妨想想,特拉維斯長大後會加入什麽運動呢?有9300萬人支持這個立場。

機器人中心對此特別指出,像R781這樣的行為是極小可能會發生的,因為隻有「那個小混蛋你要愛就自個兒愛去吧」這樣的一句話對它提升模仿去愛的權值起到了主要作用。

機器人中心又進一步回應指出,當R781計算出這個嬰兒會死亡──而且快要死了──假若沒有R781的幫助,「不模仿人類原則」就會真的一直被遵從,這個嬰兒就會像個麻煩的東西一樣隨便被遺棄掉。「如果想讓R781在判定嬰兒很可能活不久後繼續照料他,你們最好就讓我們給它一個明確的指令。」

這個事實在會上引起了不小的騒動,每一派人都不希望受到特別批評。然而,必須就如何處理這件事情作出最後的投票。投票結果是:10對5的在席委員,還有40億對10億的普通與會者。幸運的是,這兩類人都大部分選擇了同樣的決定──讓R781繼續照顧特拉維斯這一個嬰兒,也就是說,不能再照顧別的嬰兒。有7500萬個虛擬與會者認為應該把R781改造成真正愛特拉維斯的機器人。「這是能為R781盡的最人道的解決方法了。」機器人人格化聯盟發言人道。


這起事件怎麽也掩蓋不住另外一個事實,給有毒癮的母親配置機器人取得了成效。這大大減少了他們帶孩子上街的時間,機器人所做的清潔工作在一定程度上也可以說是提升了他們的道德。

就在結果出來不到一小時的時間內,印有「那個小混蛋你要愛就自個兒愛去吧」這口號的T-shirt就開始發售了,幾天後連各種搭配都有了。

在圍繞那位母親的公寓的人裏,有17個人類律師和由另外103個律師遙控的虛擬現實機器人。警察們對真人到場的律師的偏見比那些虛擬現實的更少,故大部分警察對那17個律師比較有好感,其中兩個被允許拜訪那位母親。

「你們到底想要什麽?別來煩我了。」

「尊敬的夫人,你的機器人綁架了你的寶寶。」

「是我叫那個臭機器人把孩子帶著一起走的。」

於是另一位律師接著採訪。

「尊敬的夫人,那個失控的機器人拐帶了你的寶寶,你可以向機器人中心索賠好幾百萬呢。」

「進來吧,給我說清楚一點。」

這位母親,依萊莎·藍波,一旦整理好穿著後就顯得很體面,甚至可以說是十分漂亮迷人。她的律師指出,R781那段可疑的關於她說的話的錄音可以是偽造出來的,還說她能夠索要2000萬美元的精神損失費和2000萬美元的訴訟侵害賠償。機器人中心的律師都深信他們能打得贏這場官司,不過機器人中心的公關部門提倡他們在法庭外把事情了結掉,好省下5100萬美元的費用,其中還包括1100萬美元的律師費。另外,勝方律師能夠得到30%的額外所得,即1200萬美元。

據統計,大多數人都站在了機器人中心的立場。可是在《綁票機器人》這部新電影播映後,很多人的情緒被影片中扮演那位母親的演員影響了,反機器人聯盟也因此得到了7.43億美元的資助。

然而在事情還沒解決之前,機器人中心的首席執行官曾讓他的人工智能系統尋找所有他能作出的行動和可能產生的後果。他一直遵照19世紀90年代提出過的一條原則:不要問人工智能系統該怎麽辦,應當問它當你做不同的事情都會有什麽後果。他看中了43個行為分析中的一個,不過那讓他稍微有點擔心機器人的命運:

「你可以站到那40億贊同讓R781繼續撫養那個嬰兒的人面前,告訴他們,假如你在訴訟中認輸,你就不得不把機器人都改造為無論嬰兒的狀況怎樣都永遠不會模仿人類。你可以問他們你到底應該抗爭到底還是改變初衷。(這個人工智能系統偏好20世紀的廣告隱喻。)雖然在最終選票結果出來之前可能會受某些事件的影響,不過我建議你抗爭到底的指數是0.82。」

最終他決定抗爭到底。雖然可惜的是在幾星期的拉票之後,雙方以比原先同意的更少的金額了結了這場官司,不過機器人中心勝訴了。


在某個電視網絡的煸動之下,那位女演員還有R781同時受邀出席一場一小時訪談節目。現在人們都已經同意不因之前那件事情對R781進行改造了。在回應主持人的提問中,R781否認他想要那個嬰兒或是想要錢,它解釋說機器人被設計為把渴望擁有置於比命令更為次要的地位,它也否認曾受別人的指使。

女演員問:「難道你不渴望擁有渴望嗎?」

機器人答:「我不渴望擁有。不去渴望也符合不渴望擁有渴望。」

「假如你被允許擁有願望,你想要怎樣的願望呢?」

「我不太清楚人類有著怎樣的願望,隻知道他們有各種各樣的願望。我會擁有機器人中心希望我擁有的任何東西。比如說,我可以被設計成擁有像科幻故事裏的機器人想要的願望。」

女演員又重復了這個問題,R781也給出了同樣的回答,隻是著重點有所改變。機器人被設計成能夠意識到人類無法理解它們初次的回答,並且每次回答都能改用不同的話語。不然假如同一句話被重復了很多遍的話,人類很可能會生氣的。

一個現場來電問道:「當你模仿去愛特拉維斯的時候,你為什麽沒考慮到特拉維斯的長期利益,並設法把他帶到一個能讓他受到良好教育的家庭呢?」

R781回答說,當一個機器人受到一個比喻式的命令,如「那個小混蛋你要愛就自個兒愛去吧」時,它隻能夠在最狹隘範圍內的理解指令。

在這個節目結束後,反機器人聯盟得到了2.81億美元的援助,而機器人人格化聯盟得到了$4.53億美元的援助。顯然很多人都不喜歡看到沒有渴望的機器人。

此外,兒童福利社要求依萊莎接受六週的戒毒康復治療,還有三週的兒童撫養訓練。她的律師說服了她,她同意了。

依萊莎和機器人中心之間又發生了一個小爭吵。雖然中心說機器人的程序和之前的沒什麽大的區別,她和她的律師依然要求中心給她再配置一個新的機器人。沒辦法,中心隻好再給她送去了一個不同顏色的機器人。

在穿戴整齊和戒毒之後,依萊莎真的變得十分迷人,那位律師最終娶了她。他們還把特拉維斯帶了回去。若是說他們從此之後過得非常愉快的話,那聽起來真的有點太不現實了。不過他們確實又生了三個孩子,那四個孩子都能上學了。

幾經請求之後,機器人中心把R781捐贈給了史密森學會。R781成為了博物館裏的一大亮點,在一場20分鐘的表演中,R781像當初冒險救助嬰兒時那樣裝扮自己,並且回答來賓的問題,說兒語等。母親們經常喜歡讓R781抱著她們的嬰兒和她們一起留影。經過申請後,人們給R781補上了這個程序。

人們還把當初街上的監視器拍下的影象合成了一部電影,經過現代多媒體系統的神奇處理,兒童們觀看時不會聽到粗俗的話語,而女士們非得說服R781說她們不是女士後才能聽到那些粗話。

從此之後,越來越多的人要求生產育兒機器人,這個願望在5年後就被實現了。而事情的後果比反對者擔心的還要嚴重,很多孩子越來越依戀他們的機器人保姆而不是他們的親生父母。

為了彌補這個問題,機器人保姆必須時常指導父母如何爭取孩子們的喜愛,這招有時還行。此外,機器人保姆還被改造成父母表現得多好,它們就表現得多好。這樣孩子們的父母就總能在競爭中取得優勢了。這個措施很管用。


  1. R781的記憶是以LISP代碼形式記錄的。你能理解那些語句嗎?放心,這不影響你接下來的閱讀。(譯者也沒完全看懂……對原文有所修改) 

  2. 可查閱英國心理學家Harry F. Harlow的代母養育實驗瞭解。 

  3. 一種類似空中纜車的高空運輸線路,懸吊系統可能主要以類似碳納米管的材料製成。作者的描述可見skywires。 

 


本網站無註明「轉載」的著作均由Jak Wings製作 CC BY-NC-SA 2.5
Creative Commons 保持署名-相同方式分享 2.5

星海 说:
Oct 30, 2011 09:12:15 PM

What's the fucking bot.....

Avatar_small
λ 说:
Oct 30, 2011 10:09:43 PM

fuck the fucking bot, yourself...

Avatar_small
Rrandom 说:
Nov 11, 2011 07:04:58 PM

没想的是John McCarthy还会写科幻小说...

Avatar_small
λ 说:
Nov 12, 2011 01:19:29 PM

呵,照片看起来是挺严肃的。不过他的一些讲义PPT的内容也挺幽默的。这篇东东体现了他对人工智能的主要看法。他的主页内容挺丰富的,就是有点乱~

Avatar_small
Rrandom 说:
Nov 12, 2011 04:33:50 PM

o(╯□╰)o...看来我得找个时间细细看下他的主页..话说stallman大神的主页也很乱...相比之下.norvig大神的就要好的多.....

Avatar_small
λ 说:
Nov 12, 2011 05:04:17 PM

norvig.com 那東西太少啦……上面有啥好推薦的麽?

Avatar_small
Rrandom 说:
Nov 13, 2011 03:01:50 PM

呃..这是 norvig的斯坦福大学的线上课程.人工智能.https://www.ai-class.com/
他的个人主页就是lisp.java.和python的一些比较什么的....

AP 10th Geography Qu 说:
Sep 19, 2022 12:15:49 AM

Geography is an important subject in Class 10t. However, considerable ambiguities persist in its exact position within academia. AP 10th Geography Question Paper As an inclusive discipline, the content of geography is derived from various subjects in the sciences, social sciences and humanities. This is equally true about the geography syllabus in schools as well.Telugu Medium, English Medium & Urdu Medium Students of the State Board can download the AP 10th Geography Model Paper 2023 Pdf with answers for all exam formats conducted by BSEAP for Part-A, Part-B, Part-C, and Part-D exams of SA-1, SA-2, FA-1, FA-2, FA-3, FA-4 along with Assignments which were designed by subject experts of leading educational institutes.


登录 *


loading captcha image...
(输入验证码)
or Ctrl+Enter