編者語：當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後
，它們將會“失去控製”，以yi我wo們men無wu法fa想xiang象xiang的de速su度du自zi行xing進jin化hua
，以yi至zhi於yu遠yuan遠yuan地di並bing且qie非fei常chang迅xun速su地di把ba我wo們men拋pao在zai後hou麵mian。這zhe並bing非fei科ke幻huan片pian中zhong才cai有you的de場chang景jing，而er是shi人ren工gong智zhi能neng專zhuan家jia們men在zai嚴yan肅su探tan討tao的de話hua題ti。

　　當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後，它們將會“失去控製”
，以yi我wo們men無wu法fa想xiang象xiang的de速su度du自zi行xing進jin化hua，以yi至zhi於yu遠yuan遠yuan地di並bing且qie非fei常chang迅xun速su地di把ba我wo們men拋pao在zai後hou麵mian。這zhe並bing非fei科ke幻huan片pian中zhong才cai有you的de場chang景jing，而er是shi人ren工gong智zhi能neng專zhuan家jia們men在zai嚴yan肅su探tan討tao的de話hua題ti。由於人工智能方麵令人吃驚的進展

，一些計算機科學家正在爭論是否應該對某些研究設限，以防這些研究可能導致人類失去對計算機體係的控製。科學家認為，正如宇宙學上存在著一個讓所有物理定律都失效的“奇點”(Singularity)一樣，信息技術也正朝著“超人類智能”的奇點邁進。

　　以人工智能和人類未來為主題的2009奇點峰會(Singularity Summit)就重點探討了機器超越人類智慧的“奇點”(Singularity)終將到來的時代。

　　在奇點峰會中筆者受益量多，但該峰會最大的裨益乃其尚未解決的問題。筆者將總結關於“奇點”理論的十大為解難題

，與讀者共同探討有關人類智力與機器人智力的哲學道德之爭議。

　　“奇點”理論：著名未來學家雷·庫茲韋爾的“奇點”理論指出在“奇點”lailinzhishi
，jiqijiangketongguorengongzhinengjinxingziwowanshan，chaoguorenleibenshen，kaiqiyigexindeshidai。yixiepipingzheduieyiderengongzhinengtichulezhiyi，danyuelaiyueduodezhuliujigoukaishijieshoukuziweierdekanfa。

　　智力與意識是否僅僅局限於我們所認識並認可的範圍？

　　在談話中，“奇點”理論之父著名未來學家雷·庫茲韋爾將“智力”定義為“預測能力”，這zhe一yi能neng力li是shi從cong我wo們men的de祖zu先xian尚shang在zai大da草cao原yuan中zhong以yi狩shou獵lie為wei生sheng時shi，需xu判pan定ding其qi狩shou獵lie對dui象xiang下xia一yi步bu將jiang移yi動dong至zhi何he處chu以yi便bian更geng有you效xiao率lv地di捕bu獲huo獵lie物wu這zhe一yi經jing驗yan中zhong進jin化hua並bing遺yi傳chuan下xia來lai的de。如ru將jiang“智力”的概念定義於此，那麼顯然電腦在這方麵遠遠要比人類高明（電腦可預報天氣
，經濟動態等）。

　　當然，人類的預測能力也有機器所無法涉及的領域，比如判定女友喜歡那種花這種事隻有人類才可加以估計和推測。

　　假(jia)如(ru)這(zhe)個(ge)世(shi)界(jie)尚(shang)有(you)我(wo)們(men)所(suo)未(wei)曾(zeng)認(ren)識(shi)到(dao)的(de)智(zhi)力(li)類(lei)型(xing)，那(na)麼(me)如(ru)果(guo)機(ji)器(qi)通(tong)過(guo)人(ren)工(gong)智(zhi)能(neng)進(jin)行(xing)自(zi)我(wo)完(wan)善(shan)並(bing)發(fa)展(zhan)出(chu)一(yi)種(zhong)新(xin)型(xing)的(de)智(zhi)力(li)
，我(wo)們(men)又(you)怎(zen)能(neng)意(yi)識(shi)得(de)到(dao)呢(ne)？假(jia)設(she)真(zhen)有(you)其(qi)他(ta)類(lei)型(xing)的(de)智(zhi)力(li)存(cun)在(zai)於(yu)這(zhe)個(ge)世(shi)界(jie)，那(na)麼(me)如(ru)果(guo)機(ji)器(qi)發(fa)展(zhan)出(chu)一(yi)種(zhong)新(xin)型(xing)的(de)意(yi)識(shi)，我(wo)們(men)又(you)怎(zen)麼(me)對(dui)其(qi)進(jin)行(xing)鑒(jian)別(bie)和(he)認(ren)識(shi)？

　　人工智能是否會將人類滅絕？

　　在峰會上，很多人都擔心人類終有一天會斷絕在人工智能之手。但這些杞人憂天的偏執狂卻無一人可解釋電腦程序將如何殺死人類。

　　還有人擔心，人類是否會失去對機器的控製
，使得人工智能機器破解並進入核彈係統

，而後隨意發射核武器
？

　　人工智能會在意自己失聰，耳聾

，或失明？

　　世界首台電腦誕生時，閃入它腦中的第一個念頭絕不是“天哪！我居然沒有眼睛！看不到這個世界！”一個並無實體依存於一台機器才能運行的所謂“智能”的最大缺陷即嚴重缺乏感官。毫無疑問，人類可被激怒，倘若這個世界上出現了第一台被激怒的人工智能
，那麼這將意味著什麼呢
？

　　期待機器有感情的那一天嗎？

　　人ren工gong智zhi能neng會hui沮ju喪sang嗎ma？毫hao無wu疑yi問wen，第di一yi台tai人ren工gong智zhi能neng機ji器qi會hui感gan到dao無wu比bi孤gu單dan。將jiang來lai當dang第di一yi例li具ju有you意yi識shi的de機ji器qi橫heng空kong出chu世shi時shi，人ren類lei不bu會hui想xiang要yao這zhe種zhong看kan似si人ren性xing化hua服fu務wu實shi則ze掌zhang握wo人ren類lei社she會hui經jing濟ji工gong具ju和he武wu器qi裝zhuang置zhi的de朋peng友you。

　　人工智能模擬大腦，亦或人類大腦本就以電腦方式運作？

　　Jurgen Schmidhuber是一位人工智能研究所的科學家。他指出人類大腦處理信息的方式與zip解壓縮文件如出一轍，我們區別無趣與有趣的基準是衡量這個事物包含多少可被我們深刻加工並壓縮的新鮮信息含量。

　　Jurgen Schmidhuber揭jie示shi了le大da腦nao是shi如ru何he通tong過guo擴kuo展zhan個ge人ren體ti驗yan而er處chu理li信xin息xi。這zhe使shi我wo們men不bu禁jin好hao奇qi，難nan道dao我wo們men的de大da腦nao的de運yun作zuo已yi經jing趨qu向xiang於yu電dian腦nao方fang式shi了le？人ren類lei大da腦nao是shi以yi處chu理li不bu同tong的de軟ruan件jian而er造zao就jiu人ren們men不bu同tong的de個ge性xing的de嗎ma？這zhe是shi否fou意yi味wei著zhe“奇點”時代不是以人工智能超越人類的方式到來
，而是伴隨著人類意識到大腦實為電腦運行方式這一事實到來的呢？

[page_break]

　　“禁忌”程序可戰勝自由意誌
？

　　在(zai)關(guan)於(yu)如(ru)何(he)避(bi)免(mian)人(ren)類(lei)被(bei)智(zhi)能(neng)機(ji)器(qi)所(suo)統(tong)治(zhi)的(de)討(tao)論(lun)當(dang)中(zhong)，許(xu)多(duo)發(fa)言(yan)人(ren)都(dou)強(qiang)調(tiao)了(le)向(xiang)智(zhi)能(neng)機(ji)器(qi)人(ren)灌(guan)輸(shu)人(ren)類(lei)道(dao)德(de)倫(lun)理(li)的(de)重(zhong)要(yao)性(xing)。也(ye)有(you)人(ren)提(ti)出(chu)為(wei)何(he)不(bu)直(zhi)接(jie)編(bian)輯(ji)杜(du)絕(jue)機(ji)器(qi)人(ren)屠(tu)殺(sha)人(ren)類(lei)的(de)程(cheng)序(xu)。但(dan)是(shi)，一(yi)旦(dan)“奇點”到來
，機器有了自己的自由意誌
，他們當然可以選擇不去遵守這些程序。人類本身不就是在建立規則與不斷犯規中發展的嗎

？

　　弗洛伊德也適用於人工智能？

　　如(ru)果(guo)人(ren)工(gong)智(zhi)能(neng)果(guo)真(zhen)發(fa)展(zhan)出(chu)自(zi)由(you)意(yi)誌(zhi)與(yu)智(zhi)力(li)，那(na)麼(me)他(ta)們(men)的(de)大(da)腦(nao)也(ye)和(he)人(ren)類(lei)大(da)腦(nao)一(yi)樣(yang)複(fu)雜(za)嗎(ma)？他(ta)們(men)也(ye)會(hui)有(you)無(wu)法(fa)理(li)解(jie)，控(kong)製(zhi)和(he)涉(she)及(ji)的(de)領(ling)域(yu)嗎(ma)
？如(ru)果(guo)弗(fu)洛(luo)伊(yi)德(de)的(de)自(zi)我(wo)
，本(ben)我(wo)和(he)超(chao)我(wo)乃(nai)生(sheng)物(wu)與(yu)感(gan)知(zhi)的(de)結(jie)果(guo)，那(na)麼(me)人(ren)工(gong)智(zhi)能(neng)也(ye)會(hui)有(you)宗(zong)教(jiao)信(xin)仰(yang)和(he)心(xin)理(li)問(wen)題(ti)嗎(ma)？如(ru)果(guo)人(ren)工(gong)智(zhi)能(neng)將(jiang)人(ren)類(lei)奉(feng)為(wei)神(shen)明(ming)

，或(huo)者(zhe)造(zao)物(wu)主(zhu)，那(na)麼(me)會(hui)導(dao)致(zhi)他(ta)們(men)對(dui)人(ren)類(lei)產(chan)生(sheng)俄(e)狄(di)浦(pu)斯(si)情(qing)結(jie)嗎(ma)
？如(ru)果(guo)是(shi)這(zhe)樣(yang)
，那(na)麼(me)他(ta)們(men)對(dui)人(ren)類(lei)的(de)殺(sha)戮(lu)就(jiu)有(you)理(li)可(ke)循(xun)了(le)，畢(bi)竟(jing)俄(e)狄(di)浦(pu)斯(si)終(zhong)歸(gui)沒(mei)有(you)逃(tao)出(chu)殺(sha)父(fu)娶(qu)母(mu)的(de)命(ming)運(yun)。

　　人工智能會真誠地協助人類克服劣根性？

　　每mei個ge網wang民min都dou知zhi道dao，網wang絡luo是shi開kai闊kuo眼yan界jie獲huo取qu信xin息xi的de重zhong要yao工gong具ju，同tong時shi也ye是shi一yi個ge肆si意yi散san播bo不bu良liang信xin息xi的de平ping台tai。那na些xie鼓gu吹chui全quan球qiu變bian暖nuan是shi一yi個ge政zheng治zhi陰yin謀mou，將jiang奧ao巴ba馬ma與yu斯si大da林lin和he希xi特te勒le相xiang提ti並bing論lun
，並bing以yi幫bang助zhu尼ni日ri利li亞ya公gong主zhu為wei名ming招zhao搖yao撞zhuang騙pian的de人ren以yi網wang絡luo為wei麵mian具ju無wu處chu不bu在zai。那na麼me具ju有you人ren工gong智zhi能neng機ji器qi是shi否fou會hui抓zhua住zhu這zhe一yi軟ruan肋lei
，不bu懷huai好hao意yi地di會hui為wei人ren類lei的de欲yu望wang，貪tan婪lan和he憎zeng恨hen鋪pu平ping一yi條tiao不bu歸gui路lu呢ne
？其qi實shi更geng值zhi得de擔dan心xin的de並bing非fei智zhi能neng機ji器qi
，而er是shi人ren類lei本ben身shen。

　　智能機器將對人類不屑一顧？

　　有樂觀的人工智能專家大膽設想：智zhi能neng機ji器qi人ren實shi際ji上shang是shi人ren類lei演yan化hua的de後hou代dai
，它ta們men從cong我wo們men人ren類lei中zhong成cheng長chang，學xue習xi我wo們men的de技ji能neng，與yu我wo們men擁yong有you共gong同tong的de價jia值zhi標biao準zhun，可ke以yi看kan成cheng是shi我wo們men人ren類lei思si維wei的de後hou代dai。

　　然ran而er對dui人ren工gong智zhi能neng懷huai有you敵di意yi與yu排pai斥chi的de人ren則ze認ren為wei接jie受shou人ren工gong智zhi能neng將jiang比bi人ren類lei強qiang大da的de事shi實shi不bu會hui揭jie開kai長chang久jiu以yi來lai未wei解jie的de哲zhe學xue問wen題ti
，如ru人ren生sheng意yi義yi及ji虛xu無wu主zhu義yi。或huo者zhe
，如ru果guo有you一yi天tian機ji器qi當dang真zhen發fa達da到dao如ru此ci地di步bu，也ye許xu他ta們men對dui人ren類lei根gen本ben不bu屑xie一yi顧gu呢ne？1. 奇點來臨，無人接招？

　　最後，Anna Salamon告訴我
，“奇點”的影響力將波及到世界上每一個人。然而我卻不甚認同這一觀點。

　　去(qu)年(nian)，一(yi)名(ming)飛(fei)行(xing)員(yuan)在(zai)亞(ya)馬(ma)遜(xun)流(liu)域(yu)發(fa)現(xian)了(le)一(yi)個(ge)從(cong)未(wei)與(yu)外(wai)界(jie)有(you)過(guo)接(jie)觸(chu)的(de)新(xin)部(bu)落(luo)。在(zai)南(nan)美(mei)洲(zhou)
，亞(ya)洲(zhou)和(he)非(fei)洲(zhou)的(de)一(yi)些(xie)地(di)區(qu)，人(ren)們(men)的(de)生(sheng)活(huo)如(ru)同(tong)這(zhe)一(yi)新(xin)部(bu)落(luo)的(de)民(min)眾(zhong)般(ban)，別(bie)說(shuo)30年了，甚至300年nian以yi來lai都dou未wei曾zeng有you過guo任ren何he變bian化hua。因yin此ci
，當dang紐niu約yue曼man哈ha頓dun西xi區qu富fu可ke敵di國guo的de貴gui族zu以yi投tou入ru硬ying幣bi來lai操cao控kong一yi個ge高gao端duan智zhi能neng機ji器qi人ren時shi，生sheng活huo在zai其qi他ta區qu域yu
，尤you其qi是shi落luo後hou地di區qu的de人ren們men是shi無wu法fa蒙meng受shou這zhe一yi科ke技ji恩en惠hui的de。實shi際ji上shang，他ta們men也ye根gen本ben不bu在zai乎hu何he謂wei“奇點”。

　　如果“奇點”影(ying)響(xiang)範(fan)圍(wei)隻(zhi)是(shi)小(xiao)眾(zhong)
，而(er)更(geng)為(wei)眾(zhong)多(duo)的(de)人(ren)類(lei)無(wu)法(fa)支(zhi)付(fu)這(zhe)一(yi)服(fu)務(wu)，甚(shen)至(zhi)從(cong)未(wei)聽(ting)聞(wen)或(huo)根(gen)本(ben)不(bu)屑(xie)一(yi)顧(gu)，那(na)麼(me)奇(qi)點(dian)峰(feng)會(hui)所(suo)探(tan)討(tao)的(de)機(ji)器(qi)人(ren)反(fan)超(chao)並(bing)主(zhu)宰(zai)人(ren)類(lei)的(de)假(jia)設(she)，是(shi)否(fou)僅(jin)僅(jin)是(shi)紙(zhi)上(shang)談(tan)兵(bing)呢(ne)?亦或

，“奇點”帶來的隻是對貧富差距，南北差異的深化
？筆者再次重申，更值得擔心的並非智能機器，而是人類本身。