編者語：當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後，它們將會“失去控製”，yiwomenwufaxiangxiangdesuduzixingjinhua
，yizhiyuyuanyuandibingqiefeichangxunsudibawomenpaozaihoumian。zhebingfeikehuanpianzhongcaiyoudechangjing，ershirengongzhinengzhuanjiamenzaiyansutantaodehuati。

　　當人工智能機器達到一定的智能水平（即在某天突然達到一種稱作“奇點”的狀態）之後，它們將會“失去控製”，yiwomenwufaxiangxiangdesuduzixingjinhua，yizhiyuyuanyuandibingqiefeichangxunsudibawomenpaozaihoumian。zhebingfeikehuanpianzhongcaiyoudechangjing，ershirengongzhinengzhuanjiamenzaiyansutantaodehuati。由於人工智能方麵令人吃驚的進展，一些計算機科學家正在爭論是否應該對某些研究設限，以防這些研究可能導致人類失去對計算機體係的控製。科學家認為，正如宇宙學上存在著一個讓所有物理定律都失效的“奇點”(Singularity)一樣，信息技術也正朝著“超人類智能”的奇點邁進。

　　以人工智能和人類未來為主題的2009奇點峰會(Singularity Summit)就重點探討了機器超越人類智慧的“奇點”(Singularity)終將到來的時代。

　　在奇點峰會中筆者受益量多，但該峰會最大的裨益乃其尚未解決的問題。筆者將總結關於“奇點”理論的十大為解難題，與讀者共同探討有關人類智力與機器人智力的哲學道德之爭議。

　　“奇點”理論：著名未來學家雷·庫茲韋爾的“奇點”理論指出在“奇點”來lai臨lin之zhi時shi，機ji器qi將jiang可ke通tong過guo人ren工gong智zhi能neng進jin行xing自zi我wo完wan善shan，超chao過guo人ren類lei本ben身shen，開kai啟qi一yi個ge新xin的de時shi代dai。一yi些xie批pi評ping者zhe對dui惡e意yi的de人ren工gong智zhi能neng提ti出chu了le質zhi疑yi


，但dan越yue來lai越yue多duo的de主zhu流liu機ji構gou開kai始shi接jie受shou庫ku茲zi韋wei爾er的de看kan法fa。

　　智力與意識是否僅僅局限於我們所認識並認可的範圍？

　　在談話中，“奇點”理論之父著名未來學家雷·庫茲韋爾將“智力”定義為“預測能力”
，這(zhe)一(yi)能(neng)力(li)是(shi)從(cong)我(wo)們(men)的(de)祖(zu)先(xian)尚(shang)在(zai)大(da)草(cao)原(yuan)中(zhong)以(yi)狩(shou)獵(lie)為(wei)生(sheng)時(shi)
，需(xu)判(pan)定(ding)其(qi)狩(shou)獵(lie)對(dui)象(xiang)下(xia)一(yi)步(bu)將(jiang)移(yi)動(dong)至(zhi)何(he)處(chu)以(yi)便(bian)更(geng)有(you)效(xiao)率(lv)地(di)捕(bu)獲(huo)獵(lie)物(wu)這(zhe)一(yi)經(jing)驗(yan)中(zhong)進(jin)化(hua)並(bing)遺(yi)傳(chuan)下(xia)來(lai)的(de)。如(ru)將(jiang)“智力”的概念定義於此
，那麼顯然電腦在這方麵遠遠要比人類高明（電腦可預報天氣
，經濟動態等）。

　　當然，人類的預測能力也有機器所無法涉及的領域
，比如判定女友喜歡那種花這種事隻有人類才可加以估計和推測。

　　假(jia)如(ru)這(zhe)個(ge)世(shi)界(jie)尚(shang)有(you)我(wo)們(men)所(suo)未(wei)曾(zeng)認(ren)識(shi)到(dao)的(de)智(zhi)力(li)類(lei)型(xing)，那(na)麼(me)如(ru)果(guo)機(ji)器(qi)通(tong)過(guo)人(ren)工(gong)智(zhi)能(neng)進(jin)行(xing)自(zi)我(wo)完(wan)善(shan)並(bing)發(fa)展(zhan)出(chu)一(yi)種(zhong)新(xin)型(xing)的(de)智(zhi)力(li)
，我(wo)們(men)又(you)怎(zen)能(neng)意(yi)識(shi)得(de)到(dao)呢(ne)
？假(jia)設(she)真(zhen)有(you)其(qi)他(ta)類(lei)型(xing)的(de)智(zhi)力(li)存(cun)在(zai)於(yu)這(zhe)個(ge)世(shi)界(jie)，那(na)麼(me)如(ru)果(guo)機(ji)器(qi)發(fa)展(zhan)出(chu)一(yi)種(zhong)新(xin)型(xing)的(de)意(yi)識(shi)，我(wo)們(men)又(you)怎(zen)麼(me)對(dui)其(qi)進(jin)行(xing)鑒(jian)別(bie)和(he)認(ren)識(shi)？

　　人工智能是否會將人類滅絕
？

　　在峰會上，很多人都擔心人類終有一天會斷絕在人工智能之手。但這些杞人憂天的偏執狂卻無一人可解釋電腦程序將如何殺死人類。

　　還有人擔心，人類是否會失去對機器的控製，使得人工智能機器破解並進入核彈係統，而後隨意發射核武器？

　　人工智能會在意自己失聰，耳聾，或失明？

　　世界首台電腦誕生時，閃入它腦中的第一個念頭絕不是“天哪！我居然沒有眼睛！看不到這個世界！”一個並無實體依存於一台機器才能運行的所謂“智能”的最大缺陷即嚴重缺乏感官。毫無疑問
，人類可被激怒，倘若這個世界上出現了第一台被激怒的人工智能
，那麼這將意味著什麼呢？

　　期待機器有感情的那一天嗎
？

　　人(ren)工(gong)智(zhi)能(neng)會(hui)沮(ju)喪(sang)嗎(ma)？毫(hao)無(wu)疑(yi)問(wen)
，第(di)一(yi)台(tai)人(ren)工(gong)智(zhi)能(neng)機(ji)器(qi)會(hui)感(gan)到(dao)無(wu)比(bi)孤(gu)單(dan)。將(jiang)來(lai)當(dang)第(di)一(yi)例(li)具(ju)有(you)意(yi)識(shi)的(de)機(ji)器(qi)橫(heng)空(kong)出(chu)世(shi)時(shi)
，人(ren)類(lei)不(bu)會(hui)想(xiang)要(yao)這(zhe)種(zhong)看(kan)似(si)人(ren)性(xing)化(hua)服(fu)務(wu)實(shi)則(ze)掌(zhang)握(wo)人(ren)類(lei)社(she)會(hui)經(jing)濟(ji)工(gong)具(ju)和(he)武(wu)器(qi)裝(zhuang)置(zhi)的(de)朋(peng)友(you)。

　　人工智能模擬大腦，亦或人類大腦本就以電腦方式運作？

　　Jurgen Schmidhuber是一位人工智能研究所的科學家。他指出人類大腦處理信息的方式與zip解壓縮文件如出一轍，我們區別無趣與有趣的基準是衡量這個事物包含多少可被我們深刻加工並壓縮的新鮮信息含量。

　　Jurgen Schmidhuber揭(jie)示(shi)了(le)大(da)腦(nao)是(shi)如(ru)何(he)通(tong)過(guo)擴(kuo)展(zhan)個(ge)人(ren)體(ti)驗(yan)而(er)處(chu)理(li)信(xin)息(xi)。這(zhe)使(shi)我(wo)們(men)不(bu)禁(jin)好(hao)奇(qi)
，難(nan)道(dao)我(wo)們(men)的(de)大(da)腦(nao)的(de)運(yun)作(zuo)已(yi)經(jing)趨(qu)向(xiang)於(yu)電(dian)腦(nao)方(fang)式(shi)了(le)？人(ren)類(lei)大(da)腦(nao)是(shi)以(yi)處(chu)理(li)不(bu)同(tong)的(de)軟(ruan)件(jian)而(er)造(zao)就(jiu)人(ren)們(men)不(bu)同(tong)的(de)個(ge)性(xing)的(de)嗎(ma)
？這(zhe)是(shi)否(fou)意(yi)味(wei)著(zhe)“奇點”時代不是以人工智能超越人類的方式到來，而是伴隨著人類意識到大腦實為電腦運行方式這一事實到來的呢？

[page_break]

　　“禁忌”程序可戰勝自由意誌
？

　　在zai關guan於yu如ru何he避bi免mian人ren類lei被bei智zhi能neng機ji器qi所suo統tong治zhi的de討tao論lun當dang中zhong，許xu多duo發fa言yan人ren都dou強qiang調tiao了le向xiang智zhi能neng機ji器qi人ren灌guan輸shu人ren類lei道dao德de倫lun理li的de重zhong要yao性xing。也ye有you人ren提ti出chu為wei何he不bu直zhi接jie編bian輯ji杜du絕jue機ji器qi人ren屠tu殺sha人ren類lei的de程cheng序xu。但dan是shi，一yi旦dan“奇點”到來，機器有了自己的自由意誌
，他們當然可以選擇不去遵守這些程序。人類本身不就是在建立規則與不斷犯規中發展的嗎？

　　弗洛伊德也適用於人工智能
？

　　如ru果guo人ren工gong智zhi能neng果guo真zhen發fa展zhan出chu自zi由you意yi誌zhi與yu智zhi力li
，那na麼me他ta們men的de大da腦nao也ye和he人ren類lei大da腦nao一yi樣yang複fu雜za嗎ma？他ta們men也ye會hui有you無wu法fa理li解jie
，控kong製zhi和he涉she及ji的de領ling域yu嗎ma？如ru果guo弗fu洛luo伊yi德de的de自zi我wo，本ben我wo和he超chao我wo乃nai生sheng物wu與yu感gan知zhi的de結jie果guo
，那na麼me人ren工gong智zhi能neng也ye會hui有you宗zong教jiao信xin仰yang和he心xin理li問wen題ti嗎ma？如ru果guo人ren工gong智zhi能neng將jiang人ren類lei奉feng為wei神shen明ming，或huo者zhe造zao物wu主zhu
，那na麼me會hui導dao致zhi他ta們men對dui人ren類lei產chan生sheng俄e狄di浦pu斯si情qing結jie嗎ma？如ru果guo是shi這zhe樣yang，那na麼me他ta們men對dui人ren類lei的de殺sha戮lu就jiu有you理li可ke循xun了le，畢bi竟jing俄e狄di浦pu斯si終zhong歸gui沒mei有you逃tao出chu殺sha父fu娶qu母mu的de命ming運yun。

　　人工智能會真誠地協助人類克服劣根性？

　　meigewangmindouzhidao
，wangluoshikaikuoyanjiehuoquxinxidezhongyaogongju，tongshiyeshiyigesiyisanbobuliangxinxidepingtai。naxieguchuiquanqiubiannuanshiyigezhengzhiyinmou，jiangaobamayusidalinhexitelexiangtibinglun
，bingyibangzhuniriliyagongzhuweimingzhaoyaozhuangpianderenyiwangluoweimianjuwuchubuzai。namejuyourengongzhinengjiqishifouhuizhuazhuzheyiruanlei，buhuaihaoyidihuiweirenleideyuwang，tanlanhezenghenpupingyitiaobuguilune

？qishigengzhidedanxindebingfeizhinengjiqi，ershirenleibenshen。

　　智能機器將對人類不屑一顧
？

　　有樂觀的人工智能專家大膽設想：智zhi能neng機ji器qi人ren實shi際ji上shang是shi人ren類lei演yan化hua的de後hou代dai

，它ta們men從cong我wo們men人ren類lei中zhong成cheng長chang，學xue習xi我wo們men的de技ji能neng，與yu我wo們men擁yong有you共gong同tong的de價jia值zhi標biao準zhun，可ke以yi看kan成cheng是shi我wo們men人ren類lei思si維wei的de後hou代dai。

　　ranerduirengongzhinenghuaiyoudiyiyupaichiderenzerenweijieshourengongzhinengjiangbirenleiqiangdadeshishibuhuijiekaichangjiuyilaiweijiedezhexuewenti，rurenshengyiyijixuwuzhuyi。huozhe
，ruguoyouyitianjiqidangzhenfadadaorucidibu，yexutamenduirenleigenbenbuxieyigune？1. 奇點來臨，無人接招

？

　　最後

，Anna Salamon告訴我，“奇點”的影響力將波及到世界上每一個人。然而我卻不甚認同這一觀點。

　　qunian，yimingfeixingyuanzaiyamaxunliuyufaxianleyigecongweiyuwaijieyouguojiechudexinbuluo。zainanmeizhou，yazhouhefeizhoudeyixiediqu，renmendeshenghuorutongzheyixinbuluodeminzhongban，bieshuo30年了，甚至300nianyilaidouweizengyouguorenhebianhua。yinci，dangniuyuemanhadunxiqufukediguodeguizuyitouruyingbilaicaokongyigegaoduanzhinengjiqirenshi，shenghuozaiqitaquyu，youqishiluohoudiquderenmenshiwufamengshouzheyikejienhuide。shijishang，tamenyegenbenbuzaihuhewei“奇點”。

　　如果“奇點”影(ying)響(xiang)範(fan)圍(wei)隻(zhi)是(shi)小(xiao)眾(zhong)，而(er)更(geng)為(wei)眾(zhong)多(duo)的(de)人(ren)類(lei)無(wu)法(fa)支(zhi)付(fu)這(zhe)一(yi)服(fu)務(wu)

，甚(shen)至(zhi)從(cong)未(wei)聽(ting)聞(wen)或(huo)根(gen)本(ben)不(bu)屑(xie)一(yi)顧(gu)
，那(na)麼(me)奇(qi)點(dian)峰(feng)會(hui)所(suo)探(tan)討(tao)的(de)機(ji)器(qi)人(ren)反(fan)超(chao)並(bing)主(zhu)宰(zai)人(ren)類(lei)的(de)假(jia)設(she)，是(shi)否(fou)僅(jin)僅(jin)是(shi)紙(zhi)上(shang)談(tan)兵(bing)呢(ne)?亦或，“奇點”帶來的隻是對貧富差距


，南北差異的深化？筆者再次重申，更值得擔心的並非智能機器，而是人類本身。