近日，在達特茅斯塞耶工程學院畢業季的活動上
，OpenAI CTO米拉·穆拉蒂（Mira Murati）與前亞馬遜高管、現達特茅斯學院受托人的傑弗裏·布萊克本（Jeff Blackburn）開展了一場深度訪談。

訪談中
，穆拉蒂分享了她加入OpenAI的原因、ChatGPT和Dall-E工作原理，還就AI發展過程中持續存在的安全和倫理問題,以及AI對未來可能產生的深遠影響,例如教育、工作等
，提出了自己的見解。

她在訪談中還透露，隻需一年半時間
，AI就可以在某些領域達到博士的智能。根據她的說法，GPT-3的智能相當於幼兒，GPT-4相當於聰明的高中生，而下一代模型（這或許指的就是GPT-5），將在一年半後發布，並達到博士水平。

在安全性和能力方麵，她認為，它們是相輔相成的，聰明的模型才能理解我們給它設定的護欄。與此同時，穆拉蒂表示
，“完全沒有風險” 是不可能的
，尤其是對於像 AI 這樣的技術。工程的角度上來看，AI能力的提升並不會降低模型的安全性。OpenAI對模型的安全性負有很大責任
，但要實現風險的有效管控
，社會和政府的參與也是必不可少的。

穆拉蒂表示，未來的 AI 係統將能夠連接到互聯網，相互交流
，並與人類協作。

在談及AI對工作或業務的影響時
，穆拉蒂認為它將 “影響一切”，她相信幾乎所有領域都將受到影響，尤其是 “一些創意工作”，但她也認為這些工作 “本來就不應該存在”。她表示，下一代 AI 將降低 “創造力” 的門檻

，使其不再局限於隻有 “有才華的人”，AI 將使每個人都更具創造力。因此
，一些原本隻限於少數有創造力的人的工作將被 AI 接管。

以下為訪談完整編譯

我是Alexis Abramson,達特茅斯大學Thayer工程學院院長。我很榮幸歡迎大家參加這個非常特別的活動——與Mira Murati的對話。她是我們人工智能領域最傑出的領導者之一,也是達特茅斯工程學院的校友。

在我們開始之前,我想特別歡迎一位特殊的嘉賓,Joy Buolamwini。她在人工智能
、人工智能倫理和算法正義方麵的工作也享有盛名。她明天將獲得達特茅斯大學的榮譽學位。同時,也熱烈歡迎Mira和所有現在是她家人或她在達特茅斯時的家人,包括她的兄弟Ernel Murati,他也是2016屆學院的校友。

感謝我們在Neukom計算科學研究所和計算機科學係的合作夥伴。從1956年達特茅斯舉辦的第一次開創性人工智能會議,到我們目前在大型語言模型和精準健康方麵的多學科研究,達特茅斯一直處於人工智能創新的前沿。因此,我們特別高興今天能邀請到Mira,她是OpenAI的首席技術官,也是我們工程學院2012屆的畢業生。她因在一些當今最受關注的人工智能技術上的開創性工作而聞名。在OpenAI,她帶頭開發了像ChatGPT和Dall-E這樣的變革性模型,為未來的生成式人工智能技術奠定了新的基礎。

在Thayer學院學習期間,她將自己的工程技能應用於達特茅斯方程式賽車隊,設計並製造混合動力賽車。明天的畢業典禮上,她將獲得達特茅斯大學授予的榮譽理學博士學位。

最後,今天主持我們對話的是Jeff Blackburn,他是達特茅斯1991屆畢業生,現任達特茅斯大學董事會成員。Jeff的職業生涯一直專注於全球數字媒體和技術的發展。他曾在2023年前擔任亞馬遜全球媒體和娛樂高級副總裁,並在公司擔任過多個領導職務。他對技術、媒體和娛樂交叉領域的洞察必將確保我們今天有一場引人入勝的對話。那麼,不再多說,我現在把對話交給他們。請大家和我一起歡迎Mira Murati和Jeff Blackburn。

傑弗裏·布萊克本：謝謝你，Alexis。這棟漂亮的建築真是太美了。

米拉·穆拉蒂：很高興來到這裏。

傑弗裏·布萊克本：Mira，非常感謝你來到這裏並抽出時間。我能想象你現在的日子有多忙。

米拉·穆拉蒂：很高興來到這裏。

傑弗裏·布萊克本：你為大家抽出時間真是太好了。

米拉·穆拉蒂：我真的很高興能在這裏。

加入OpenAI原因

傑弗裏·布萊克本：我想直接切入正題
，因為我知道大家都想聽聽你的生活和你正在構建的東西，這真是太迷人了。也許我們應該從你開始說起，你離開Thayer
，去了Tesla一段時間，然後加入了OpenAI。如果你能描述一下那段時期以及你早期加入OpenAI的情況就好了。

米拉·穆拉蒂：是的，所以我… 在Thayer畢業之後，我實際上在航空航天領域短暫工作了一段時間，然後我意識到航空航天領域進展比較慢，而我對Tesla的使命非常感興趣，當然還有在構建一個可持續未來的交通工具方麵的創新挑戰，我決定加入他們。在Model S和Model X的開發過程中，我意識到我不太想成為一個汽車領域的人，我更想在推進社會進步的同時
，迎接一些艱巨的工程挑戰。在Tesla期qi間jian，我wo對dui自zi動dong駕jia駛shi汽qi車che和he這zhe些xie技ji術shu的de交jiao叉cha點dian非fei常chang感gan興xing趣qu，比bi如ru計ji算suan機ji視shi覺jiao和he人ren工gong智zhi能neng，將jiang它ta們men應ying用yong於yu自zi動dong駕jia駛shi汽qi車che。我wo想xiang，好hao吧ba，我wo想xiang了le解jie更geng多duo關guan於yu人ren工gong智zhi能neng的de知zhi識shi


，但dan在zai不bu同tong的de領ling域yu。所suo以yi我wo加jia入ru了le一yi家jia初chu創chuang公gong司si，領ling導dao工gong程cheng和he產chan品pin團tuan隊dui
，將jiang人ren工gong智zhi能neng和he計ji算suan機ji視shi覺jiao應ying用yong於yu空kong間jian計ji算suan領ling域yu，思si考kao下xia一yi代dai計ji算suan界jie麵mian。當dang時shi我wo認ren為wei這zhe將jiang是shi虛xu擬ni現xian實shi和he增zeng強qiang現xian實shi。現xian在zai我wo認ren為wei有you點dian不bu同tong了le，但dan我wo當dang時shi想xiang，如ru果guo你ni可ke以yi用yong手shou與yu非fei常chang複fu雜za的de信xin息xi互hu動dong，無wu論lun是shi公gong式shi、分(fen)子(zi)還(hai)是(shi)拓(tuo)撲(pu)學(xue)的(de)概(gai)念(nian)，你(ni)可(ke)以(yi)以(yi)一(yi)種(zhong)更(geng)直(zhi)觀(guan)的(de)方(fang)式(shi)學(xue)習(xi)這(zhe)些(xie)東(dong)西(xi)
，這(zhe)會(hui)擴(kuo)展(zhan)你(ni)的(de)學(xue)習(xi)能(neng)力(li)。結(jie)果(guo)虛(xu)擬(ni)現(xian)實(shi)當(dang)時(shi)有(you)點(dian)太(tai)早(zao)了(le)。但(dan)這(zhe)讓(rang)我(wo)在(zai)不(bu)同(tong)的(de)領(ling)域(yu)學(xue)習(xi)了(le)人(ren)工(gong)智(zhi)能(neng)，並(bing)且(qie)我(wo)的(de)職(zhi)業(ye)生(sheng)涯(ya)一(yi)直(zhi)處(chu)於(yu)技(ji)術(shu)和(he)各(ge)種(zhong)應(ying)用(yong)的(de)交(jiao)彙(hui)點(dian)，這(zhe)給(gei)了(le)我(wo)一(yi)個(ge)不(bu)同(tong)的(de)視(shi)角(jiao)，看(kan)到(dao)了(le)人(ren)工(gong)智(zhi)能(neng)的(de)發(fa)展(zhan)進(jin)程(cheng)以(yi)及(ji)它(ta)可(ke)以(yi)應(ying)用(yong)的(de)領(ling)域(yu)。

傑弗裏·布萊克本：所以在Tesla的自動駕駛領域，你看到了機器學習、深度學習。你能看到它的發展方向。

米拉·穆拉蒂：是的
，但我並沒有看得很清楚。

傑弗裏·布萊克本：你和Elon合作過嗎

？

米拉·穆拉蒂：shide
，youqishizuihouyinian。dandangshihaibutaiqingchutadefangxiang。nashihou
，rengongzhinengrengranshiyingyongyufeichangxiazhaidetedingwenti，erbushiyibanxingdeyingyong。tazaixunixianshihezengqiangxianshizhongdeqingkuangyeshiruci。congnashiqi
，woxiangwobuxiangjinjinjiangqiyingyongyutedingwenti。woxianglejieyanjiu
，zhenzhenglijiezhengzaifashengdeshiqing
，ranhouzaijiangqiyingyongyuqitalingyu。suoyizheshiwojiaruleOpenAI，OpenAI的de使shi命ming對dui我wo非fei常chang有you吸xi引yin力li。那na時shi它ta是shi一yi個ge非fei營ying利li組zu織zhi，使shi命ming沒mei有you改gai變bian，結jie構gou改gai變bian了le
，但dan我wo六liu年nian前qian加jia入ru時shi
，它ta是shi一yi個ge旨zhi在zai構gou建jian安an全quan的de通tong用yong人ren工gong智zhi能neng的de非fei營ying利li組zu織zhi，除chu了leDeepMind之外，這是唯一一家這樣做的公司。現在當然有很多公司在構建某種版本的通用人工智能。

傑弗裏·布萊克本：是的，一些公司。

米拉·穆拉蒂：是的，這就是我加入OpenAI的開始。

ChatGPT和Dall-E工作原理

傑弗裏·布萊克本：明白了。自從你在那兒
，你們已經構建了很多東西。也許我們可以為大家簡單介紹一下機器學習
、深度學習和現在的人工智能基礎知識。這些都是相關的，但有所不同。那麼，這其中發生了什麼，它是如何在ChatGPT、Dall-E或你們的視頻產品中體現出來的？它是如何工作的？

米拉·穆拉蒂：zhebushiyigegenbenxingdechuangxin。mouzhongyiyishang，womenshizaijishinianderenleinulijichushanggoujiande。shijishang
，tadeqiyuanjiuzaizheli。zaiguoqushinianzhongfashengdeshiqingshizhesanzhedejiehe：神經網絡、daliangshujuhedaliangjisuanziyuan。zhesanzhejiehezaiyiqi
，nihuidedaozhexiezhenzhengbiangexingderengongzhinengxitonghuomoxing，jieguotamennenggouzuozhexiejingrendeshiqing，biruwanchengyibanrenwu
，danjutiruheyunzuobingbuwanquanqingchu。shenduxuexijiushiyouxiao。dangran，womenshitulijiebingyingyonggongjuheyanjiulailijiezhexiexitongdeshijigongzuoyuanli，danwomenzhidaotamenshiyouxiaode
，yinweiguoqujinianwomenyijingzheyangzuole。womenhaikandaolejinbudeguijiyijixitongruhesuizheshijiandetuiyibiandegenghao。dangnikanxiangGPT-3這樣的係統時，我們大約三年半前部署了大型語言模型。GPT-3的目標隻是預測下一個標記。

傑弗裏·布萊克本：它實際上是下一個詞的預測。

米拉·穆拉蒂：是的
，基本上是這樣。

傑弗裏·布萊克本：嗯ng。然ran後hou我wo們men發fa現xian，如ru果guo你ni給gei這zhe個ge模mo型xing一yi個ge目mu標biao，讓rang它ta預yu測ce下xia一yi個ge標biao記ji，並bing且qie你ni用yong大da量liang數shu據ju訓xun練lian它ta，同tong時shi使shi用yong大da量liang計ji算suan資zi源yuan，你ni得de到dao的de其qi實shi是shi一yi個ge能neng夠gou理li解jie語yu言yan的de模mo型xing，程cheng度du與yu我wo們men相xiang似si。

米拉·穆拉蒂：因為它讀了很多書
，它讀了所有的書。它似乎知道什麼是最重要的

傑弗裏·布萊克本：基本上是所有互聯網上的內容。

米拉·穆拉蒂：tazhidaoxiayigeciyinggaishishenme。dantabingbushizaijiyixiayigecishishenme，tashijishangshizaishengchengtazijiduiyijianshujumoshidelijie。ranhouwomenfaxian
，bujinjinshiyuyan，shijishang

，ruguonibabutongleixingdeshujufangjinqu
，birudaima，tayenengbianxiedaima。suoyishijishang
，tabuzaihunifangjinqudeshishenmeleixingdeshuju。takeyishituxiang
，keyishishipin，keyishishengyin，tadounengzuotongyangdeshiqing。

傑弗裏·布萊克本：哦，我們會談到圖像的。是的，（Jeff笑）但確實，文本提示可以生成圖像或視頻，現在你甚至可以看到相反的情況。

米拉·穆拉蒂：是的，正是如此。所以我們發現這個公式實際上效果很好，數據、計算資源和深度學習
，然後你可以放入不同類型的數據

，增加計算資源，AI係(xi)統(tong)的(de)性(xing)能(neng)就(jiu)會(hui)越(yue)來(lai)越(yue)好(hao)。這(zhe)就(jiu)是(shi)我(wo)們(men)所(suo)說(shuo)的(de)擴(kuo)展(zhan)定(ding)律(lv)。它(ta)們(men)並(bing)不(bu)是(shi)實(shi)際(ji)的(de)法(fa)律(lv)
，基(ji)本(ben)上(shang)是(shi)對(dui)模(mo)型(xing)能(neng)力(li)隨(sui)著(zhe)你(ni)投(tou)入(ru)更(geng)多(duo)數(shu)據(ju)和(he)計(ji)算(suan)資(zi)源(yuan)而(er)提(ti)高(gao)的(de)統(tong)計(ji)預(yu)測(ce)。這(zhe)就(jiu)是(shi)推(tui)動(dong)今(jin)天(tian)人(ren)工(gong)智(zhi)能(neng)進(jin)步(bu)的(de)動(dong)力(li)。

為什麼選擇聊天機器人作為第一款產品？

傑弗裏·布萊克本：你們為什麼從聊天機器人開始？

米拉·穆拉蒂：：是的，在產品方麵

，實際上我們是從API開始的。我們並不真的知道如何將GPT-3商業化。將AI技ji術shu商shang業ye化hua實shi際ji上shang非fei常chang非fei常chang困kun難nan。最zui初chu，我wo們men對dui此ci掉diao以yi輕qing心xin，非fei常chang專zhuan注zhu於yu構gou建jian技ji術shu和he進jin行xing研yan究jiu。我wo們men認ren為wei，這zhe是shi一yi個ge了le不bu起qi的de模mo型xing，商shang業ye合he作zuo夥huo伴ban可ke以yi拿na去qu構gou建jian出chu色se的de產chan品pin。然ran後hou我wo們men發fa現xian
，這zhe實shi際ji上shang非fei常chang難nan。所suo以yi這zhe就jiu是shi為wei什shen麼me我wo們men開kai始shi自zi己ji動dong手shou做zuo
，我wo們men驗yan證zheng一yi下xia我wo們men自zi己ji的de想xiang法fa

傑弗裏·布萊克本：那讓你們構建了一個聊天機器人，因為你們隻是想驗證自己想法

米拉·穆拉蒂：是的
，因為我們試圖弄清楚
，為什麼這些真正成功的公司實際上很難將這項技術轉化為有用的產品。

傑弗裏·布萊克本：我明白了。

米拉·穆拉蒂：因(yin)為(wei)這(zhe)是(shi)一(yi)種(zhong)非(fei)常(chang)奇(qi)怪(guai)的(de)產(chan)品(pin)構(gou)建(jian)方(fang)式(shi)。你(ni)從(cong)能(neng)力(li)開(kai)始(shi)，你(ni)從(cong)技(ji)術(shu)開(kai)始(shi)，而(er)不(bu)是(shi)從(cong)我(wo)要(yao)解(jie)決(jue)的(de)世(shi)界(jie)問(wen)題(ti)開(kai)始(shi)。它(ta)是(shi)一(yi)種(zhong)非(fei)常(chang)通(tong)用(yong)的(de)能(neng)力(li)。

傑弗裏·布萊克本：這很快就引出了你剛才描述的內容，也就是更多的數據、gengduodejisuanziyuanhegengduodezhineng。zhegezhinenghuibiandeduocongming？tingqilainidemiaoshushizhegekuozhanguochengxiangdangxianxing，nitianjiagengduodeyuansu

，tajiubiandegengcongming。zaiguoqujinianli，ChatGPT變得更聰明了嗎，它離人類水平的智能還有多遠
？

米拉·穆拉蒂：是的，這些係統在特定任務上已經達到了人類水平，當然在很多任務上還沒有。如果你看一下改進的軌跡
，像GPT-3這樣的係統，我們也許可以說它有著幼兒級別的智能。而GPT-4這樣的係統更像是聰明的高中生智能。在接下來的幾年裏
，我們期待在特定任務上達到博士水平的智能。

傑弗裏·布萊克本：比如
？

米拉·穆拉蒂：所以事情在迅速變化和改進。

傑弗裏·布萊克本：意思是大約一年後？

米拉·穆拉蒂：是的，大約一年半。

傑弗裏·布萊克本：你和ChatGPT對話時
，它看起來比你更聰明。

米拉·穆拉蒂：在某些方麵，是的。在很多方麵，是的。

傑弗裏·布萊克本：也許離那不遠了。

米拉·穆拉蒂：是的，可能吧。

傑弗裏·布萊克本：很接近。

OpeanAI安全方麵的工作

傑弗裏·布萊克本：dazhiruci。ng
，zhequeshiyinchuleqitawenti，wozhidaoniduizhexiewentifeichangzhiyanbuhui
，wohengaoxingbingweinigandaojiaoao
，nizaianquanfangmianzuolehenduogongzuo，danrenmenqueshixiangtingtingnidekanfa。name

，sannianhou
，dangtabiandenanyizhixindezhinengshizenmeban？tanengtongguosuoyoudelvshizigekaoshihewomenzuoguodemeiyixiangceshi。ranhoutajuedingzijilianjiedaohulianwangbingkaishizuoshi。zheshizhendema

，zheshi…還是你作為CTO和產品方向負責人在考慮的事情
？

米拉·穆拉蒂：是的，我們對此考慮很多。這絕對是現實，你會有具備代理能力的AI係統
，連接到互聯網
，互相交流，代理彼此連接並一起執行任務
，或者代理與人類合作並無縫協作。所以與AI的合作就像我們今天彼此合作一樣。在安全、安an保bao和he社she會hui影ying響xiang方fang麵mian，我wo認ren為wei這zhe些xie問wen題ti不bu是shi事shi後hou考kao慮lv的de。你ni不bu能neng隻zhi是shi開kai發fa技ji術shu
，然ran後hou再zai想xiang辦ban法fa處chu理li這zhe些xie問wen題ti。你ni必bi須xu在zai技ji術shu開kai發fa過guo程cheng中zhong嵌qian入ru這zhe些xie問wen題ti，並bing以yi一yi種zhong深shen度du嵌qian入ru的de方fang式shi來lai做zuo到dao這zhe一yi點dian。對dui於yu能neng力li和he安an全quan，它ta們men實shi際ji上shang不bu是shi分fen開kai的de領ling域yu。它ta們men是shi相xiang輔fu相xiang成cheng的de。指zhi導dao一yi個ge更geng智zhi能neng的de係xi統tong要yao容rong易yi得de多duo，隻zhi需xu告gao訴su它ta，不bu要yao做zuo這zhe些xie事shi情qing，而er不bu是shi指zhi導dao一yi個ge不bu太tai智zhi能neng的de係xi統tong。這zhe有you點dian像xiang訓xun練lian一yi隻zhi更geng聰cong明ming的de狗gou和he一yi隻zhi不bu太tai聰cong明ming的de狗gou一yi樣yang

，智zhi能neng和he安an全quan是shi相xiang輔fu相xiang成cheng的de。

傑弗裏·布萊克本：因為它更聰明，所以它更理解護欄。

米拉·穆拉蒂：是shi的de
，正zheng是shi如ru此ci。所suo以yi現xian在zai有you一yi個ge關guan於yu更geng多duo安an全quan研yan究jiu還hai是shi更geng多duo能neng力li研yan究jiu的de辯bian論lun。我wo認ren為wei這zhe是shi有you點dian誤wu導dao的de，因yin為wei你ni當dang然ran需xu要yao考kao慮lv產chan品pin部bu署shu的de安an全quan性xing及ji其qi護hu欄lan。但dan在zai研yan究jiu和he開kai發fa方fang麵mian，它ta們men實shi際ji上shang是shi相xiang輔fu相xiang成cheng的de。從cong我wo們men的de角jiao度du來lai看kan
，我wo們men的de方fang法fa是shi非fei常chang科ke學xue的de。讓rang我wo們men試shi著zhe預yu測ce這zhe些xie模mo型xing在zai訓xun練lian完wan成cheng之zhi前qian的de能neng力li。然ran後hou在zai此ci過guo程cheng中zhong，準zhun備bei好hao如ru何he處chu理li它ta們men的de護hu欄lan。這zhe在zai行xing業ye中zhong還hai沒mei有you真zhen正zheng做zuo到dao。我wo們men訓xun練lian這zhe些xie模mo型xing
，然ran後hou會hui出chu現xian我wo們men稱cheng之zhi為wei的de“突現能力”
，因為它們是突現的。我們不知道它們會出現。我們可以看到某種統計性能

，但我們不知道這種統計性能是否意味著模型在翻譯、生物化學
、編程或其他方麵表現更好。開發這種新的能力預測科學有助於我們為未來做好準備。

傑弗裏·布萊克本：你說所有這些安全工作，實際上與開發過程一致。

米拉·穆拉蒂：是的
，沒錯。

傑弗裏·布萊克本：這是類似的路徑。

米拉·穆拉蒂：是，所以你必須同時進行。

傑弗裏·布萊克本：但是，像Volodymyr Zelensky說“我們投降”的視頻
，Tom Hanks的de視shi頻pin
，或huo者zhe一yi個ge牙ya醫yi廣guang告gao
，這zhe些xie問wen題ti呢ne
？我wo不bu記ji得de具ju體ti是shi什shen麼me。這zhe些xie類lei型xing的de使shi用yong場chang景jing如ru何he處chu理li？這zhe是shi在zai你ni的de職zhi責ze範fan圍wei內nei，還hai是shi需xu要yao相xiang應ying的de法fa規gui？你ni怎zen麼me看kan待dai這zhe個ge問wen題ti的de解jie決jue？

米拉·穆拉蒂：是的，所以我的看法是，這是我們的技術。所以我們有責任確保其使用
，但這也是與社會
、民間社會、政府、內容創作者、媒mei體ti等deng共gong享xiang的de責ze任ren，以yi弄nong清qing楚chu如ru何he使shi用yong它ta。但dan為wei了le使shi其qi成cheng為wei共gong同tong的de責ze任ren，你ni需xu要yao讓rang人ren們men參can與yu進jin來lai
，給gei他ta們men提ti供gong工gong具ju，讓rang他ta們men理li解jie並bing提ti供gong護hu欄lan。

傑弗裏·布萊克本：這些東西很難阻止，對吧？

如何將AI風險降到最低

米拉·穆拉蒂：我(wo)認(ren)為(wei)不(bu)可(ke)能(neng)做(zuo)到(dao)零(ling)風(feng)險(xian)，但(dan)關(guan)鍵(jian)是(shi)如(ru)何(he)將(jiang)風(feng)險(xian)降(jiang)到(dao)最(zui)低(di)，並(bing)為(wei)人(ren)們(men)提(ti)供(gong)工(gong)具(ju)來(lai)實(shi)現(xian)這(zhe)一(yi)點(dian)。以(yi)政(zheng)府(fu)為(wei)例(li)
，非(fei)常(chang)重(zhong)要(yao)的(de)是(shi)讓(rang)他(ta)們(men)參(can)與(yu)進(jin)來(lai)，給(gei)他(ta)們(men)提(ti)供(gong)早(zao)期(qi)訪(fang)問(wen)，教(jiao)育(yu)他(ta)們(men)了(le)解(jie)正(zheng)在(zai)發(fa)生(sheng)的(de)事(shi)情(qing)。

傑弗裏·布萊克本：政府。

米拉·穆拉蒂：當然，還有監管機構。我認為ChatGPT最重要的貢獻之一是將AI引(yin)入(ru)公(gong)眾(zhong)意(yi)識(shi)，讓(rang)人(ren)們(men)對(dui)技(ji)術(shu)的(de)能(neng)力(li)和(he)風(feng)險(xian)有(you)一(yi)個(ge)直(zhi)觀(guan)的(de)理(li)解(jie)。讀(du)到(dao)這(zhe)些(xie)與(yu)親(qin)身(shen)體(ti)驗(yan)是(shi)不(bu)同(tong)的(de)，當(dang)你(ni)在(zai)自(zi)己(ji)的(de)業(ye)務(wu)中(zhong)嚐(chang)試(shi)它(ta)時(shi)，你(ni)會(hui)看(kan)到(dao)它(ta)不(bu)能(neng)做(zuo)這(zhe)些(xie)事(shi)情(qing)

，但(dan)它(ta)能(neng)做(zuo)其(qi)他(ta)驚(jing)人(ren)的(de)事(shi)情(qing)，這(zhe)實(shi)際(ji)上(shang)對(dui)勞(lao)動(dong)力(li)或(huo)我(wo)的(de)業(ye)務(wu)意(yi)味(wei)著(zhe)什(shen)麼(me)。這(zhe)讓(rang)人(ren)們(men)做(zuo)好(hao)準(zhun)備(bei)。

傑弗裏·布萊克本：是的，這是一個很好的觀點。你們創建的這些界麵
，像ChatGPT，rangrenmenlejiejijiangdaolaidebianhua。nikeyishiyongta，xianzaikeyikandaoqibeihoudeneirong。guanyuzhengfudeguandian，woxiangzaiwenyixia。jiunameiguolaishuo，nixiwangxianzaijiushishimouxiefaguima？zaiyiliangnianhou，tahuibiandefeichangzhineng，youdianxiaren。namexianzaiyinggaizuoxieshenmene？

米拉·穆拉蒂：我wo們men一yi直zhi在zai倡chang導dao對dui前qian沿yan模mo型xing進jin行xing更geng多duo監jian管guan，這zhe些xie模mo型xing有you驚jing人ren的de能neng力li，也ye因yin為wei誤wu用yong而er有you潛qian在zai的de負fu麵mian影ying響xiang。我wo們men一yi直zhi與yu政zheng策ce製zhi定ding者zhe公gong開kai討tao論lun，並bing與yu監jian管guan機ji構gou合he作zuo。在zai更geng短duan期qi和he較jiao小xiao的de模mo型xing方fang麵mian，我wo認ren為wei允yun許xu生sheng態tai係xi統tong中zhong的de廣guang泛fan性xing和he豐feng富fu性xing是shi好hao的de
，不bu要yao讓rang那na些xie沒mei有you太tai多duo計ji算suan資zi源yuan或huo數shu據ju的de人ren無wu法fa創chuang新xin。因yin此ci
，我wo們men一yi直zhi在zai倡chang導dao對dui前qian沿yan係xi統tong進jin行xing更geng多duo監jian管guan
，因yin為wei這zhe些xie係xi統tong的de風feng險xian更geng高gao。而er且qie你ni可ke以yi在zai變bian化hua發fa生sheng之zhi前qian預yu先xian準zhun備bei，而er不bu是shi試shi圖tu跟gen上shang已yi經jing迅xun速su發fa生sheng的de變bian化hua。

傑弗裏·布萊克本：但你可能不希望華盛頓特區來監管你發布GPT-5的時間，比如你能否這樣做。

米拉·穆拉蒂：這實際上取決於具體的監管。所以我們已經做了很多工作
，這些工作現在已經在白宮的承諾中得到體現。

傑弗裏·布萊克本：所以已經在進行了。

米拉·穆拉蒂：工作已經在進行了。它實際上也影響了白宮的承諾以及聯合國委員會在AI部(bu)署(shu)原(yuan)則(ze)方(fang)麵(mian)的(de)工(gong)作(zuo)。通(tong)常(chang)
，我(wo)認(ren)為(wei)正(zheng)確(que)的(de)做(zuo)法(fa)是(shi)先(xian)進(jin)行(xing)工(gong)作(zuo)，理(li)解(jie)其(qi)實(shi)際(ji)意(yi)義(yi)，然(ran)後(hou)基(ji)於(yu)此(ci)創(chuang)建(jian)法(fa)規(gui)。這(zhe)是(shi)目(mu)前(qian)的(de)做(zuo)法(fa)。要(yao)提(ti)前(qian)應(ying)對(dui)前(qian)沿(yan)係(xi)統(tong)，需(xu)要(yao)做(zuo)更(geng)多(duo)的(de)預(yu)測(ce)和(he)能(neng)力(li)預(yu)測(ce)科(ke)學(xue)，以(yi)便(bian)製(zhi)定(ding)正(zheng)確(que)的(de)監(jian)管(guan)措(cuo)施(shi)。

傑弗裏·布萊克本：我希望政府有能夠理解你們在做什麼的人。

米拉·穆拉蒂：看起來越來越多的人加入政府，他們對AI有更好的理解，但還不夠。

AI對各個行業的影響

傑弗裏·布萊克本：在行業方麵，你可能是世界上最能看到AI如何影響各個行業的人。它已經在金融、內容、媒體和醫療保健中產生了影響。但展望未來
，你認為哪些行業會受到AI和OpenAI工作的最大影響
？

米拉·穆拉蒂：這有點類似於我們開始基於GPT-3構建產品時，企業家們問我的問題


，“我可以用它做什麼？它擅長什麼
？”wodehuidashi，yiqie。suoyiquchangshiba。worenweizheyoudianleisi，worenweitahuiyingxiangsuoyoulingyu，meiyounagelingyubuhuishoudaoyingxiang，wulunshirenzhigongzuohaishirenzhilaodong。yexujinruwulishijiehuihuagengchangshijian，danworenweisuoyoulingyudouhuishoudaoyingxiang。womenyijingkandao…我(wo)認(ren)為(wei)在(zai)高(gao)風(feng)險(xian)領(ling)域(yu)

，如(ru)醫(yi)療(liao)保(bao)健(jian)或(huo)法(fa)律(lv)領(ling)域(yu)，有(you)一(yi)定(ding)的(de)滯(zhi)後(hou)。這(zhe)是(shi)有(you)道(dao)理(li)的(de)。首(shou)先(xian)，你(ni)要(yao)在(zai)低(di)風(feng)險(xian)和(he)中(zhong)等(deng)風(feng)險(xian)的(de)用(yong)例(li)中(zhong)引(yin)入(ru)它(ta)
，確(que)保(bao)這(zhe)些(xie)領(ling)域(yu)的(de)使(shi)用(yong)得(de)到(dao)了(le)充(chong)分(fen)的(de)處(chu)理(li)，然(ran)後(hou)再(zai)應(ying)用(yong)於(yu)高(gao)風(feng)險(xian)的(de)事(shi)情(qing)。最(zui)初(chu)，需(xu)要(yao)更(geng)多(duo)的(de)人(ren)類(lei)監(jian)督(du)，然(ran)後(hou)可(ke)以(yi)逐(zhu)漸(jian)改(gai)變(bian)授(shou)權(quan)

，逐(zhu)步(bu)進(jin)行(xing)更(geng)為(wei)協(xie)作(zuo)的(de)應(ying)用(yong)。

傑弗裏·布萊克本：有沒有你個人喜歡的、看到的或者即將看到的用例？

米拉·穆拉蒂：是的，我認為基本上你嚐試做的任何事情的第一部分，無論是創建新設計、編寫代碼、寫文章
、寫電子郵件或基本上任何事情，第一部分變得非常容易。這是我最喜歡的用法。目前我真的用它來寫各種類型文稿。

傑弗裏·布萊克本：所有事情的初稿。

米拉·穆拉蒂：shide，suoyoushiqingdechugao。takuaideduo。tajiangdilezuomoushidemenkan，nikeyizhuanzhuyugengjuchuangyihegengkunnandebufen，youqishizaibianchengfangmian。nikeyijianghenduofansuodegongzuowaibaochuqu。

傑弗裏·布萊克本：文檔和類似的東西。

米拉·穆拉蒂：是的，文檔和其他類似文件 但(dan)在(zai)工(gong)業(ye)界(jie)
，我(wo)們(men)看(kan)到(dao)了(le)很(hen)多(duo)應(ying)用(yong)。客(ke)戶(hu)服(fu)務(wu)絕(jue)對(dui)是(shi)一(yi)個(ge)重(zhong)要(yao)的(de)應(ying)用(yong)，使(shi)用(yong)聊(liao)天(tian)機(ji)器(qi)人(ren)
，寫(xie)作(zuo)和(he)分(fen)析(xi)也(ye)是(shi)，因(yin)為(wei)現(xian)在(zai)我(wo)們(men)已(yi)經(jing)將(jiang)很(hen)多(duo)工(gong)具(ju)連(lian)接(jie)到(dao)核(he)心(xin)模(mo)型(xing)上(shang)，這(zhe)使(shi)得(de)這(zhe)些(xie)模(mo)型(xing)更(geng)加(jia)可(ke)用(yong)和(he)高(gao)效(xiao)。所(suo)以(yi)你(ni)有(you)像(xiang)代(dai)碼(ma)分(fen)析(xi)這(zhe)樣(yang)的(de)工(gong)具(ju)。它(ta)實(shi)際(ji)上(shang)可(ke)以(yi)分(fen)析(xi)大(da)量(liang)數(shu)據(ju)。你(ni)可(ke)以(yi)將(jiang)各(ge)種(zhong)數(shu)據(ju)放(fang)進(jin)去(qu)，它(ta)可(ke)以(yi)幫(bang)助(zhu)你(ni)分(fen)析(xi)和(he)過(guo)濾(lv)數(shu)據(ju)，或(huo)者(zhe)你(ni)可(ke)以(yi)使(shi)用(yong)圖(tu)像(xiang)和(he)瀏(liu)覽(lan)工(gong)具(ju)。所(suo)以(yi)如(ru)果(guo)你(ni)在(zai)準(zhun)備(bei)一(yi)篇(pian)論(lun)文(wen)
，研(yan)究(jiu)工(gong)作(zuo)可(ke)以(yi)更(geng)快(kuai)且(qie)更(geng)嚴(yan)格(ge)地(di)完(wan)成(cheng)。所(suo)以(yi)我(wo)認(ren)為(wei)這(zhe)是(shi)生(sheng)產(chan)力(li)的(de)下(xia)一(yi)層(ceng)
，將(jiang)這(zhe)些(xie)工(gong)具(ju)添(tian)加(jia)到(dao)核(he)心(xin)模(mo)型(xing)中(zhong)，並(bing)使(shi)其(qi)非(fei)常(chang)無(wu)縫(feng)。模(mo)型(xing)決(jue)定(ding)何(he)時(shi)使(shi)用(yong)分(fen)析(xi)工(gong)具(ju)、搜索或其他東西。

傑弗裏·布萊克本：編寫程序。是的，是的。有趣。它看過每部電視劇和電影嗎，它會開始編寫劇本和製作電影嗎？

米拉·穆拉蒂：它ta是shi一yi個ge工gong具ju。因yin此ci，它ta當dang然ran可ke以yi作zuo為wei工gong具ju做zuo到dao這zhe一yi點dian，我wo預yu計ji我wo們men實shi際ji上shang會hui與yu它ta合he作zuo，這zhe將jiang擴kuo展zhan我wo們men的de創chuang造zao力li。如ru果guo你ni現xian在zai考kao慮lv人ren類lei如ru何he看kan待dai創chuang造zao力li，我wo們men認ren為wei這zhe是shi一yi個ge隻zhi有you少shao數shu有you才cai華hua的de人ren才cai能neng接jie觸chu到dao的de非fei常chang特te殊shu的de東dong西xi。而er這zhe些xie工gong具ju實shi際ji上shang降jiang低di了le任ren何he人ren認ren為wei自zi己ji有you創chuang造zao力li並bing擴kuo展zhan他ta們men創chuang造zao力li的de門men檻kan。所suo以yi從cong這zhe個ge意yi義yi上shang說shuo
，我wo認ren為wei它ta實shi際ji上shang會hui非fei常chang不bu可ke思si議yi。

傑弗裏·布萊克本：是的
，可以很容易地給我200種不同的懸念，作為第一集的結尾。

米拉·穆拉蒂：是的。你可以延續這個故事

，故事永遠不會結束。你可以繼續。我寫完了

，但可以繼續。

傑弗裏·布萊克本：這很有趣。

米拉·穆拉蒂：但我認為它真的會成為一個協作工具，尤其是在創意領域。

傑弗裏·布萊克本：我也是這樣認為的。

米拉·穆拉蒂：是的，更多的人會變得更有創造力。

傑弗裏·布萊克本：現在有些恐懼。

米拉·穆拉蒂：是的，當然。

傑弗裏·布萊克本：但你說這會改變，人類會發現如何使工作的創意部分變得更好？

米拉·穆拉蒂：worenweishide，youxiechuangyigongzuokenenghuixiaoshi
，danruguochanshengdeneirongzhiliangbugao，yexutamenbenbuyinggaicunzai。danwozhendexiangxin，jiangqiyongzuojiaoyuhechuangzaolidegongju，jiangkuozhanwomendezhili、創造力和想象力。

傑弗裏·布萊克本：當時人們認為CGI等會破壞電影業。他們非常害怕。我認為這是更大的一件事，但任何類似的新事物，立即的反應都會是“哦天哪，這是…”，但dan我wo希xi望wang你ni在zai電dian影ying和he電dian視shi方fang麵mian是shi對dui的de。好hao的de，你ni提ti到dao了le工gong作zuo方fang麵mian的de問wen題ti，暫zan且qie不bu提ti好hao萊lai塢wu的de事shi
，有you很hen多duo人ren擔dan心xin他ta們men的de工gong作zuo處chu於yu風feng險xian中zhong。你ni對duiAI對工作的影響有什麼看法
，不僅僅是你在OpenAI所做的工作，而是整體上。人們應該真的擔心這個嗎，哪些工作會受到影響

，你怎麼看待這一切
？

米拉·穆拉蒂：是的，事實是我們還不完全理解AI對(dui)工(gong)作(zuo)的(de)影(ying)響(xiang)。第(di)一(yi)步(bu)是(shi)幫(bang)助(zhu)人(ren)們(men)了(le)解(jie)這(zhe)些(xie)係(xi)統(tong)的(de)能(neng)力(li)

，了(le)解(jie)它(ta)們(men)能(neng)做(zuo)什(shen)麼(me)，將(jiang)它(ta)們(men)整(zheng)合(he)到(dao)他(ta)們(men)的(de)工(gong)作(zuo)流(liu)程(cheng)中(zhong)，然(ran)後(hou)開(kai)始(shi)預(yu)測(ce)和(he)預(yu)測(ce)影(ying)響(xiang)。我(wo)認(ren)為(wei)人(ren)們(men)沒(mei)有(you)意(yi)識(shi)到(dao)這(zhe)些(xie)工(gong)具(ju)已(yi)經(jing)在(zai)使(shi)用(yong)了(le)，而(er)且(qie)完(wan)全(quan)沒(mei)有(you)進(jin)行(xing)研(yan)究(jiu)。所(suo)以(yi)我(wo)們(men)應(ying)該(gai)研(yan)究(jiu)現(xian)在(zai)工(gong)作(zuo)的(de)性(xing)質(zhi)、jiaoyudexingzhi
，zhejiangbangzhuwomenweizhexiezengqiangdenenglizuozhunbei。zaijutidegongzuofangmian，wobushijingjixuejia
，danwoqueshiyujiandaohenduogongzuohuifashengbianhua，yixiegongzuohuixiaoshi
，yixiegongzuohuichuxian。womenbuqueqiezhidaotahuishishenmeyangzi
，dannikeyixiangxianghenduozhongfuxingdegongzuo，naxiejinjinshiyangezhongfuxingdegongzuo，renmenmeiyoujinyibufazhande

，naxiegongzuojianghuibeiqudai。

AI對就業機會的影響

傑弗裏·布萊克本：你認為其他地方會創造足夠的就業機會來彌補這一點嗎
？

米拉·穆拉蒂：我認為會創造很多工作
，但到底會創造多少、改變多少、失(shi)去(qu)多(duo)少(shao)工(gong)作(zuo)，我(wo)不(bu)知(zhi)道(dao)。我(wo)認(ren)為(wei)沒(mei)人(ren)真(zhen)的(de)知(zhi)道(dao)，因(yin)為(wei)這(zhe)還(hai)沒(mei)有(you)被(bei)嚴(yan)格(ge)研(yan)究(jiu)，但(dan)確(que)實(shi)應(ying)該(gai)被(bei)研(yan)究(jiu)。我(wo)認(ren)為(wei)經(jing)濟(ji)會(hui)轉(zhuan)型(xing)，這(zhe)些(xie)工(gong)具(ju)會(hui)創(chuang)造(zao)很(hen)多(duo)價(jia)值(zhi)。所(suo)以(yi)問(wen)題(ti)是(shi)
，我(wo)們(men)如(ru)何(he)利(li)用(yong)這(zhe)些(xie)價(jia)值(zhi)？如(ru)果(guo)工(gong)作(zuo)的(de)性(xing)質(zhi)真(zhen)的(de)改(gai)變(bian)了(le)，那(na)麼(me)我(wo)們(men)如(ru)何(he)將(jiang)這(zhe)種(zhong)經(jing)濟(ji)價(jia)值(zhi)分(fen)配(pei)到(dao)社(she)會(hui)中(zhong)
？是(shi)通(tong)過(guo)公(gong)共(gong)福(fu)利(li)？是(shi)通(tong)過(guo)基(ji)本(ben)收(shou)入(ru)
？還(hai)是(shi)通(tong)過(guo)其(qi)他(ta)新(xin)的(de)係(xi)統(tong)
？有(you)很(hen)多(duo)問(wen)題(ti)需(xu)要(yao)探(tan)索(suo)和(he)解(jie)決(jue)。

傑弗裏·布萊克本：高等教育在你描述的工作中有很大的作用。這還沒有完全實現。

米拉·穆拉蒂：是的。

未來AI在教育中扮演的角色

傑弗裏·布萊克本：高等教育和AI的未來還有什麼？你認為高等教育在你所看到的發展中的角色是什麼？

米拉·穆拉蒂：我認為真正需要弄清楚的是如何使用這些工具和AI來推進教育。因為我認為AI最zui強qiang大da的de應ying用yong之zhi一yi將jiang會hui在zai教jiao育yu方fang麵mian，推tui進jin我wo們men的de創chuang造zao力li和he知zhi識shi。我wo們men有you機ji會hui建jian立li超chao級ji高gao質zhi量liang且qie非fei常chang容rong易yi獲huo得de的de教jiao育yu，理li想xiang情qing況kuang下xia是shi免mian費fei提ti供gong給gei世shi界jie上shang任ren何he人ren，無wu論lun是shi任ren何he語yu言yan或huo文wen化hua細xi微wei差cha別bie。你ni真zhen的de可ke以yi為wei世shi界jie上shang任ren何he人ren提ti供gong定ding製zhi的de理li解jie和he教jiao育yu。當dang然ran，在zai像xiang達da特te茅mao斯si這zhe樣yang的de機ji構gou，課ke堂tang較jiao小xiao

，你ni會hui有you很hen多duo關guan注zhu
，但dan即ji便bian如ru此ci
，你ni仍reng然ran可ke以yi想xiang象xiang有you一yi對dui一yi的de輔fu導dao，不bu僅jin在zai這zhe裏li，更geng不bu用yong說shuo在zai世shi界jie其qi他ta地di方fang了le。

傑弗裏·布萊克本：補充。

米拉·穆拉蒂：是shi的de。因yin為wei我wo們men沒mei有you花hua足zu夠gou的de時shi間jian學xue習xi如ru何he學xue習xi。這zhe種zhong事shi情qing發fa生sheng得de很hen晚wan，可ke能neng在zai大da學xue。這zhe是shi一yi個ge基ji本ben的de事shi情qing，如ru何he學xue習xi
，否fou則ze你ni會hui浪lang費fei很hen多duo時shi間jian。課ke程cheng
、教材

、問題集，一切都可以根據你的實際學習方式進行定製。

傑弗裏·布萊克本：你認為在像達特茅斯這樣的地方，它可以補充一些正在發生的學習嗎？

米拉·穆拉蒂：哦，絕對是的。

觀眾提問環節

傑弗裏·布萊克本：隻要有AI作為導師等等。我們可以開放提問嗎？你願意接受觀眾提問嗎
？可以嗎？

米拉·穆拉蒂：很高興。

傑弗裏·布萊克本：好的。我們為什麼不這樣做呢。Dave
，你想開始嗎
？

Dave: 當然，如果你不介意的話。達特茅斯的第一位計算機科學家之一John Kemeny曾經講過一個關於每個由人類構建的計算機程序都嵌入了人類價值觀的講座，無論是有意還是無意的。我想知道的是
，你認為GPT產品中嵌入了哪些人類價值觀，或者換句話說
，我們應該如何將尊重、公平、公正
、誠實
、正直等價值觀嵌入到這些工具中？

米拉·穆拉蒂：這zhe是shi一yi個ge很hen好hao的de問wen題ti，也ye很hen難nan
，這zhe是shi我wo們men多duo年nian來lai一yi直zhi在zai思si考kao的de事shi情qing。所suo以yi現xian在zai

，如ru果guo你ni看kan看kan這zhe些xie係xi統tong，很hen多duo價jia值zhi觀guan是shi通tong過guo數shu據ju輸shu入ru的de，而er這zhe些xie數shu據ju來lai自zi互hu聯lian網wang
、許可數據、以(yi)及(ji)由(you)人(ren)類(lei)合(he)同(tong)工(gong)標(biao)記(ji)的(de)某(mou)些(xie)問(wen)題(ti)或(huo)問(wen)題(ti)。每(mei)一(yi)個(ge)輸(shu)入(ru)都(dou)有(you)特(te)定(ding)的(de)價(jia)值(zhi)觀(guan)
，這(zhe)些(xie)是(shi)他(ta)們(men)價(jia)值(zhi)觀(guan)的(de)集(ji)合(he)，這(zhe)很(hen)重(zhong)要(yao)。當(dang)你(ni)實(shi)際(ji)將(jiang)這(zhe)些(xie)產(chan)品(pin)投(tou)入(ru)使(shi)用(yong)時(shi)，我(wo)認(ren)為(wei)你(ni)有(you)機(ji)會(hui)通(tong)過(guo)讓(rang)更(geng)多(duo)的(de)人(ren)使(shi)用(yong)它(ta)來(lai)獲(huo)得(de)更(geng)廣(guang)泛(fan)的(de)價(jia)值(zhi)觀(guan)集(ji)合(he)。所(suo)以(yi)現(xian)在(zai)
，ChatGPT有一個免費的版本，最強大的係統，由全球超過1億人使用。這些人中的每一個都可以為ChatGPT提ti供gong反fan饋kui。如ru果guo他ta們men允yun許xu我wo們men使shi用yong這zhe些xie數shu據ju，我wo們men將jiang用yong它ta來lai創chuang建jian一yi個ge價jia值zhi觀guan的de集ji合he，使shi係xi統tong更geng好hao，更geng符fu合he人ren們men的de期qi望wang。但dan這zhe隻zhi是shi默mo認ren係xi統tong。你ni還hai需xu要yao在zai其qi上shang麵mian建jian立li一yi個ge自zi定ding義yi層ceng
，每mei個ge社she區qu都dou可ke以yi有you自zi己ji的de價jia值zhi觀guan，比bi如ru學xue校xiao、教堂
、guojia，shenzhishizhou。tamenkeyizaizhegejuyoujibenrenleijiazhiguandemorenxitongzhishang，tigonggengjutihejingquedejiazhiguan。womenyezaiyanjiuruheshixianzheyidian。danzhexianranshiyigefeichangkunnandewenti，yinweirenleizhijianyoufenqi，haiyoujishuwenti。zaijishuwentishang，worenweiwomenyijingqudelehenduojinzhan。womenyouxiangqianghuaxuexiyurenleifankuizheyangdefangfa，geirenmentigongjihuijiangtamendejiazhiguanshuruxitong。

我們剛剛開發了一個稱為Spec的東西，它提供了係統價值觀的透明度。我們正在建立一種反饋機製，收集如何改進Spec的輸入和數據。你可以把它看作是AIxitongdexianfa，dantashiyigebuduanfazhandexianfa。tasuizheshijiandetuiyibiandegengjiajingque，yinweiwomendejiazhiguanyezaibuduanfazhan。zheshiwomenzaidalianggongzuodeshiqing。worenweixianzaiwomenguanzhudeshijibenjiazhiguan。dansuizhexitongbiandeyuelaiyuefuza，womenjiangbudebukaolvgengjingxidejiazhiguan。

傑弗裏·布萊克本：你能防止AI生氣嗎？

米拉·穆拉蒂：生氣？

傑弗裏·布萊克本：是的。這是其中一個價值觀嗎？

米拉·穆拉蒂：這應該由你來決定。如果你作為用戶，完全可以控製AI的情緒變化。

傑弗裏·布萊克本：哦，如果你想要一個生氣的聊天機器人，你可以擁有它。

米拉·穆拉蒂：是的，如果你想要一個生氣的聊天機器人
，你應該可以擁有一個生氣的聊天機器人。

傑弗裏·布萊克本：好的，就在這裏。

Dr. Joy: 你好，謝謝。這裏是Dr. Joy。恭喜你獲得榮譽學位，並祝賀你在OpenAI所做的一切。我非常好奇你對創作權和生物特征權的看法。你之前提到可能有些創意工作不應該存在，許多創意人士正在思考關於同意、peichangdewenti，wulunshizhuanyoumoxinghaishikaiyuanmoxing，qishujudoushiconghulianwangshanghuoqude。suoyiwofeichanghaoqiniduitongyihepeichangshejichuangzuoquandekanfa。jiranwomenzaidaxueli
，nizhidaoduobufenwentidehuidama？lingyigewentishiguanyushengwutezhengquande，suoyidangshejidaoshengyin、麵孔等問題時。最近關於Skydeshengyindezhengyi，yijiniyekeyiyouxiangsishengyinhexiangsimiankongderen，yijizairucizhongyaodexuanjunianchuxiandesuoyouxujiaxinxiweixie
，woyefeichanghaoqiniduishengwutezhengquanfangmiandekanfa。

米拉·穆拉蒂：好的
，我從最後一部分開始… womenzaiyuyinjishufangmianzuoledaliangyanjiu，zhidaozuijincaifabutamen，zhengshiyinweitamendailailehenduofengxianhewenti。danzhongyaodeshiyaorangshehuicanyujinlai，yiyizhongkeyiyouhulanhekongzhifengxiandefangshitigongfangwen，bingrangqitarenyanjiuhezaizhexiewentishangqudejinzhan。liru
，womenzhengzaiyujigouhezuo
，bangzhuwomensikaozaiyoushengyinheshipindeqingkuangxia

，renleiyuAI的互動
，因為這些是非常情感激發的模態。我們需要開始理解這些事情會如何發展以及如何準備。在那種特定情況下

，Sky的聲音不是Scarlett Johansson的
，也不打算是，它是一個完全平行的過程。我負責選擇聲音，而我們的CEO正在與Scarlett Johansson對話… 出於對她的尊重
，我們將其撤下。有些人看到一些相似之處，這些是主觀的，我認為你可以… 是(shi)的(de)，你(ni)可(ke)以(yi)製(zhi)定(ding)一(yi)些(xie)紅(hong)隊(dui)測(ce)試(shi)流(liu)程(cheng)，例(li)如(ru)，如(ru)果(guo)聲(sheng)音(yin)被(bei)認(ren)為(wei)非(fei)常(chang)非(fei)常(chang)接(jie)近(jin)一(yi)個(ge)非(fei)常(chang)知(zhi)名(ming)的(de)公(gong)眾(zhong)聲(sheng)音(yin)，那(na)麼(me)也(ye)許(xu)你(ni)不(bu)會(hui)選(xuan)擇(ze)那(na)個(ge)特(te)定(ding)的(de)聲(sheng)音(yin)。

zaiwomendehongduiceshizhong，zhemeiyouchuxian，danzhejiushiweishenmezhongyaodeshiyeyaoyougengguangfandehongduiceshi，yibianzaixuyaoshijizaobuzhuozhexiewenti。dangengguangfandishuo，guanyushengwutezhengdewenti
，worenweiwomendecelveshizuichugeiyixieren，tongchangshizhuanjiahuohongduichengyuan，tigongfangwen
，bangzhuwomenhenhaodilijiefengxianhenengli。ranhouwomenjianlihuanjiecuoshi，dangwomenduizhexiehuanjiecuoshigengyouxinxinshi

，zhubuxianggengduorenkaifangfangwen。suoyiwomenbuyunxurenmenshiyongzhexiangjishuzhizuozijideshengyin，yinweiwomenhaizaiyanjiufengxian，womenburenweiwomennengchuligailingyudewuyong。danwomenduichulizaiyigexiaofanweineidefeichangjutideshengyindewuyongganjiaolianghao，zhebenzhishangshikuozhandehongduiceshi。dangwomenjiangqikuozhandaoyiqianyonghushi
，womendeAlphafabu
，womenjiangyuyonghumiqiehezuo
，shoujifankuibinglijiebianyuanqingkuang

，yibianwomenzaikuozhanshiyongdaoshiwanrenshiweizhexiebianyuanqingkuangzuohaozhunbei。ranhoushibaiwan，ranhoushiyi，dengdeng。danzheshizaidaliangkongzhixiajinxingde，zhejiushiwomensuoweidediedaibushu。ruguowomenbunengduizhexieyongligandaomanyi
，namewomenjiangbuhuizaitedingyonglihuokuozhanyonghuzhongfabutamen，womenkenenghuichangshizaimouzhongchengdushangxueruochanpin，yinweinenglihefengxianshixiangfuxiangchengde。danwomenyezaijinxingdaliangyanjiu，bangzhuwomenchulineironglaiyuanheneirongzhenshixingdewenti，yibianrenmenyougongjulailijiemouxiedongxishifoushishenduweizaohuochuanboxujiaxinxi。

自從OpenAI成立以來，我們一直在研究虛假信息，並建立了很多工具，如水印、neirongzhengce，yunxuwomenguanlixujiaxinxidekenengxing，tebieshizaijinnianshiquanqiuxuanjunian。womenzaizhefangmiandegongzuogengjiamiji。danzheshiyigejijutiaozhandelingyu
，zuoweijishuhechanpindezhizaozhe，womenxuyaozuodalianggongzuo，tongshiyuminjianshehui
、媒體和內容創作者合作，以解決這些問題。當我們開發像音頻或Sora這樣的技術時，我們在紅隊成員之後首先與內容創作者合作
，以實際了解技術如何幫助他們以及如何構建既安全
、有用且對社會有益的產品。這就是我們在Dall-E上所做的，也是我們在SORA視頻生成模型上所做的。

米拉·穆拉蒂：你的第一個問題。

Dr. Joy: 創作權。

米拉·穆拉蒂：創作權。

Dr. Joy: 關於補償、同意、控製和信用。

米拉·穆拉蒂：是shi的de，這zhe也ye非fei常chang重zhong要yao且qie具ju有you挑tiao戰zhan性xing。目mu前qian我wo們men與yu媒mei體ti公gong司si進jin行xing了le很hen多duo合he作zuo，也ye給gei予yu人ren們men很hen多duo控kong製zhi他ta們men數shu據ju如ru何he在zai產chan品pin中zhong使shi用yong的de權quan利li。如ru果guo他ta們men不bu希xi望wang他ta們men的de數shu據ju被bei用yong於yu改gai進jin模mo型xing或huo用yong於yu任ren何he研yan究jiu或huo訓xun練lian，這zhe完wan全quan可ke以yi
，我wo們men不bu會hui使shi用yong這zhe些xie數shu據ju。對dui於yu創chuang作zuo者zhe社she區qu
，我wo們men早zao期qi就jiu提ti供gong這zhe些xie工gong具ju的de訪fang問wen權quan限xian，這zhe樣yang我wo們men可ke以yi首shou先xian聽ting取qu他ta們men的de意yi見jian，了le解jie他ta們men希xi望wang如ru何he使shi用yong這zhe些xie工gong具ju，並bing構gou建jian最zui有you用yong的de產chan品pin。而er且qie這zhe些xie都dou是shi研yan究jiu產chan物wu，我wo們men不bu必bi不bu惜xi一yi切qie代dai價jia去qu構gou建jian產chan品pin。隻zhi有you當dang我wo們men找zhao到dao一yi種zhong真zhen正zheng有you助zhu於yu推tui動dong人ren類lei進jin步bu的de方fang式shi時shi
，我wo們men才cai會hui去qu做zuo。我wo們men還hai在zai實shi驗yan一yi些xie方fang法fa，基ji本ben上shang創chuang建jian我wo們men的de工gong具ju，允yun許xu人ren們men因yin為wei數shu據ju貢gong獻xian而er獲huo得de補bu償chang。這zhe在zai技ji術shu方fang麵mian和he構gou建jian這zhe樣yang的de產chan品pin方fang麵mian都dou非fei常chang棘ji手shou
，因yin為wei你ni必bi須xu弄nong清qing楚chu特te定ding數shu量liang的de數shu據ju在zai之zhi後hou訓xun練lian的de模mo型xing中zhong創chuang造zao了le多duo少shao價jia值zhi。也ye許xu單dan個ge數shu據ju的de價jia值zhi很hen難nan衡heng量liang

，但dan如ru果guo你ni能neng創chuang建jian一yi個ge數shu據ju聚ju合he和he池chi的de聯lian盟meng
，可ke能neng會hui更geng好hao。在zai過guo去qu的de兩liang年nian裏li

，我wo們men一yi直zhi在zai實shi驗yan各ge種zhong版ban本ben的de這zhe個ge概gai念nian。我wo們men還hai沒mei有you部bu署shu任ren何he東dong西xi，但dan我wo們men一yi直zhi在zai技ji術shu方fang麵mian進jin行xing實shi驗yan
，試shi圖tu真zhen正zheng理li解jie技ji術shu問wen題ti。我wo們men已yi經jing取qu得de了le一yi些xie進jin展zhan，但dan這zhe確que實shi是shi一yi個ge非fei常chang困kun難nan的de問wen題ti。

Dr. Joy: 我敢打賭會有很多新公司試圖為此構建解決方案。

米拉·穆拉蒂：是的，還有其他公司。

Dr. Joy: 這太難了。

米拉·穆拉蒂：是的。

主持人: 非常感謝你抽出時間來和我們談話。我的問題很簡單。如果你今天重返學校，重新來到Thayer或Dartmouth
，你會做什麼，會不做什麼？你會選擇什麼專業，或者你會參與更多的事情嗎？類似這樣的事情。

米拉·穆拉蒂：我想我會學同樣的東西，但可能會少一些壓力。是的，我認為我仍然會學習數學和其他… 也(ye)許(xu)我(wo)會(hui)多(duo)選(xuan)一(yi)些(xie)計(ji)算(suan)機(ji)科(ke)學(xue)課(ke)程(cheng)。但(dan)我(wo)會(hui)減(jian)少(shao)壓(ya)力(li)，因(yin)為(wei)這(zhe)樣(yang)你(ni)會(hui)以(yi)更(geng)多(duo)的(de)好(hao)奇(qi)心(xin)和(he)快(kuai)樂(le)去(qu)學(xue)習(xi)
，這(zhe)會(hui)更(geng)高(gao)效(xiao)。但(dan)我(wo)記(ji)得(de)

，作(zuo)為(wei)學(xue)生(sheng)，我(wo)總(zong)是(shi)有(you)點(dian)擔(dan)心(xin)未(wei)來(lai)會(hui)怎(zen)樣(yang)。如(ru)果(guo)我(wo)現(xian)在(zai)知(zhi)道(dao)這(zhe)些(xie)，對(dui)年(nian)輕(qing)的(de)自(zi)己(ji)
，我(wo)會(hui)說(shuo)，其(qi)實(shi)每(mei)個(ge)人(ren)都(dou)會(hui)告(gao)訴(su)我(wo)，“不要有壓力”

，但不知為何這並沒有用。當我與年長的校友交談時，他們總是說：“盡量享受它
，完全沉浸其中，少些壓力。”我(wo)認(ren)為(wei)，特(te)別(bie)是(shi)在(zai)具(ju)體(ti)課(ke)程(cheng)上(shang)，現(xian)在(zai)有(you)廣(guang)泛(fan)的(de)科(ke)目(mu)範(fan)圍(wei)並(bing)對(dui)每(mei)件(jian)事(shi)都(dou)有(you)一(yi)點(dian)理(li)解(jie)是(shi)好(hao)的(de)。我(wo)發(fa)現(xian)這(zhe)在(zai)學(xue)校(xiao)和(he)以(yi)後(hou)都(dou)非(fei)常(chang)有(you)幫(bang)助(zhu)，因(yin)為(wei)即(ji)使(shi)現(xian)在(zai)我(wo)在(zai)一(yi)個(ge)研(yan)究(jiu)機(ji)構(gou)工(gong)作(zuo)，我(wo)也(ye)在(zai)不(bu)斷(duan)學(xue)習(xi)。你(ni)永(yong)遠(yuan)不(bu)會(hui)停(ting)止(zhi)。這(zhe)對(dui)理(li)解(jie)每(mei)件(jian)事(shi)都(dou)有(you)一(yi)點(dian)幫(bang)助(zhu)非(fei)常(chang)有(you)用(yong)。

傑弗裏·布萊克本： 非常感謝！

米拉·穆拉蒂：謝謝你們今天的到來
，也感謝你們為社會所做的極其重要的工作，說實話。這真的很重要，我很高興你在這個位置上

傑弗裏·布萊克本：我們所有人，包括Thayer和Dartmouth的de所suo有you人ren都dou感gan謝xie你ni。所suo以yi我wo認ren為wei這zhe是shi一yi個ge結jie束shu的de好hao地di方fang，對dui我wo們men的de學xue生sheng來lai說shuo也ye是shi一yi個ge很hen好hao的de建jian議yi。這zhe是shi一yi個ge非fei常chang有you趣qu的de對dui話hua，再zai次ci感gan謝xie大da家jia的de到dao來lai。享xiang受shou畢bi業ye周zhou末mo的de剩sheng餘yu時shi間jian吧ba。