最近幾年，人工智能來(lai)迎來(lai)了重大進展，在(zai)機(ji)器學習、自然語言處理和(he)(he)計算機(ji)視(shi)覺方面取得了技(ji)術突破。在(zai)數字化轉型進入(ru)深水區后，人工(gong)(gong)智(zhi)(zhi)能已經可(ke)以成熟應用于各行各業中，包括(kuo)醫療(liao)、保險、金融和(he)(he)交(jiao)通運輸等，人工(gong)(gong)智(zhi)(zhi)能徹(che)底改變了我(wo)們的生活和(he)(he)工(gong)(gong)作方式。
2023 年 6 月 9 日，由北京(jing)智(zhi)源人(ren)工智(zhi)能(neng)研究院主辦(ban)的2023 北京(jing)智(zhi)源大(da)(da)會在中關(guan)村國家自主創新(xin)示范(fan)區會議中心開幕(mu)，會期兩天(tian)。智(zhi)源大(da)(da)會是(shi)北京(jing)創建全球人(ren)工智(zhi)能(neng)學(xue)術(shu)和創新(xin)最優生態(tai)的標志(zhi)性(xing)學(xue)術(shu)活動，本文為 InfoQ 記者帶(dai)來的現場報(bao)道。
以下內容(rong)根據 OpenAI 創始人 Sam Altman 演講速記進行整(zheng)理，未經本人確認。
OpenAI 創始人(ren) Sam Altman：我(wo)(wo)最近在(zai)做(zuo)全(quan)球巡(xun)回的(de)訪問，期間(jian)穿(chuan)越五大洲近 20 個(ge)國家，接觸了(le)(le)諸多的(de)學生(sheng)、開發者，這趟出行令(ling)人(ren)振(zhen)奮，我(wo)(wo)們(men)(men)(men)見證了(le)(le)全(quan)球各(ge)地的(de)人(ren)們(men)(men)(men)利用(yong) OpenAI 的(de)新技術來(lai)改變生(sheng)活方式，我(wo)(wo)們(men)(men)(men)也獲得了(le)(le)非常(chang)寶貴的(de)意(yi)見，以便于讓我(wo)(wo)們(men)(men)(men)的(de)工(gong)具優(you)化(hua)得更好(hao)。此外，我(wo)(wo)也有機會拜訪了(le)(le)多位外國領導人(ren)，討論確保(bao)越來(lai)越強(qiang)大的(de)人(ren)工(gong)智能系統安全(quan)部(bu)署所需的(de)各(ge)種(zhong)基礎(chu)工(gong)作。
坦白(bai)說，世界的(de)注意力主要集(ji)中在解決當今的(de)人工(gong)智能問(wen)題上，很多問(wen)題的(de)解決非常迫切，我(wo)們還有(you)很多工(gong)作要做，不過鑒于我(wo)們已(yi)經取得的(de)進展(zhan)，我(wo)相信我(wo)們會實現目標。
今天，我(wo)(wo)(wo)(wo)想談談未來(lai)。具體來(lai)說，我(wo)(wo)(wo)(wo)們(men)正在看到人(ren)工智(zhi)能(neng)能(neng)力的迅速增(zeng)長，現(xian)在需要做的是負責任地將其應用到世界(jie)中去。科(ke)學的歷史告訴我(wo)(wo)(wo)(wo)們(men)，技術進步(bu)遵循指數曲線(xian)。這在農業、工業和計算革命中得(de)到了(le)驗證(zheng)。現(xian)在，我(wo)(wo)(wo)(wo)們(men)親眼目睹人(ren)工智(zhi)能(neng)變革，不(bu)僅因(yin)為我(wo)(wo)(wo)(wo)們(men)正在見證(zheng)它，而且因(yin)為它帶(dai)來(lai)的變革速度(du)。
它(ta)正在迅(xun)速拓展(zhan)人類的(de)(de)想象力(li)。想象一下，在未來十年，人工通(tong)用智能系(xi)統(常稱為 AGI)將會超過(guo) 90 年代初，人類所具(ju)備的(de)(de)專業水平，這些系(xi)統最(zui)終可能超過(guo)人類最(zui)大(da)(da)體量公(gong)司的(de)(de)總體生產力(li)，這里(li)的(de)(de)潛在收(shou)益是巨大(da)(da)的(de)(de)。
人工智能革(ge)命將帶來可共享的(de)(de)(de)(de)財富，使改善人類(lei)互動標(biao)準成為可能，但我(wo)們必須管理好(hao)風(feng)險，并共同(tong)(tong)(tong)努力來實(shi)(shi)現預期目標(biao)。我(wo)時常感覺一些(xie)人放棄(qi)他(ta)們應有的(de)(de)(de)(de)權(quan)益來實(shi)(shi)現人類(lei)共同(tong)(tong)(tong)的(de)(de)(de)(de)目標(biao)，在今天(tian)很多領域(yu)仍然如(ru)此——大國(guo)之間經常通過合作的(de)(de)(de)(de)方(fang)式(shi)來實(shi)(shi)現共同(tong)(tong)(tong)目標(biao)，這種(zhong)形式(shi)的(de)(de)(de)(de)合作對(dui)關鍵的(de)(de)(de)(de)醫學和(he)科學進展(zhan)都會帶來好(hao)處，比如(ru)根(gen)除小(xiao)兒麻痹癥(zheng)和(he)天(tian)花等(deng)疾病(bing)，以及全球減少氣候變(bian)化(hua)風(feng)險的(de)(de)(de)(de)努力。
隨著(zhu)越(yue)來(lai)越(yue)強(qiang)大的(de)(de)(de)人工智能系統的(de)(de)(de)出現(xian)，全球合作的(de)(de)(de)利(li)益變得前所未有地重要(yao)。如果我(wo)們(men)(men)不(bu)做好規(gui)劃，一個(ge)設計用于改善公共(gong)衛生結果的(de)(de)(de)未對(dui)齊(qi)的(de)(de)(de) AI 系統，可能會(hui)通過提(ti)供不(bu)平衡的(de)(de)(de)建(jian)議(yi)來(lai)破壞整個(ge)集體系統。同(tong)(tong)樣，一個(ge)旨在優化農(nong)業(ye)實踐的(de)(de)(de)人工智能系統可能會(hui)無意中(zhong)損害(hai)經濟和資(zi)源的(de)(de)(de)消耗，缺乏對(dui)長期可持續性的(de)(de)(de)考慮，從而影響食物生產和環(huan)境(jing)平衡。我(wo)希望我(wo)們(men)(men)都能認(ren)同(tong)(tong)，推進 AGI 安全是我(wo)們(men)(men)尋找(zhao)共(gong)同(tong)(tong)立(li)場的(de)(de)(de)最(zui)重要(yao)領(ling)域(yu)之一，我(wo)希望把時間(jian)都集中(zhong)在我(wo)們(men)(men)已經開(kai)始(shi)的(de)(de)(de)領(ling)域(yu)。
其中一(yi)個(ge)領(ling)域是(shi)(shi) AGI 治理(li)。AGI 的(de)(de)力量可以從根本上改變我(wo)們的(de)(de)文明，這突顯(xian)了有(you)意義的(de)(de)國際(ji)合作、協調(diao)的(de)(de)必要(yao)性，每個(ge)人都會從積(ji)極的(de)(de)治理(li)方法(fa)中受益。如果我(wo)們將這個(ge)核心的(de)(de)最先(xian)進政策網絡化(hua)，AGI 系統(tong)可以為全(quan)(quan)(quan)球經濟(ji)(ji)創造無(wu)與倫比(bi)的(de)(de)經濟(ji)(ji)豐富，解決共同(tong)的(de)(de)挑(tiao)戰，如氣(qi)候變化(hua)、全(quan)(quan)(quan)球健康安全(quan)(quan)(quan)，并在無(wu)數其他方面(mian)提升(sheng)社會福祉。我(wo)深信這也是(shi)(shi)未來(lai)，我(wo)們深處同(tong)一(yi)個(ge)星(xing)球，需要(yao)明確投資 AGI 的(de)(de)安全(quan)(quan)(quan)性的(de)(de)意義。
我(wo)(wo)們必須(xu)為魯(lu)莽的(de)開發和部(bu)署可(ke)能引發的(de)問(wen)題負起責任，其(qi)中(zhong)最重要的(de)兩個領域是：首先，我(wo)(wo)們需(xu)要建(jian)立起包容的(de)國(guo)(guo)際(ji)準(zhun)(zhun)則和標(biao)準(zhun)(zhun)，并(bing)(bing)在所有國(guo)(guo)家對 AGI 的(de)使用中(zhong)建(jian)立平等、統一的(de)防(fang)護措施(shi)。其(qi)次，我(wo)(wo)們需(xu)要國(guo)(guo)際(ji)合作，以可(ke)驗證的(de)方(fang)式(shi)在全球(qiu)范圍內建(jian)立對越來越強大(da)的(de) AGI 系統安全開發的(de)信任，我(wo)(wo)知道這并(bing)(bing)不容易。
作為國際社會，我(wo)們需(xu)要對安全進(jin)行(xing)(xing)長期的關注和投入，以(yi)確(que)(que)保我(wo)們做得(de)正確(que)(que)。《道德經》提(ti)醒我(wo)們，“千(qian)里之行(xing)(xing)，始于足下”，最有建設(she)性的第一(yi)步是與國際科技(ji)界展(zhan)開合(he)作，推動增加 AGI 安全技(ji)術進(jin)展(zhan)的透明(ming)度和知識(shi)的機制，發現緊急問題(ti)的研究(jiu)人員應該與更多人共享研究(jiu)成(cheng)果。
我(wo)們(men)(men)需要更(geng)加(jia)深(shen)入地思考如(ru)何在鼓(gu)勵推動國際合作的同時尊重和(he)保護知(zhi)識產(chan)權。如(ru)果我(wo)們(men)(men)做得好，這將為我(wo)們(men)(men)打開(kai)深(shen)化合作的新大門。更(geng)廣泛地說，我(wo)們(men)(men)應該推動并引導與安全研究一致的投資(zi)。
當前，我們(men)關注的(de)是如(ru)何使 AI 系統成為一個(ge)有(you)益和安全的(de)助(zhu)手，這對應的(de)是如(ru)何訓練模(mo)型，使其(qi)在沒有(you)安全威(wei)脅的(de)前提(ti)下發揮積極作用，不過，隨著 AGI 時代的(de)接近，其(qi)帶(dai)來(lai)的(de)潛(qian)(qian)在影(ying)響、問題將(jiang)呈指數級增長，所以，我們(men)需要通(tong)過主動應對 AGI 帶(dai)來(lai)的(de)潛(qian)(qian)在挑戰，將(jiang)未來(lai)災(zai)難性(xing)后果(guo)的(de)風險降至最(zui)低。
從(cong) GPT-4 完(wan)成預訓(xun)練到部署，我們花了八個(ge)(ge)月的(de)(de)時間來(lai)研究這個(ge)(ge)如何前(qian)置預判風險(xian)并給出對策的(de)(de)問(wen)題(ti)，我們認(ren)為我們走在(zai)了正確的(de)(de)道(dao)路上(shang)，GPT-4 的(de)(de)對齊程度超過當前(qian)所有的(de)(de)代碼(ma)(ma)。不過，對于更高級的(de)(de)系(xi)統，對齊仍然是一個(ge)(ge)尚(shang)未解決的(de)(de)問(wen)題(ti)，我們認(ren)為需要新的(de)(de)技術方法以及(ji)加強(qiang)治理(li)監督，畢(bi)竟未來(lai)的(de)(de) AGI，可(ke)能是一個(ge)(ge)十(shi)萬行二進制代碼(ma)(ma)的(de)(de)系(xi)統。
人類(lei)監督(du)(du)者很難判(pan)斷如(ru)此(ci)規模(mo)的模(mo)型(xing)是否在(zai)(zai)做一些損害的事情。因此(ci)，我們正在(zai)(zai)投(tou)資于幾(ji)個(ge)新(xin)的，并且(qie)希望能取得成(cheng)果的方(fang)向(xiang)，其中之一是可擴展的監督(du)(du)，嘗(chang)試使用 AI 系統來(lai)(lai)協(xie)助人類(lei)監督(du)(du)其他 AI 系統。例如(ru)，我們可以(yi)訓練一個(ge)模(mo)型(xing)來(lai)(lai)幫(bang)助人類(lei)監督(du)(du)員找(zhao)出其他模(mo)型(xing)代碼中的缺陷。
第二個方向是可(ke)解(jie)釋(shi)性。我(wo)們(men)希望(wang)更(geng)好地(di)理解(jie)模型內部發生的(de)(de)(de)事情(qing)，我(wo)們(men)最近發表了一(yi)(yi)篇論文(wen)，使(shi)用 GPT-4 來解(jie)釋(shi)計(ji)算(suan)機(ji)的(de)(de)(de)復(fu)雜狀(zhuang)態。雖然還(huan)有很長的(de)(de)(de)路要走，但我(wo)們(men)相信先進的(de)(de)(de)機(ji)器學習技術可(ke)以進一(yi)(yi)步提高我(wo)們(men)解(jie)釋(shi)的(de)(de)(de)能(neng)力。
最終，我(wo)們的(de)目標是訓練 AI 系統具(ju)備更好(hao)地優化(hua)自身的(de)能力，這(zhe)種方法(fa)的(de)一個有前景(jing)的(de)方面(mian)在(zai)于——它可以與 AI 的(de)發展速度相適應(ying)。隨著(zhu)未來(lai)的(de)模(mo)型變(bian)得(de)越來(lai)越智能和強大，作為助手，我(wo)們將找到更好(hao)的(de)學習技術，在(zai)充分發揮 AI 的(de)非凡好(hao)處的(de)同時降(jiang)低風險。
我們認為，美(mei)國(guo)、中國(guo)乃至世(shi)(shi)界各地的(de)研究人員，在應對 AI 領(ling)域的(de)技(ji)術挑戰上(shang)的(de)合(he)作，存在巨大(da)潛力，想象人類(lei)可以利用 AI 來解決世(shi)(shi)界上(shang)最重要(yao)的(de)問題，大(da)幅改善生存條件和質量。
演講過后，Altman 以視頻連線(xian)的方(fang)式對話了智源研究(jiu)院理事長張宏江，以下內容為現場對話訪(fang)談：
張宏江：您提(ti)到了(le)正在(zai)和歐盟以及其(qi)他(ta) AI 領(ling)域溝通全(quan)球治理，現在(zai)進(jin)展(zhan)如何?我(wo)們距(ju)離 AGI 時代還(huan)有(you)多遠，有(you)沒有(you)什么可以證明距(ju)離這一天(tian)還(huan)很遙遠?假(jia)設(she)我(wo)們發(fa)現了(le)安(an)全(quan)的人工智(zhi)(zhi)能(neng)，是否意味著也找到了(le)不安(an)全(quan)的人工智(zhi)(zhi)能(neng)?
Sam Altman：這很難預(yu)測(ce)，仍然需要不斷地研究才能提(ti)供結論(lun)，并且這條路(lu)不會(hui)一帆風(feng)順(shun)，但(dan) AGI 可能很快就(jiu)會(hui)發(fa)生(sheng)，但(dan)在未來的 10 年(nian)內，我們可能會(hui)擁超強的 AI 系統。
在那種(zhong)(zhong)情況下，全(quan)球監(jian)管就非常的(de)緊迫(po)，而且歷史(shi)上也出現過(guo)很多新技術改變(bian)(bian)世(shi)界的(de)相(xiang)關(guan)的(de)案(an)例(li)，現在這種(zhong)(zhong)改變(bian)(bian)速度正變(bian)(bian)得更快，考(kao)慮到這種(zhong)(zhong)緊迫(po)性(xing)，我認為準備好迎接這一(yi)切(qie)并就安全(quan)問題作出正確(que)回答(da)非常重(zhong)要。
張宏江：所以，您(nin)覺得(de)這(正(zheng)確回答安全相(xiang)關的問題)是我們的優先事項?
Sam Altman：我(wo)(wo)想強調的(de)是，我(wo)(wo)們并(bing)不確切知(zhi)道(未來可能會(hui)如何)，尤其是現在(zai)對人工(gong)智能的(de)定義存在(zai)差異，但(dan)我(wo)(wo)認為在(zai) 10 年內，我(wo)(wo)們應該為一個擁有超(chao)強 AI 系統的(de)世界(jie)做好(hao)準備。
張宏江：您提到，OpenAI 是(shi)一個(ge)致力于全球合作(zuo)的機構，你們正在(zai)推動的全球合作(zuo)有哪(na)些，獲得了(le)哪(na)些回應，有什(shen)么(me)感(gan)受?
Sam Altman：我(wo)(wo)(wo)認(ren)為人(ren)們(men)(men)非常重視 AGI 的(de)風險(xian)和(he)機(ji)遇。在(zai)(zai)過去的(de)六個月里，相(xiang)關討論已經發生了很大變化(hua)。人(ren)們(men)(men)似乎真(zhen)心致力于找(zhao)到一種機(ji)制，既能讓(rang)我(wo)(wo)(wo)們(men)(men)享受這(zhe)些好(hao)處，又能在(zai)(zai)全球(qiu)范(fan)圍(wei)內(nei)共同努力減(jian)輕風險(xian)，我(wo)(wo)(wo)認(ren)為我(wo)(wo)(wo)們(men)(men)在(zai)(zai)這(zhe)方面做的(de)不錯。
全(quan)(quan)球合作始終是困難的(de)，但我認為這種機遇和(he)威(wei)脅(xie)確實能夠(gou)讓世界走到一起，我們(men)可(ke)以為這些系統制定(ding)一個(ge)框架和(he)安全(quan)(quan)標(biao)準，這非常有幫助(zhu)。
張宏江：在之(zhi)前(qian)有沒有的成功的案例，您能舉個例子(zi)嗎?
Sam Altman：我(wo)們(men)已經消除了一(yi)些(xie)全球合作的障礙。我(wo)們(men)已經解決了技術(shu)上(shang)的困(kun)難，例如(ru)真實世界交易的問題。有很多例子可(ke)以(yi)說明我(wo)們(men)已經有所(suo)突破。
張宏江：您提到了先進 AI 系統的(de)對齊問題，我也注意到在過(guo)去(qu)幾年(nian)中，許多 AI 系統都付出了很(hen)多努(nu)力來優(you)化其對齊性(xing)能，我們可以在近些年(nian)里完成對 AI 安全的(de)研究(jiu)嗎?
Sam Altman：我(wo)認(ren)為(wei)“對(dui)齊(qi)(qi)(qi)”這個詞在不(bu)同的(de)(de)(de)方(fang)式(shi)中被使用。我(wo)認(ren)為(wei)我(wo)們需要解決整個挑戰(zhan)，即能夠安全(quan)(quan)地訪問系統意味著(zhu)什(shen)么。從傳統意義(yi)上講，讓模型按照用戶意圖進行溝通的(de)(de)(de)對(dui)齊(qi)(qi)(qi)是其中的(de)(de)(de)一(yi)部(bu)分。還會有其他問題，例如我(wo)們如何(he)驗證系統正在按照我(wo)們的(de)(de)(de)意愿行事，以及我(wo)們將系統與哪(na)些價值觀對(dui)齊(qi)(qi)(qi)。我(wo)認(ren)為(wei)重要的(de)(de)(de)是全(quan)(quan)面(mian)考慮如何(he)獲得安全(quan)(quan)的(de)(de)(de) AI。
我(wo)(wo)(wo)認為對齊工作還在不斷演(yan)變中。我(wo)(wo)(wo)們(men)將(jiang)納(na)入(ru)市場上已有的(de)(de)工作模式。很多這(zhe)(zhe)些技(ji)(ji)術仍處于紙面(mian)(mian)之(zhi)上，但(dan)是(shi)(shi)(shi)我(wo)(wo)(wo)們(men)需要(yao)超(chao)越技(ji)(ji)術的(de)(de)其他因素。這(zhe)(zhe)是(shi)(shi)(shi)一(yi)(yi)個(ge)復(fu)雜的(de)(de)問(wen)題。AI 安全(quan)是(shi)(shi)(shi)最新的(de)(de)技(ji)(ji)術。因此，技(ji)(ji)術方(fang)面(mian)(mian)的(de)(de)創新是(shi)(shi)(shi)我(wo)(wo)(wo)們(men)需要(yao)考(kao)慮的(de)(de)因素之(zhi)一(yi)(yi)。我(wo)(wo)(wo)們(men)需要(yao)思考(kao)關鍵的(de)(de) AI 安全(quan)問(wen)題。我(wo)(wo)(wo)們(men)如何應(ying)對這(zhe)(zhe)些挑戰?就像我(wo)(wo)(wo)們(men)大(da)多數(shu)人都是(shi)(shi)(shi)科(ke)學(xue)家一(yi)(yi)樣去思考(kao)。我(wo)(wo)(wo)們(men)為什么要(yao)做(zuo)這(zhe)(zhe)個(ge)?這(zhe)(zhe)是(shi)(shi)(shi)一(yi)(yi)個(ge)非常復(fu)雜的(de)(de)問(wen)題。我(wo)(wo)(wo)認為，為了(le)確(que)保我(wo)(wo)(wo)們(men)解(jie)決了(le)技(ji)(ji)術方(fang)面(mian)(mian)的(de)(de)安全(quan)問(wen)題，需要(yao)投入(ru)大(da)量精(jing)力。
正(zheng)如(ru)我(wo)之前(qian)提到的(de)(de)，確定我(wo)們(men)要與之保持一(yi)致的(de)(de)價值(zhi)觀(guan)并不是一(yi)個(ge)(ge)技(ji)(ji)術問(wen)題(ti)(ti)。我(wo)們(men)確實(shi)需要技(ji)(ji)術的(de)(de)參與，但這更是一(yi)個(ge)(ge)值(zhi)得全(quan)社會深入討(tao)論的(de)(de)問(wen)題(ti)(ti)。我(wo)們(men)必須設計出公(gong)平的(de)(de)、有代表性(xing)和包容性(xing)的(de)(de)系統。正(zheng)如(ru)您所(suo)指出的(de)(de)，我(wo)們(men)不僅需要考(kao)慮(lv) AI 模型(xing)本身(shen)的(de)(de)安(an)全(quan)性(xing)，還需要考(kao)慮(lv)整個(ge)(ge)系統的(de)(de)安(an)全(quan)性(xing)。因此，我(wo)們(men)需要構建安(an)全(quan)的(de)(de)分類器(qi)和檢測器(qi)，以監測符合用戶政策的(de)(de)情況。這一(yi)點很重要。
此(ci)外，我(wo)認為很難預(yu)(yu)測和(he)預(yu)(yu)先解決任何技術可能出現的問題。因此(ci)，通過從實(shi)際(ji)使用中(zhong)(zhong)學習(xi)并快速部署數據，觀察在(zai)一個國家中(zhong)(zhong)會發生什么，并給人(ren)們提(ti)供時間(jian)來學習(xi)、更新和(he)思(si)考這(zhe)些模型將如何影響他們的生活(huo)，這(zhe)也非常(chang)重(zhong)要。
張宏江：中(zhong)國、美國和(he)歐洲(zhou)是推動人(ren)工智(zhi)能(neng)和(he)創新的(de)三個主要(yao)力量。您認為(wei)國際合作(zuo)解決人(ren)工智(zhi)能(neng)需(xu)求和(he)決策方面(mian)的(de)優勢有哪些?這些優勢如何(he)結合起來產生影響?
Sam Altman：我(wo)認為在人(ren)(ren)工(gong)智(zhi)能安全性(xing)方面(mian)，普遍存在著需要許多(duo)不(bu)同觀點的(de)(de)情況。我(wo)們(men)還沒(mei)有(you)所有(you)的(de)(de)答案，解(jie)決(jue)這(zhe)(zhe)個問(wen)題(ti)非(fei)常困難且重要。正(zheng)如我(wo)提到的(de)(de)，這(zhe)(zhe)不(bu)僅僅是一個技(ji)術問(wen)題(ti)。使(shi)(shi)人(ren)(ren)工(gong)智(zhi)能變得(de)安全這(zhe)(zhe)件事受益(yi)于了解(jie)不(bu)同國家和(he)不(bu)同背景下(xia)用戶的(de)(de)偏好。因此(ci)，我(wo)們(men)需要許多(duo)不(bu)同的(de)(de)觀念來實現這(zhe)(zhe)一目(mu)標。中(zhong)國擁有(you)世界上(shang)一些最(zui)優秀(xiu)的(de)(de) AI 系(xi)統，從根本(ben)上(shang)講(jiang)，我(wo)認為這(zhe)(zhe)使(shi)(shi)研(yan)究人(ren)(ren)員(yuan)在解(jie)決(jue)許多(duo)不(bu)同的(de)(de) AI 系(xi)統的(de)(de)問(wen)題(ti)上(shang)面(mian)臨困難。中(zhong)國是世界上(shang)最(zui)好的(de)(de)地方，我(wo)真誠希望(wang)中(zhong)國和(he)美國的(de)(de)研(yan)究人(ren)(ren)員(yuan)能對此(ci)做出(chu)巨大貢獻。
張宏江：您能(neng)分享一些(xie)在這(zhe)方(fang)面取得的成就嗎?在這(zhe)項工(gong)作(zuo)中，您的計(ji)劃(hua)或想法是(shi)什么?
Sam Altman：我認為一個重要的(de)(de)(de)進(jin)展(zhan)是人(ren)們(men)開始對(dui)如(ru)何(he)安(an)全開發先(xian)進(jin) AI 系統(tong)的(de)(de)(de)國(guo)際標(biao)(biao)準感到興奮了(le)。我們(men)希望在訓(xun)練廣泛模型并(bing)(bing)在其部署(shu)之前(qian)，思考應該進(jin)行什么樣的(de)(de)(de)測試(shi)。我們(men)還就構建反映人(ren)們(men)目標(biao)(biao)、價值觀(guan)和實踐的(de)(de)(de)數據(ju)(ju)庫(ku)進(jin)行了(le)新的(de)(de)(de)討(tao)論，人(ren)們(men)可以(yi)利(li)用這(zhe)些數據(ju)(ju)庫(ku)來(lai)使他們(men)的(de)(de)(de)系統(tong)與之對(dui)齊，并(bing)(bing)探討(tao)了(le)開展(zhan)共享 AI 安(an)全性研究(jiu)的(de)(de)(de)形式(shi)問題。所以(yi)，這(zhe)些可能(neng)是目前(qian)出(chu)現(xian)的(de)(de)(de)三個最具(ju)體的(de)(de)(de)事情。
張宏江：我在(zai)這里有一個很棒(bang)的問題，來自(zi)觀眾(zhong)——您是(shi)否打算重新(xin)開(kai)放 GPT 的源代碼，就(jiu)像在(zai) 3.0 之前一樣?
Sam Altman：關于源(yuan)代碼(ma)，我(wo)不(bu)(bu)太清楚(chu)，但可以確(que)認一下。我(wo)們(men)開源(yuan)了一些模(mo)型(xing)，而(er)其(qi)他模(mo)型(xing)則不(bu)(bu)開源(yuan)，但隨著時間的(de)推移，我(wo)認為我(wo)們(men)可以期望開源(yuan)的(de)模(mo)型(xing)會更多，我(wo)沒有(you)具(ju)體的(de)模(mo)型(xing)或(huo)時間表，但這是我(wo)們(men)正在努(nu)力的(de)事情我(wo)不(bu)(bu)確(que)定您是否(fou)聽說(shuo)過，但是我(wo)主(zhu)持了一個開源(yuan)機構，我(wo)們(men)在開放源(yuan)代碼(ma)方面付(fu)出了很多努(nu)力，包括模(mo)型(xing)。
我(wo)將采用(yong)一種算(suan)法來開發(fa)模(mo)型，并(bing)引入新的(de)(de) Python 模(mo)型和 A-15 模(mo)型。我(wo)們相信需要傾聽并(bing)理解聽眾的(de)(de)反(fan)饋。所(suo)以，如果您(nin)明天(tian)對此(ci)有類似的(de)(de)見(jian)解，是否有什么可以去(qu)討論以回應兩(liang)位現在正在談論的(de)(de)同(tong)事(shi)之間的(de)(de)擔憂?是的(de)(de)，我(wo)的(de)(de)意思(si)是，開源確實起著(zhu)重(zhong)要的(de)(de)作用(yong)。
開源模(mo)型(xing)(xing)的發展(zhan)已經相當多了。我(wo)認為(wei)(wei) A-15 模(mo)型(xing)(xing)也起著重要(yao)的作用，它為(wei)(wei)我(wo)們提供了額外(wai)的安全控制。您可(ke)以阻止某些(xie)(xie)用戶，可(ke)以阻止某些(xie)(xie)類型(xing)(xing)的微調(diao)。這是一(yi)個(ge)重要(yao)的回歸(gui)點。就目前模(mo)型(xing)(xing)的規(gui)模(mo)而言(yan)，我(wo)對此(ci)并不(bu)太擔心，但隨著模(mo)型(xing)(xing)變(bian)得越(yue)來越(yue)大，確(que)(que)保正(zheng)(zheng)確(que)(que)性可(ke)能會(hui)變(bian)得昂貴。我(wo)認為(wei)(wei)開源一(yi)切可(ke)能不(bu)是最優的路徑，盡管這確(que)(que)實是正(zheng)(zheng)確(que)(que)的路徑。我(wo)認為(wei)(wei)我(wo)們只(zhi)需小心地朝著這些(xie)(xie)節點前進。
張宏江：是(shi)的(de)(de)(de)(de)，我(wo)(wo)認為(wei)開源(yuan)模(mo)(mo)型確實(shi)有(you)優勢。總結一(yi)下(xia)我(wo)(wo)所說的(de)(de)(de)(de)，無(wu)論是(shi) GPT-4 還是(shi)開源(yuan)的(de)(de)(de)(de)模(mo)(mo)型及簡化(hua)性(xing)(xing) AI，我(wo)(wo)們(men)有(you)沒(mei)有(you)可能(neng)需(xu)要(yao)改變整個(ge)基(ji)礎(chu)設施或者(zhe)模(mo)(mo)型的(de)(de)(de)(de)架(jia)構，使其像(xiang) GPT-2 一(yi)樣簡單?對此您有(you)何(he)想法(fa)?從能(neng)力和安全性(xing)(xing)的(de)(de)(de)(de)角度來看，我(wo)(wo)們(men)可能(neng)確實(shi)需(xu)要(yao)一(yi)些非常不同的(de)(de)(de)(de)架(jia)構。
Sam Altman：我(wo)(wo)認(ren)為我(wo)(wo)們將在(zai)這(zhe)(zhe)個(ge)(ge)能(neng)(neng)力上取得一(yi)(yi)些良好的(de)(de)進展(zhan)，但(dan)在(zai)當前(qian)的(de)(de)模(mo)(mo)(mo)型(xing)類型(xing)中他們展(zhan)現(xian)的(de)(de)效果(guo)更好，這(zhe)(zhe)是一(yi)(yi)個(ge)(ge)原(yuan)因。但(dan)是，如果(guo)在(zai) 10 年后出(chu)現(xian)另一(yi)(yi)個(ge)(ge)巨(ju)大的(de)(de)飛躍，我(wo)(wo)也(ye)不(bu)會感(gan)到驚訝。我(wo)(wo)不(bu)記得很(hen)(hen)多年間有(you)(you)(you)什(shen)么東西真(zhen)正改變了的(de)(de)架構(gou)。另外，作為一(yi)(yi)名研究人(ren)員，我(wo)(wo)相(xiang)信在(zai)座的(de)(de)許多人(ren)都會有(you)(you)(you)這(zhe)(zhe)種好奇(qi)心(xin)，就是關于大模(mo)(mo)(mo)型(xing)和(he)大容量模(mo)(mo)(mo)型(xing)的(de)(de)人(ren)工(gong)智能(neng)(neng)用(yong)戶(hu)體(ti)驗方面的(de)(de)下(xia)一(yi)(yi)步(bu)發展(zhan)方向(xiang)。我(wo)(wo)們是否(fou)會很(hen)(hen)快(kuai)落(luo)后于增(zeng)長曲線，或者下(xia)一(yi)(yi)個(ge)(ge)前(qian)沿是具有(you)(you)(you)體(ti)現(xian)能(neng)(neng)力的(de)(de)模(mo)(mo)(mo)型(xing)，或者自(zi)主機器人(ren)是人(ren)工(gong)智能(neng)(neng)所關注的(de)(de)下(xia)一(yi)(yi)個(ge)(ge)前(qian)沿?我(wo)(wo)也(ye)非常好奇(qi)接下(xia)來會發生什(shen)么。我(wo)(wo)最喜歡做(zuo)這(zhe)(zhe)項工(gong)作的(de)(de)事(shi)情(qing)就是能(neng)(neng)夠(gou)處在(zai)研究的(de)(de)前(qian)沿，這(zhe)(zhe)是令(ling)人(ren)興奮和(he)驚喜的(de)(de)，我(wo)(wo)們還沒有(you)(you)(you)答案。因此，我(wo)(wo)們正在(zai)探索許多關于接下(xia)來可能(neng)(neng)出(chu)現(xian)什(shen)么、可能(neng)(neng)的(de)(de)新領(ling)域的(de)(de)想(xiang)法。
當(dang)然，并(bing)不是說(shuo)我們現在就(jiu)能(neng)在序(xu)列中(zhong)找到(dao)(dao)新的(de)抗衰老模(mo)型，而是不用過(guo)于擔心具體的(de)時(shi)(shi)間點。我們在剛開(kai)始(shi)的(de)時(shi)(shi)候(hou)就(jiu)做(zuo)過(guo)機器人方面的(de)工作(zuo)，并(bing)且我們對此(ci)非常興(xing)奮，也經歷了困難。我希望有一天(tian)我們能(neng)夠回(hui)到(dao)(dao)這個(ge)話題。
張宏江： 您還提(ti)到(dao)您正(zheng)在(zai)研究如何制作(zuo)更安全的(de)(de)模型，特(te)別是(shi)使(shi)用 CT4 數據，在(zai) CT6 的(de)(de)神經元(yuan)有這(zhe)(zhe)個數據。這(zhe)(zhe)個工作(zuo)在(zai)這(zhe)(zhe)個方(fang)向上是(shi)否(fou)有效(xiao)?您是(shi)否(fou)能(neng)(neng)夠在(zai)未來(lai)(用這(zhe)(zhe)種方(fang)法)推(tui)進人工智能(neng)(neng)領域(yu)?我(wo)(wo)們(men)將繼(ji)續在(zai)這(zhe)(zhe)方(fang)面努(nu)力(li)。所(suo)以，如果我(wo)(wo)認為我(wo)(wo)們(men)會考(kao)慮到(dao)這(zhe)(zhe)一點，它是(shi)否(fou)具(ju)有可擴展性?因為我(wo)(wo)在(zai)向一群生物學科(ke)學家提(ti)問，他們(men)專注于(yu)人類的(de)(de)學習。他們(men)想(xiang)借鑒這(zhe)(zhe)些思想(xiang)并從中(zhong)學習，以研究人類在(zai)工作(zuo)中(zhong)的(de)(de)表現。觀察人工神經元(yuan)比觀察生物神經元(yuan)更容易。
Sam Altman：我(wo)(wo)認為這(zhe)對人工(gong)神經網絡是(shi)(shi)可(ke)行的(de)。我(wo)(wo)認為使用更強大的(de)模型(xing)(xing)(xing)或使用類(lei)似其他(生物)模型(xing)(xing)(xing)的(de)模型(xing)(xing)(xing)的(de)方法是(shi)(shi)可(ke)行的(de)。但我(wo)(wo)不(bu)太確定如(ru)(ru)何將其應用于人腦。另外(wai)，我(wo)(wo)們正在討(tao)論人工(gong)智(zhi)能安全(quan)和(he) API 控(kong)制(zhi)的(de)話題。我(wo)(wo)們剛才在辯(bian)論，如(ru)(ru)果我(wo)(wo)們只有三個(ge)模型(xing)(xing)(xing)，那么我(wo)(wo)們會更安全(quan)。這(zhe)就像一個(ge)核計劃。您(nin)不(bu)希望(每個(ge)人)擁(yong)有核武器(qi)。因此，當(dang)我(wo)(wo)在控(kong)制(zhi)模型(xing)(xing)(xing)數量時，如(ru)(ru)果控(kong)制(zhi)不(bu)了(le)接觸模型(xing)(xing)(xing)和(he)數據(ju)的(de)人數的(de)話是(shi)(shi)不(bu)安全(quan)的(de)。
那(nei)么(me)，我們(men)是(shi)要控制模(mo)型的(de)(de)(de)數(shu)量(liang)(liang)(liang)嗎?從人(ren)類的(de)(de)(de)角度來看，無論是(shi)擁(yong)有少量(liang)(liang)(liang)模(mo)型還(huan)是(shi)大量(liang)(liang)(liang)模(mo)型，都(dou)不能讓我們(men)更(geng)安(an)全(quan)。更(geng)重要的(de)(de)(de)是(shi)，我們(men)是(shi)否有一種機制，確保任(ren)何柯林斯模(mo)型都(dou)需要經過(guo)足(zu)夠的(de)(de)(de)安(an)全(quan)測試。我們(men)是(shi)否有一個框架，讓那(nei)些(xie)創建(jian)了(le)完備柯林斯模(mo)型的(de)(de)(de)人(ren)具(ju)備足(zu)夠的(de)(de)(de)資(zi)源和責任(ren)心，確保他們(men)創造的(de)(de)(de)東(dong)西是(shi)安(an)全(quan)可靠的(de)(de)(de)?來自麻省理工學院的(de)(de)(de)教(jiao)授 Max 是(shi)萊布尼茲研(yan)究所的(de)(de)(de)一位教(jiao)師，他提到了(le)一種方法(fa)，但他認為這個方法(fa)不夠具(ju)體。
從一(yi)(yi)個角度來看，我(wo)(wo)們(men)可(ke)(ke)以研究如(ru)何控制隱私的泄露。如(ru)果您(nin)丟失了一(yi)(yi)封電子(zi)郵件，您(nin)仍然可(ke)(ke)以獲取一(yi)(yi)份副本。在(zai)這(zhe)個過程中您(nin)無法證明它(ta)是怎么獲取到的。如(ru)果那(nei)家公司可(ke)(ke)以借用您(nin)的資(zi)料，那(nei)這(zhe)將產生重大影響。我(wo)(wo)認(ren)為有(you)一(yi)(yi)些行(xing)業正在(zai)發展不同的許可(ke)(ke)框架，將新技術引入(ru)市場，我(wo)(wo)認(ren)為我(wo)(wo)們(men)應該借鑒(jian)它(ta)們(men)。但我(wo)(wo)認(ren)為從根(gen)本上說(shuo)，我(wo)(wo)們(men)有(you)著很好的購(gou)買(mai)數據的歷史。
張宏江： 最后一個(ge)問(wen)題，您對人(ren)工智能社區的設想是什么，以及(ji)在(zai)這個(ge)方向上可能具有很大(da)推動力的因(yin)素是什么?
Sam Altman：在過去我(wo)(wo)說過：是什(shen)么推動您如(ru)此高度地激(ji)勵去從事人(ren)工(gong)(gong)智(zhi)能安(an)(an)全(quan)性工(gong)(gong)作?對(dui)(dui)我(wo)(wo)而言(yan)，沒有(you)比安(an)(an)全(quan)性工(gong)(gong)作更令人(ren)興奮(fen)、活(huo)力四(si)溢、充實且重(zhong)要的(de)(de)事情了(le)。我(wo)(wo)堅(jian)信(xin)，如(ru)果您個(ge)人(ren)對(dui)(dui)一項重(zhong)要的(de)(de)倡議非常認可，您將(jiang)會有(you)無窮的(de)(de)力量去解決它。這對(dui)(dui)我(wo)(wo)們(men)團隊來說確實如(ru)此。當(dang)我(wo)(wo)們(men)剛開始的(de)(de)時(shi)侯(hou)，我(wo)(wo)覺得成功的(de)(de)概(gai)率會非常低。但(dan)如(ru)果我(wo)(wo)們(men)能夠找出如(ru)何(he)構建(jian)人(ren)工(gong)(gong)智(zhi)能，那它肯定(ding)會產生巨大(da)變(bian)革。我(wo)(wo)們(men)必須(xu)進行安(an)(an)全(quan)方面的(de)(de)工(gong)(gong)作對(dui)(dui)吧?這就(jiu)是其(qi)中(zhong)的(de)(de)一部分。但(dan)您不能阻(zu)止(zhi) AI 的(de)(de)發(fa)展。
本(ben)文轉載來源：
//www.infoq.cn/article/zsPuUKHbYFHiRxsRSqdr
