最近幾年,人工智能來(lái)迎來(lái)了重大進(jìn)展,在機(jī)器學(xué)習(xí)、自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)方面取得了技術(shù)突破。在數(shù)字化轉(zhuǎn)型進(jìn)入深水區(qū)后,人工智能已經(jīng)可以成熟應(yīng)用于各行各業(yè)中,包括醫(yī)療、保險(xiǎn)、金融和交通運(yùn)輸?shù)龋斯ぶ悄軓氐赘淖兞宋覀兊纳詈凸ぷ鞣绞健?/p>
2023 年 6 月 9 日,由北京智源人工智能研究院主辦的2023 北京智源大會(huì)在中關(guān)村國(guó)家自主創(chuàng)新示范區(qū)會(huì)議中心開(kāi)幕,會(huì)期兩天。智源大會(huì)是北京創(chuàng)建全球人工智能學(xué)術(shù)和創(chuàng)新最優(yōu)生態(tài)的標(biāo)志性學(xué)術(shù)活動(dòng),本文為 InfoQ 記者帶來(lái)的現(xiàn)場(chǎng)報(bào)道。
【資料圖】
以下內(nèi)容根據(jù) OpenAI 創(chuàng)始人 Sam Altman 演講速記進(jìn)行整理,未經(jīng)本人確認(rèn)。
OpenAI 創(chuàng)始人 Sam Altman:我最近在做全球巡回的訪問(wèn),期間穿越五大洲近 20 個(gè)國(guó)家,接觸了諸多的學(xué)生、開(kāi)發(fā)者,這趟出行令人振奮,我們見(jiàn)證了全球各地的人們利用 OpenAI 的新技術(shù)來(lái)改變生活方式,我們也獲得了非常寶貴的意見(jiàn),以便于讓我們的工具優(yōu)化得更好。此外,我也有機(jī)會(huì)拜訪了多位外國(guó)領(lǐng)導(dǎo)人,討論確保越來(lái)越強(qiáng)大的人工智能系統(tǒng)安全部署所需的各種基礎(chǔ)工作。
坦白說(shuō),世界的注意力主要集中在解決當(dāng)今的人工智能問(wèn)題上,很多問(wèn)題的解決非常迫切,我們還有很多工作要做,不過(guò)鑒于我們已經(jīng)取得的進(jìn)展,我相信我們會(huì)實(shí)現(xiàn)目標(biāo)。
今天,我想談?wù)勎磥?lái)。具體來(lái)說(shuō),我們正在看到人工智能能力的迅速增長(zhǎng),現(xiàn)在需要做的是負(fù)責(zé)任地將其應(yīng)用到世界中去。科學(xué)的歷史告訴我們,技術(shù)進(jìn)步遵循指數(shù)曲線。這在農(nóng)業(yè)、工業(yè)和計(jì)算革命中得到了驗(yàn)證。現(xiàn)在,我們親眼目睹人工智能變革,不僅因?yàn)槲覀冋谝?jiàn)證它,而且因?yàn)樗鼛?lái)的變革速度。
它正在迅速拓展人類(lèi)的想象力。想象一下,在未來(lái)十年,人工通用智能系統(tǒng)(常稱為 AGI)將會(huì)超過(guò) 90 年代初,人類(lèi)所具備的專(zhuān)業(yè)水平,這些系統(tǒng)最終可能超過(guò)人類(lèi)最大體量公司的總體生產(chǎn)力,這里的潛在收益是巨大的。
人工智能革命將帶來(lái)可共享的財(cái)富,使改善人類(lèi)互動(dòng)標(biāo)準(zhǔn)成為可能,但我們必須管理好風(fēng)險(xiǎn),并共同努力來(lái)實(shí)現(xiàn)預(yù)期目標(biāo)。我時(shí)常感覺(jué)一些人放棄他們應(yīng)有的權(quán)益來(lái)實(shí)現(xiàn)人類(lèi)共同的目標(biāo),在今天很多領(lǐng)域仍然如此——大國(guó)之間經(jīng)常通過(guò)合作的方式來(lái)實(shí)現(xiàn)共同目標(biāo),這種形式的合作對(duì)關(guān)鍵的醫(yī)學(xué)和科學(xué)進(jìn)展都會(huì)帶來(lái)好處,比如根除小兒麻痹癥和天花等疾病,以及全球減少氣候變化風(fēng)險(xiǎn)的努力。
隨著越來(lái)越強(qiáng)大的人工智能系統(tǒng)的出現(xiàn),全球合作的利益變得前所未有地重要。如果我們不做好規(guī)劃,一個(gè)設(shè)計(jì)用于改善公共衛(wèi)生結(jié)果的未對(duì)齊的 AI 系統(tǒng),可能會(huì)通過(guò)提供不平衡的建議來(lái)破壞整個(gè)集體系統(tǒng)。同樣,一個(gè)旨在優(yōu)化農(nóng)業(yè)實(shí)踐的人工智能系統(tǒng)可能會(huì)無(wú)意中損害經(jīng)濟(jì)和資源的消耗,缺乏對(duì)長(zhǎng)期可持續(xù)性的考慮,從而影響食物生產(chǎn)和環(huán)境平衡。我希望我們都能認(rèn)同,推進(jìn) AGI 安全是我們尋找共同立場(chǎng)的最重要領(lǐng)域之一,我希望把時(shí)間都集中在我們已經(jīng)開(kāi)始的領(lǐng)域。
其中一個(gè)領(lǐng)域是 AGI 治理。AGI 的力量可以從根本上改變我們的文明,這突顯了有意義的國(guó)際合作、協(xié)調(diào)的必要性,每個(gè)人都會(huì)從積極的治理方法中受益。如果我們將這個(gè)核心的最先進(jìn)政策網(wǎng)絡(luò)化,AGI 系統(tǒng)可以為全球經(jīng)濟(jì)創(chuàng)造無(wú)與倫比的經(jīng)濟(jì)豐富,解決共同的挑戰(zhàn),如氣候變化、全球健康安全,并在無(wú)數(shù)其他方面提升社會(huì)福祉。我深信這也是未來(lái),我們深處同一個(gè)星球,需要明確投資 AGI 的安全性的意義。
我們必須為魯莽的開(kāi)發(fā)和部署可能引發(fā)的問(wèn)題負(fù)起責(zé)任,其中最重要的兩個(gè)領(lǐng)域是:首先,我們需要建立起包容的國(guó)際準(zhǔn)則和標(biāo)準(zhǔn),并在所有國(guó)家對(duì) AGI 的使用中建立平等、統(tǒng)一的防護(hù)措施。其次,我們需要國(guó)際合作,以可驗(yàn)證的方式在全球范圍內(nèi)建立對(duì)越來(lái)越強(qiáng)大的 AGI 系統(tǒng)安全開(kāi)發(fā)的信任,我知道這并不容易。
作為國(guó)際社會(huì),我們需要對(duì)安全進(jìn)行長(zhǎng)期的關(guān)注和投入,以確保我們做得正確。《道德經(jīng)》提醒我們,“千里之行,始于足下”,最有建設(shè)性的第一步是與國(guó)際科技界展開(kāi)合作,推動(dòng)增加 AGI 安全技術(shù)進(jìn)展的透明度和知識(shí)的機(jī)制,發(fā)現(xiàn)緊急問(wèn)題的研究人員應(yīng)該與更多人共享研究成果。
我們需要更加深入地思考如何在鼓勵(lì)推動(dòng)國(guó)際合作的同時(shí)尊重和保護(hù)知識(shí)產(chǎn)權(quán)。如果我們做得好,這將為我們打開(kāi)深化合作的新大門(mén)。更廣泛地說(shuō),我們應(yīng)該推動(dòng)并引導(dǎo)與安全研究一致的投資。
當(dāng)前,我們關(guān)注的是如何使 AI 系統(tǒng)成為一個(gè)有益和安全的助手,這對(duì)應(yīng)的是如何訓(xùn)練模型,使其在沒(méi)有安全威脅的前提下發(fā)揮積極作用,不過(guò),隨著 AGI 時(shí)代的接近,其帶來(lái)的潛在影響、問(wèn)題將呈指數(shù)級(jí)增長(zhǎng),所以,我們需要通過(guò)主動(dòng)應(yīng)對(duì) AGI 帶來(lái)的潛在挑戰(zhàn),將未來(lái)災(zāi)難性后果的風(fēng)險(xiǎn)降至最低。
從 GPT-4 完成預(yù)訓(xùn)練到部署,我們花了八個(gè)月的時(shí)間來(lái)研究這個(gè)如何前置預(yù)判風(fēng)險(xiǎn)并給出對(duì)策的問(wèn)題,我們認(rèn)為我們走在了正確的道路上,GPT-4 的對(duì)齊程度超過(guò)當(dāng)前所有的代碼。不過(guò),對(duì)于更高級(jí)的系統(tǒng),對(duì)齊仍然是一個(gè)尚未解決的問(wèn)題,我們認(rèn)為需要新的技術(shù)方法以及加強(qiáng)治理監(jiān)督,畢竟未來(lái)的 AGI,可能是一個(gè)十萬(wàn)行二進(jìn)制代碼的系統(tǒng)。
人類(lèi)監(jiān)督者很難判斷如此規(guī)模的模型是否在做一些損害的事情。因此,我們正在投資于幾個(gè)新的,并且希望能取得成果的方向,其中之一是可擴(kuò)展的監(jiān)督,嘗試使用 AI 系統(tǒng)來(lái)協(xié)助人類(lèi)監(jiān)督其他 AI 系統(tǒng)。例如,我們可以訓(xùn)練一個(gè)模型來(lái)幫助人類(lèi)監(jiān)督員找出其他模型代碼中的缺陷。
第二個(gè)方向是可解釋性。我們希望更好地理解模型內(nèi)部發(fā)生的事情,我們最近發(fā)表了一篇論文,使用 GPT-4 來(lái)解釋計(jì)算機(jī)的復(fù)雜狀態(tài)。雖然還有很長(zhǎng)的路要走,但我們相信先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)可以進(jìn)一步提高我們解釋的能力。
最終,我們的目標(biāo)是訓(xùn)練 AI 系統(tǒng)具備更好地優(yōu)化自身的能力,這種方法的一個(gè)有前景的方面在于——它可以與 AI 的發(fā)展速度相適應(yīng)。隨著未來(lái)的模型變得越來(lái)越智能和強(qiáng)大,作為助手,我們將找到更好的學(xué)習(xí)技術(shù),在充分發(fā)揮 AI 的非凡好處的同時(shí)降低風(fēng)險(xiǎn)。
我們認(rèn)為,美國(guó)、中國(guó)乃至世界各地的研究人員,在應(yīng)對(duì) AI 領(lǐng)域的技術(shù)挑戰(zhàn)上的合作,存在巨大潛力,想象人類(lèi)可以利用 AI 來(lái)解決世界上最重要的問(wèn)題,大幅改善生存條件和質(zhì)量。
演講過(guò)后,Altman 以視頻連線的方式對(duì)話了智源研究院理事長(zhǎng)張宏江,以下內(nèi)容為現(xiàn)場(chǎng)對(duì)話訪談:
張宏江:您提到了正在和歐盟以及其他 AI 領(lǐng)域溝通全球治理,現(xiàn)在進(jìn)展如何?我們距離 AGI 時(shí)代還有多遠(yuǎn),有沒(méi)有什么可以證明距離這一天還很遙遠(yuǎn)?假設(shè)我們發(fā)現(xiàn)了安全的人工智能,是否意味著也找到了不安全的人工智能?
Sam Altman:這很難預(yù)測(cè),仍然需要不斷地研究才能提供結(jié)論,并且這條路不會(huì)一帆風(fēng)順,但 AGI 可能很快就會(huì)發(fā)生,但在未來(lái)的 10 年內(nèi),我們可能會(huì)擁超強(qiáng)的 AI 系統(tǒng)。
在那種情況下,全球監(jiān)管就非常的緊迫,而且歷史上也出現(xiàn)過(guò)很多新技術(shù)改變世界的相關(guān)的案例,現(xiàn)在這種改變速度正變得更快,考慮到這種緊迫性,我認(rèn)為準(zhǔn)備好迎接這一切并就安全問(wèn)題作出正確回答非常重要。
張宏江:所以,您覺(jué)得這(正確回答安全相關(guān)的問(wèn)題)是我們的優(yōu)先事項(xiàng)?
Sam Altman:我想強(qiáng)調(diào)的是,我們并不確切知道(未來(lái)可能會(huì)如何),尤其是現(xiàn)在對(duì)人工智能的定義存在差異,但我認(rèn)為在 10 年內(nèi),我們應(yīng)該為一個(gè)擁有超強(qiáng) AI 系統(tǒng)的世界做好準(zhǔn)備。
張宏江:您提到,OpenAI 是一個(gè)致力于全球合作的機(jī)構(gòu),你們正在推動(dòng)的全球合作有哪些,獲得了哪些回應(yīng),有什么感受?
Sam Altman:我認(rèn)為人們非常重視 AGI 的風(fēng)險(xiǎn)和機(jī)遇。在過(guò)去的六個(gè)月里,相關(guān)討論已經(jīng)發(fā)生了很大變化。人們似乎真心致力于找到一種機(jī)制,既能讓我們享受這些好處,又能在全球范圍內(nèi)共同努力減輕風(fēng)險(xiǎn),我認(rèn)為我們?cè)谶@方面做的不錯(cuò)。
全球合作始終是困難的,但我認(rèn)為這種機(jī)遇和威脅確實(shí)能夠讓世界走到一起,我們可以為這些系統(tǒng)制定一個(gè)框架和安全標(biāo)準(zhǔn),這非常有幫助。
張宏江:在之前有沒(méi)有的成功的案例,您能舉個(gè)例子嗎?
Sam Altman:我們已經(jīng)消除了一些全球合作的障礙。我們已經(jīng)解決了技術(shù)上的困難,例如真實(shí)世界交易的問(wèn)題。有很多例子可以說(shuō)明我們已經(jīng)有所突破。
張宏江:您提到了先進(jìn) AI 系統(tǒng)的對(duì)齊問(wèn)題,我也注意到在過(guò)去幾年中,許多 AI 系統(tǒng)都付出了很多努力來(lái)優(yōu)化其對(duì)齊性能,我們可以在近些年里完成對(duì) AI 安全的研究嗎?
Sam Altman:我認(rèn)為“對(duì)齊”這個(gè)詞在不同的方式中被使用。我認(rèn)為我們需要解決整個(gè)挑戰(zhàn),即能夠安全地訪問(wèn)系統(tǒng)意味著什么。從傳統(tǒng)意義上講,讓模型按照用戶意圖進(jìn)行溝通的對(duì)齊是其中的一部分。還會(huì)有其他問(wèn)題,例如我們?nèi)绾悟?yàn)證系統(tǒng)正在按照我們的意愿行事,以及我們將系統(tǒng)與哪些價(jià)值觀對(duì)齊。我認(rèn)為重要的是全面考慮如何獲得安全的 AI。
我認(rèn)為對(duì)齊工作還在不斷演變中。我們將納入市場(chǎng)上已有的工作模式。很多這些技術(shù)仍處于紙面之上,但是我們需要超越技術(shù)的其他因素。這是一個(gè)復(fù)雜的問(wèn)題。AI 安全是最新的技術(shù)。因此,技術(shù)方面的創(chuàng)新是我們需要考慮的因素之一。我們需要思考關(guān)鍵的 AI 安全問(wèn)題。我們?nèi)绾螒?yīng)對(duì)這些挑戰(zhàn)?就像我們大多數(shù)人都是科學(xué)家一樣去思考。我們?yōu)槭裁匆鲞@個(gè)?這是一個(gè)非常復(fù)雜的問(wèn)題。我認(rèn)為,為了確保我們解決了技術(shù)方面的安全問(wèn)題,需要投入大量精力。
正如我之前提到的,確定我們要與之保持一致的價(jià)值觀并不是一個(gè)技術(shù)問(wèn)題。我們確實(shí)需要技術(shù)的參與,但這更是一個(gè)值得全社會(huì)深入討論的問(wèn)題。我們必須設(shè)計(jì)出公平的、有代表性和包容性的系統(tǒng)。正如您所指出的,我們不僅需要考慮 AI 模型本身的安全性,還需要考慮整個(gè)系統(tǒng)的安全性。因此,我們需要構(gòu)建安全的分類(lèi)器和檢測(cè)器,以監(jiān)測(cè)符合用戶政策的情況。這一點(diǎn)很重要。
此外,我認(rèn)為很難預(yù)測(cè)和預(yù)先解決任何技術(shù)可能出現(xiàn)的問(wèn)題。因此,通過(guò)從實(shí)際使用中學(xué)習(xí)并快速部署數(shù)據(jù),觀察在一個(gè)國(guó)家中會(huì)發(fā)生什么,并給人們提供時(shí)間來(lái)學(xué)習(xí)、更新和思考這些模型將如何影響他們的生活,這也非常重要。
張宏江:中國(guó)、美國(guó)和歐洲是推動(dòng)人工智能和創(chuàng)新的三個(gè)主要力量。您認(rèn)為國(guó)際合作解決人工智能需求和決策方面的優(yōu)勢(shì)有哪些?這些優(yōu)勢(shì)如何結(jié)合起來(lái)產(chǎn)生影響?
Sam Altman:我認(rèn)為在人工智能安全性方面,普遍存在著需要許多不同觀點(diǎn)的情況。我們還沒(méi)有所有的答案,解決這個(gè)問(wèn)題非常困難且重要。正如我提到的,這不僅僅是一個(gè)技術(shù)問(wèn)題。使人工智能變得安全這件事受益于了解不同國(guó)家和不同背景下用戶的偏好。因此,我們需要許多不同的觀念來(lái)實(shí)現(xiàn)這一目標(biāo)。中國(guó)擁有世界上一些最優(yōu)秀的 AI 系統(tǒng),從根本上講,我認(rèn)為這使研究人員在解決許多不同的 AI 系統(tǒng)的問(wèn)題上面臨困難。中國(guó)是世界上最好的地方,我真誠(chéng)希望中國(guó)和美國(guó)的研究人員能對(duì)此做出巨大貢獻(xiàn)。
張宏江:您能分享一些在這方面取得的成就嗎?在這項(xiàng)工作中,您的計(jì)劃或想法是什么?
Sam Altman:我認(rèn)為一個(gè)重要的進(jìn)展是人們開(kāi)始對(duì)如何安全開(kāi)發(fā)先進(jìn) AI 系統(tǒng)的國(guó)際標(biāo)準(zhǔn)感到興奮了。我們希望在訓(xùn)練廣泛模型并在其部署之前,思考應(yīng)該進(jìn)行什么樣的測(cè)試。我們還就構(gòu)建反映人們目標(biāo)、價(jià)值觀和實(shí)踐的數(shù)據(jù)庫(kù)進(jìn)行了新的討論,人們可以利用這些數(shù)據(jù)庫(kù)來(lái)使他們的系統(tǒng)與之對(duì)齊,并探討了開(kāi)展共享 AI 安全性研究的形式問(wèn)題。所以,這些可能是目前出現(xiàn)的三個(gè)最具體的事情。
張宏江:我在這里有一個(gè)很棒的問(wèn)題,來(lái)自觀眾——您是否打算重新開(kāi)放 GPT 的源代碼,就像在 3.0 之前一樣?
Sam Altman:關(guān)于源代碼,我不太清楚,但可以確認(rèn)一下。我們開(kāi)源了一些模型,而其他模型則不開(kāi)源,但隨著時(shí)間的推移,我認(rèn)為我們可以期望開(kāi)源的模型會(huì)更多,我沒(méi)有具體的模型或時(shí)間表,但這是我們正在努力的事情我不確定您是否聽(tīng)說(shuō)過(guò),但是我主持了一個(gè)開(kāi)源機(jī)構(gòu),我們?cè)陂_(kāi)放源代碼方面付出了很多努力,包括模型。
我將采用一種算法來(lái)開(kāi)發(fā)模型,并引入新的 Python 模型和 A-15 模型。我們相信需要傾聽(tīng)并理解聽(tīng)眾的反饋。所以,如果您明天對(duì)此有類(lèi)似的見(jiàn)解,是否有什么可以去討論以回應(yīng)兩位現(xiàn)在正在談?wù)摰耐轮g的擔(dān)憂?是的,我的意思是,開(kāi)源確實(shí)起著重要的作用。
開(kāi)源模型的發(fā)展已經(jīng)相當(dāng)多了。我認(rèn)為 A-15 模型也起著重要的作用,它為我們提供了額外的安全控制。您可以阻止某些用戶,可以阻止某些類(lèi)型的微調(diào)。這是一個(gè)重要的回歸點(diǎn)。就目前模型的規(guī)模而言,我對(duì)此并不太擔(dān)心,但隨著模型變得越來(lái)越大,確保正確性可能會(huì)變得昂貴。我認(rèn)為開(kāi)源一切可能不是最優(yōu)的路徑,盡管這確實(shí)是正確的路徑。我認(rèn)為我們只需小心地朝著這些節(jié)點(diǎn)前進(jìn)。
張宏江:是的,我認(rèn)為開(kāi)源模型確實(shí)有優(yōu)勢(shì)。總結(jié)一下我所說(shuō)的,無(wú)論是 GPT-4 還是開(kāi)源的模型及簡(jiǎn)化性 AI,我們有沒(méi)有可能需要改變整個(gè)基礎(chǔ)設(shè)施或者模型的架構(gòu),使其像 GPT-2 一樣簡(jiǎn)單?對(duì)此您有何想法?從能力和安全性的角度來(lái)看,我們可能確實(shí)需要一些非常不同的架構(gòu)。
Sam Altman:我認(rèn)為我們將在這個(gè)能力上取得一些良好的進(jìn)展,但在當(dāng)前的模型類(lèi)型中他們展現(xiàn)的效果更好,這是一個(gè)原因。但是,如果在 10 年后出現(xiàn)另一個(gè)巨大的飛躍,我也不會(huì)感到驚訝。我不記得很多年間有什么東西真正改變了的架構(gòu)。另外,作為一名研究人員,我相信在座的許多人都會(huì)有這種好奇心,就是關(guān)于大模型和大容量模型的人工智能用戶體驗(yàn)方面的下一步發(fā)展方向。我們是否會(huì)很快落后于增長(zhǎng)曲線,或者下一個(gè)前沿是具有體現(xiàn)能力的模型,或者自主機(jī)器人是人工智能所關(guān)注的下一個(gè)前沿?我也非常好奇接下來(lái)會(huì)發(fā)生什么。我最喜歡做這項(xiàng)工作的事情就是能夠處在研究的前沿,這是令人興奮和驚喜的,我們還沒(méi)有答案。因此,我們正在探索許多關(guān)于接下來(lái)可能出現(xiàn)什么、可能的新領(lǐng)域的想法。
當(dāng)然,并不是說(shuō)我們現(xiàn)在就能在序列中找到新的抗衰老模型,而是不用過(guò)于擔(dān)心具體的時(shí)間點(diǎn)。我們?cè)趧傞_(kāi)始的時(shí)候就做過(guò)機(jī)器人方面的工作,并且我們對(duì)此非常興奮,也經(jīng)歷了困難。我希望有一天我們能夠回到這個(gè)話題。
張宏江:您還提到您正在研究如何制作更安全的模型,特別是使用 CT4 數(shù)據(jù),在 CT6 的神經(jīng)元有這個(gè)數(shù)據(jù)。這個(gè)工作在這個(gè)方向上是否有效?您是否能夠在未來(lái)(用這種方法)推進(jìn)人工智能領(lǐng)域?我們將繼續(xù)在這方面努力。所以,如果我認(rèn)為我們會(huì)考慮到這一點(diǎn),它是否具有可擴(kuò)展性?因?yàn)槲以谙蛞蝗荷飳W(xué)科學(xué)家提問(wèn),他們專(zhuān)注于人類(lèi)的學(xué)習(xí)。他們想借鑒這些思想并從中學(xué)習(xí),以研究人類(lèi)在工作中的表現(xiàn)。觀察人工神經(jīng)元比觀察生物神經(jīng)元更容易。
Sam Altman:我認(rèn)為這對(duì)人工神經(jīng)網(wǎng)絡(luò)是可行的。我認(rèn)為使用更強(qiáng)大的模型或使用類(lèi)似其他(生物)模型的模型的方法是可行的。但我不太確定如何將其應(yīng)用于人腦。另外,我們正在討論人工智能安全和 API 控制的話題。我們剛才在辯論,如果我們只有三個(gè)模型,那么我們會(huì)更安全。這就像一個(gè)核計(jì)劃。您不希望(每個(gè)人)擁有核武器。因此,當(dāng)我在控制模型數(shù)量時(shí),如果控制不了接觸模型和數(shù)據(jù)的人數(shù)的話是不安全的。
那么,我們是要控制模型的數(shù)量嗎?從人類(lèi)的角度來(lái)看,無(wú)論是擁有少量模型還是大量模型,都不能讓我們更安全。更重要的是,我們是否有一種機(jī)制,確保任何柯林斯模型都需要經(jīng)過(guò)足夠的安全測(cè)試。我們是否有一個(gè)框架,讓那些創(chuàng)建了完備柯林斯模型的人具備足夠的資源和責(zé)任心,確保他們創(chuàng)造的東西是安全可靠的?來(lái)自麻省理工學(xué)院的教授 Max 是萊布尼茲研究所的一位教師,他提到了一種方法,但他認(rèn)為這個(gè)方法不夠具體。
從一個(gè)角度來(lái)看,我們可以研究如何控制隱私的泄露。如果您丟失了一封電子郵件,您仍然可以獲取一份副本。在這個(gè)過(guò)程中您無(wú)法證明它是怎么獲取到的。如果那家公司可以借用您的資料,那這將產(chǎn)生重大影響。我認(rèn)為有一些行業(yè)正在發(fā)展不同的許可框架,將新技術(shù)引入市場(chǎng),我認(rèn)為我們應(yīng)該借鑒它們。但我認(rèn)為從根本上說(shuō),我們有著很好的購(gòu)買(mǎi)數(shù)據(jù)的歷史。
張宏江: 最后一個(gè)問(wèn)題,您對(duì)人工智能社區(qū)的設(shè)想是什么,以及在這個(gè)方向上可能具有很大推動(dòng)力的因素是什么?
Sam Altman:在過(guò)去我說(shuō)過(guò):是什么推動(dòng)您如此高度地激勵(lì)去從事人工智能安全性工作?對(duì)我而言,沒(méi)有比安全性工作更令人興奮、活力四溢、充實(shí)且重要的事情了。我堅(jiān)信,如果您個(gè)人對(duì)一項(xiàng)重要的倡議非常認(rèn)可,您將會(huì)有無(wú)窮的力量去解決它。這對(duì)我們團(tuán)隊(duì)來(lái)說(shuō)確實(shí)如此。當(dāng)我們剛開(kāi)始的時(shí)侯,我覺(jué)得成功的概率會(huì)非常低。但如果我們能夠找出如何構(gòu)建人工智能,那它肯定會(huì)產(chǎn)生巨大變革。我們必須進(jìn)行安全方面的工作對(duì)吧?這就是其中的一部分。但您不能阻止 AI 的發(fā)展。
本文轉(zhuǎn)載來(lái)源:
https://www.infoq.cn/article/zsPuUKHbYFHiRxsRSqdr
張宏江對(duì)話 OpenAI Altman:10 年內(nèi),或?qū)⒂瓉?lái)超強(qiáng) AI 系統(tǒng)|全球今亮點(diǎn)
最近幾年,人工智能來(lái)迎來(lái)了重大進(jìn)展,在機(jī)器學(xué)習(xí)、自然語(yǔ)言處理和計(jì)算
美再度對(duì)華制裁后,日媒稱中方有動(dòng)作,取消110萬(wàn)噸美國(guó)玉米進(jìn)口-當(dāng)前最新
近段時(shí)間,中國(guó)大量取消從美國(guó)進(jìn)口的玉米訂單,引起了外界廣泛關(guān)注。據(jù)
北約最大規(guī)模空中演習(xí) 模擬遭襲時(shí)共同作戰(zhàn)
號(hào)稱北約“有史以來(lái)最大規(guī)模”的空中演習(xí)12日在德國(guó)拉開(kāi)了帷幕。此次演
沒(méi)搶到國(guó)行ROG掌機(jī)不用急!曝6月22日還會(huì)補(bǔ)貨-滾動(dòng)
ROGAlly掌機(jī)國(guó)行版于昨晚正式公布,Z1Extreme處理器 512G版本售價(jià)4999
當(dāng)前熱門(mén):東鵬飲料:銷(xiāo)售增長(zhǎng)符合預(yù)期,將有更多新品推出
作為民族功能飲料領(lǐng)軍企業(yè),東鵬飲料一直保持著高速增長(zhǎng)的態(tài)勢(shì)。2022年,
起亞EV6跨界車(chē)或6月28日開(kāi)訂!官方:比特斯拉充電快
智電出行了解到,起亞全新五門(mén)跨界車(chē)EV6預(yù)計(jì)將于6月28日開(kāi)啟盲訂。
張宏江對(duì)話 OpenAI Altman:10 年內(nèi),或?qū)⒂瓉?lái)超強(qiáng) AI 系統(tǒng)|全球今亮點(diǎn)
最近幾年,人工智能來(lái)迎來(lái)了重大進(jìn)展,在機(jī)器學(xué)習(xí)、自然語(yǔ)言處理和計(jì)算
蔡英文通話被打斷? 國(guó)臺(tái)辦:解放軍不是說(shuō)說(shuō)而已-環(huán)球熱點(diǎn)
6月14日上午,國(guó)臺(tái)辦舉行例行新聞發(fā)布會(huì),發(fā)言人朱鳳蓮就近期兩岸熱點(diǎn)
每日熱議!普京會(huì)見(jiàn)戰(zhàn)地記者全面解讀對(duì)烏克蘭特別軍事行動(dòng)
俄羅斯總統(tǒng)普京13號(hào)在莫斯科與戰(zhàn)地記者和一些博主舉行了見(jiàn)面會(huì),暢談他
環(huán)球聚焦:東京股市:33年來(lái)首次 日經(jīng)股指突破33000點(diǎn)
本月以來(lái)東京股市日經(jīng)225種股票的平均價(jià)格指數(shù)繼續(xù)的走高。當(dāng)?shù)貢r(shí)間的1
收養(yǎng)殘疾兒童有哪些要求?收養(yǎng)殘疾兒童要求具體內(nèi)容是什么?
收養(yǎng)殘疾兒童有哪些要求?收養(yǎng)殘疾兒童要求具體內(nèi)容是什么?收養(yǎng)殘疾兒童有以下要求:1、無(wú)子嗣2、有撫養(yǎng)教育被收養(yǎng)人的能力3、無(wú)特殊疾病4、
關(guān)于事實(shí)收養(yǎng)有哪些特征?事實(shí)收養(yǎng)有哪些具備條件?
關(guān)于事實(shí)收養(yǎng)有哪些特征?事實(shí)收養(yǎng)有哪些具備條件?特征一是事實(shí)收養(yǎng)人善意者多,惡意者少。二是被事實(shí)收養(yǎng)人的父母大多下落不明。一般應(yīng)具備
收養(yǎng)多少歲的孩子需要征得本人同意?收養(yǎng)關(guān)系特征有哪些?
收養(yǎng)多少歲的孩子需要征得本人同意?收養(yǎng)關(guān)系特征有哪些?收養(yǎng)八周歲以上的孩子,需要征得孩子本人同意。收養(yǎng)人收養(yǎng)與送養(yǎng)人送養(yǎng),應(yīng)當(dāng)雙方自
事實(shí)收養(yǎng)的概念是什么?事實(shí)收養(yǎng)有哪些情形?
事實(shí)收養(yǎng)的概念是什么?事實(shí)收養(yǎng)有哪些情形?事實(shí)收養(yǎng),是指雙方當(dāng)事人符合法律規(guī)定的條件,未辦收養(yǎng)公證或登記手續(xù),便公開(kāi)以養(yǎng)父母子女關(guān)系
收養(yǎng)協(xié)議包含內(nèi)容有哪些?收養(yǎng)協(xié)議適用于合同編嗎?
收養(yǎng)協(xié)議的內(nèi)容有哪些?收養(yǎng)協(xié)議的內(nèi)容有:1、送養(yǎng)人、收養(yǎng)人、被收養(yǎng)人的姓名、性別、出生日期、住址及相互關(guān)系;2、收養(yǎng)的原因;3、共同送養(yǎng)
收養(yǎng)公證是指什么?如何申辦收養(yǎng)公證?
收養(yǎng)公證是指什么?如何申辦收養(yǎng)公證?收養(yǎng)公證,是指公證機(jī)關(guān)依法對(duì)收養(yǎng)人領(lǐng)養(yǎng)他人子女行為的真實(shí)性、合法性給予證明。辦理收養(yǎng)公證是收養(yǎng)關(guān)
收養(yǎng)協(xié)議是否具有法律效力?收養(yǎng)協(xié)議具有法律效力的依據(jù)是什么?
收養(yǎng)協(xié)議是否具有法律效力?收養(yǎng)協(xié)議具有法律效力的依據(jù)是什么?收養(yǎng)協(xié)議具有法律效力。符合條件的當(dāng)事人在自愿、平等、協(xié)商的基礎(chǔ)上,達(dá)成收
收養(yǎng)必須具備哪些條件?有效的收養(yǎng)行為應(yīng)具備哪些條件?
收養(yǎng)必須具備哪些條件?有效的收養(yǎng)行為應(yīng)具備哪些條件?收養(yǎng),是指公民依法領(lǐng)養(yǎng)他人子女作為自己的子女,使原來(lái)沒(méi)有直系血親關(guān)系的人之間產(chǎn)生
收養(yǎng)關(guān)系可以解除嗎?收養(yǎng)無(wú)效情形應(yīng)該如何處理?
收養(yǎng)關(guān)系可以解除嗎?收養(yǎng)無(wú)效情形應(yīng)該如何處理?收養(yǎng)關(guān)系可以解除,但是收養(yǎng)人在被收養(yǎng)人成年以前,不得解除收養(yǎng)關(guān)系,除非收養(yǎng)人、送養(yǎng)人雙
收養(yǎng)關(guān)系成立的基本原則有哪些?收養(yǎng)關(guān)系成立有什么規(guī)定?
收養(yǎng)法律制度的基本原則:(一)最有利于被收養(yǎng)人的原則建立收養(yǎng)制度的目的之一是有效貫徹與落實(shí)保護(hù)未成年人合法權(quán)益原則,保護(hù)未成年人的健
實(shí)時(shí):北京通app怎么辦理社保省外轉(zhuǎn)移 具體操作方法介紹
北京通app怎么辦理社保省外轉(zhuǎn)移具體操作方法介紹,
環(huán)球快資訊:京東與京東方舉辦慶祝儀式回顧合作成果
一年時(shí)間以來(lái),雙方取得了從C2M產(chǎn)品合作定制、創(chuàng)新體驗(yàn)的技術(shù)品牌旗艦
美再度對(duì)華制裁后,日媒稱中方有動(dòng)作,取消110萬(wàn)噸美國(guó)玉米進(jìn)口-當(dāng)前最新
近段時(shí)間,中國(guó)大量取消從美國(guó)進(jìn)口的玉米訂單,引起了外界廣泛關(guān)注。據(jù)
收養(yǎng)棄嬰還需要滿足什么條件?收養(yǎng)棄嬰流程是怎樣的?
收養(yǎng)棄嬰還需要滿足什么條件?收養(yǎng)棄嬰流程是怎樣的?收養(yǎng)棄嬰還需要滿足的條件有收養(yǎng)人無(wú)子女;收養(yǎng)人應(yīng)當(dāng)具有完全民事行為能力;收養(yǎng)人沒(méi)有患
收養(yǎng)孩子要哪些證明材料?送養(yǎng)人應(yīng)該提供什么材料?
收養(yǎng)孩子要哪些證明材料?(一)收養(yǎng)人應(yīng)當(dāng)向收養(yǎng)登記機(jī)關(guān)提交收養(yǎng)申請(qǐng)書(shū)和下列證件、證明材料。1、收養(yǎng)人的居民戶口簿和居民身份證;2、由收養(yǎng)
法律關(guān)于送養(yǎng)孩子法律怎么規(guī)定的?哪些組織和個(gè)人可以作為送養(yǎng)人?
我國(guó)法律關(guān)于送養(yǎng)孩子法律怎么規(guī)定的?哪些組織和個(gè)人可以作為送養(yǎng)人?送養(yǎng)孩子的規(guī)定如下:1、生父母送養(yǎng)子女,應(yīng)當(dāng)雙方共同送養(yǎng)。生父母一
什么是收養(yǎng)?收養(yǎng)嬰兒的條件有哪些?
收養(yǎng),是指自然人領(lǐng)養(yǎng)他人的子女為自己的子女,依法創(chuàng)設(shè)擬制血親親子關(guān)系的身份法律行為。依收養(yǎng)身份法律行為創(chuàng)設(shè)的收養(yǎng)關(guān)系,就是擬制血親
上海安亭一男子賓館滋事,被當(dāng)場(chǎng)制服|獨(dú)家焦點(diǎn)
6月14日5時(shí)許,嘉定警方接110報(bào)警稱,新源路某賓館內(nèi)有一男子滋事。警
毒品1800克 嫌犯49名 沈陽(yáng)警方破獲特大毒品案|天天微資訊
近日,沈陽(yáng)市公安局經(jīng)過(guò)一年多的細(xì)心偵查,綜合研判,輾轉(zhuǎn)湖北武漢及省
大風(fēng)藍(lán)+雷電黃 上海將有分散性雷陣雨伴短時(shí)強(qiáng)降水、局地小冰雹-世界快報(bào)
今天白天申城多云,偏南風(fēng),下午轉(zhuǎn)東到東南風(fēng),風(fēng)力3~4級(jí),需要注意的
被問(wèn)"是否就特朗普遭逮捕發(fā)表評(píng)論" 拜登:NO!|環(huán)球即時(shí)看
美國(guó)前總統(tǒng)特朗普庭審風(fēng)暴正攪動(dòng)美國(guó)。據(jù)美國(guó)有線電視新聞網(wǎng)(CNN)最
淮江公路(關(guān)于淮江公路介紹)_全球速遞
來(lái)為大家講解以上的問(wèn)題。淮江公路,江公路介紹這個(gè)很多人還不知道,我
北約最大規(guī)模空中演習(xí) 模擬遭襲時(shí)共同作戰(zhàn)
號(hào)稱北約“有史以來(lái)最大規(guī)模”的空中演習(xí)12日在德國(guó)拉開(kāi)了帷幕。此次演
全球熱訊:圣邦股份在北京投資成立私募合伙企業(yè)
天眼查App顯示,近日,北京順義海高啟航股權(quán)投資合伙企業(yè)(有限合伙)
國(guó)臺(tái)辦:RCEP為大陸臺(tái)資企業(yè)帶來(lái)了實(shí)實(shí)在在的紅利和實(shí)惠|時(shí)快訊
24小時(shí)財(cái)經(jīng)資訊平臺(tái),依托新銳財(cái)經(jīng)日?qǐng)?bào)《每日經(jīng)濟(jì)新聞》(NationalBusin
想當(dāng)“西方第一”?馬克龍被曝申請(qǐng)參加金磚峰會(huì)-天天看點(diǎn)
法國(guó)《言論報(bào)》6月12日獨(dú)家披露稱,法國(guó)總統(tǒng)馬克龍向南非總統(tǒng)拉馬福薩
蔡英文通話被打斷? 國(guó)臺(tái)辦:解放軍不是說(shuō)說(shuō)而已-環(huán)球熱點(diǎn)
6月14日上午,國(guó)臺(tái)辦舉行例行新聞...
每日熱議!普京會(huì)見(jiàn)戰(zhàn)地記者全面解讀對(duì)烏克蘭特別軍事行動(dòng)
俄羅斯總統(tǒng)普京13號(hào)在莫斯科與戰(zhàn)地...
環(huán)球聚焦:東京股市:33年來(lái)首次 日經(jīng)股指突破33000點(diǎn)
本月以來(lái)東京股市日經(jīng)225種股票的...
上海安亭一男子賓館滋事,被當(dāng)場(chǎng)制服|獨(dú)家焦點(diǎn)
6月14日5時(shí)許,嘉定警方接110報(bào)警...
62%受訪者對(duì)新能源汽車(chē)基本了解 汽車(chē)“里程焦慮”較為突出
近日,重慶市萬(wàn)州區(qū)、開(kāi)州區(qū)、城口...
聚焦!2022年全國(guó)“綠色產(chǎn)品認(rèn)證與標(biāo)識(shí)宣傳周”正式啟動(dòng)
9月26日,由市場(chǎng)監(jiān)管總局主辦的202...
昆明市體育中心足球錦標(biāo)賽落幕 組委會(huì)已經(jīng)在為新賽季做準(zhǔn)備
9月18日,全民健身·2021昆明市體...
中安街道種植了100畝萬(wàn)壽菊 每畝產(chǎn)值是種植包谷的兩倍多
時(shí)下,正是萬(wàn)壽菊收獲的季節(jié)。走進(jìn)...