我們OpenAI的使命是確保AGI(通用人工智能) - 一種智能程度普遍高于人類的AI系統(tǒng)可以造福于全人類。如果我們成功創(chuàng)建了AGI，這項(xiàng)技術(shù)可以豐富我們的生活、推動(dòng)全球經(jīng)濟(jì)發(fā)展，幫助我們發(fā)現(xiàn)能改變?nèi)祟惸壳八芟薜男录夹g(shù)，提升全人類的幸福。

AGI有很大的潛力，可以賦予每個(gè)人令人難以置信的新能力；我們可以想象一個(gè)世界，在這個(gè)世界中，我們所有人都可以從AGI那里獲得任何你想做的任務(wù)的幫助，包括現(xiàn)在人工智能不太行的認(rèn)知任務(wù)(現(xiàn)在的人工智能在感知任務(wù)上的表現(xiàn)更為出色)，減少我們很多的工作量，為人類的聰明才智和創(chuàng)造力提供更廣闊的空間。

另一方面，不得不承認(rèn)，伴隨AGI而來的，會(huì)存在嚴(yán)重的濫用AGI、AGI造成錯(cuò)誤事故，以及造成一些社會(huì)層面恐慌混亂的風(fēng)險(xiǎn)。雖然AGI的優(yōu)勢(shì)如此之大，相對(duì)的風(fēng)險(xiǎn)也如此大，但我們不認(rèn)為社會(huì)會(huì)因?qū)ζ淠芰Φ目謶侄柚顾陌l(fā)展，相反，社會(huì)和AGI的開發(fā)者應(yīng)該想辦法把AGI做得更好。雖然我們無法預(yù)測(cè)將來具體會(huì)發(fā)生什么，而且我們目前的項(xiàng)目進(jìn)展也會(huì)遇到一些障礙，但我們只需要關(guān)注一些關(guān)鍵問題，我們將最關(guān)心的三個(gè)AGI原則總結(jié)如下：

1.我們希望借助AGI的能力，使人類在所生存的這個(gè)宇宙中實(shí)現(xiàn)最大化的繁榮發(fā)展。我們不指望未來是一個(gè)毫無保留全部托出的烏托邦，但我們想要最大限度地利用AGI的優(yōu)勢(shì)，降低它的負(fù)面影響，并使AGI成為人類發(fā)展的助推器；

2.我們希望AGI的益處、利用和治理能夠被廣泛而公正地分享；

3.我們希望成功地應(yīng)對(duì)AGI帶來巨大的風(fēng)險(xiǎn)。在面對(duì)這些風(fēng)險(xiǎn)時(shí)，我們承認(rèn)理論上看似正確的事情在實(shí)踐中可能會(huì)出現(xiàn)一些奇怪的狀況。但我們相信，我們必須通過部署不那么強(qiáng)大的技術(shù)版本來不斷學(xué)習(xí)和適應(yīng)，以便將“一次性成功”的風(fēng)險(xiǎn)降到最低。

為了更充分的應(yīng)對(duì)AGI的到來而做好準(zhǔn)備，我們認(rèn)為現(xiàn)在有幾件事情非常值得去做。

首先，隨著我們創(chuàng)建的系統(tǒng)越來越強(qiáng)大，我們希望能夠部署它們，并在現(xiàn)實(shí)世界中實(shí)踐如何更好使用它們，積累相關(guān)使用經(jīng)驗(yàn)。我們認(rèn)為這是謹(jǐn)慎地引導(dǎo)AGI的最佳方式，逐漸過渡到擁有AGI的世界比突然進(jìn)入這樣的世界更好。強(qiáng)大的人工智能將使世界進(jìn)步的速度大大加快，逐步適應(yīng)這種變化也是更好的選擇。

這種逐步過渡的方式可以給人們、政策制定者和機(jī)構(gòu)足夠的時(shí)間去了解正在發(fā)生的事情和變化，親身體驗(yàn)這些AI系統(tǒng)的好處和弊端，以適應(yīng)我們的經(jīng)濟(jì)社會(huì)發(fā)展，并制定相應(yīng)的監(jiān)管措施。這也允許社會(huì)和人工智能共同進(jìn)化，讓人們?cè)陲L(fēng)險(xiǎn)相對(duì)較低的情況下，對(duì)于未來真正所想要的，所追求的，有更清晰的思考和規(guī)劃。

在應(yīng)對(duì)AI系統(tǒng)部署所面臨的各種挑戰(zhàn)時(shí)，最佳方式無疑是通過快速學(xué)習(xí)和謹(jǐn)慎迭代，來構(gòu)建一個(gè)緊密的反饋循環(huán)。社會(huì)將面臨這些AI系統(tǒng)部署應(yīng)用的問題，例如，哪些是人工智能系統(tǒng)所允許的行為，如何解決AI系統(tǒng)偏見問題，如何處理人類的就業(yè)崗位流失問題等。最優(yōu)決策將取決于技術(shù)的發(fā)展路徑，像任何新興領(lǐng)域一樣，大多數(shù)專家的預(yù)測(cè)到目前為止都是錯(cuò)誤的。這使得在我們?cè)谔崆皩?duì)項(xiàng)目做出詳細(xì)規(guī)劃變得非常困難，因?yàn)椴坏貌豢紤]未來外部變量的變化，會(huì)影響我們一開始的設(shè)想。

一般來說，我們認(rèn)為在世界范圍內(nèi)更廣泛的使用人工智能將會(huì)帶來巨大益處，并希望推廣和促進(jìn)它的使用（通過將模型放入我們的API、開放源代碼等）。我們相信民主化的訪問也將產(chǎn)生更多更棒的研究，更分散的權(quán)力(沒有將算法權(quán)利集中在少數(shù)人中)，更多的AI應(yīng)用帶來的增益，以及讓更多的人貢獻(xiàn)自己對(duì)此的新想法。

隨著我們的系統(tǒng)越來越接近通用人工智能，我們對(duì)模型的創(chuàng)建和部署會(huì)變得越來越謹(jǐn)慎。我們的決策將需要比往常的新技術(shù)應(yīng)用部署有更高的謹(jǐn)慎，也會(huì)比許多用戶希望的更謹(jǐn)慎。雖然也有AI領(lǐng)域的觀點(diǎn)認(rèn)為AGI（包括后繼系統(tǒng)）的風(fēng)險(xiǎn)是虛假的，如果他們最終是正確的，我們會(huì)對(duì)此感到高興，但我們?nèi)匀粫?huì)視風(fēng)險(xiǎn)存在去運(yùn)作AI系統(tǒng)。

在某個(gè)時(shí)候，AI系統(tǒng)部署利弊之間的平衡（例如賦予惡意行為者權(quán)力，造成社會(huì)和經(jīng)濟(jì)混亂，加速不安全的競賽等）可能會(huì)發(fā)生變化，在這種情況下，我們將圍繞持續(xù)性迭代優(yōu)化改進(jìn)部署目標(biāo)，修正和改變我們之前的計(jì)劃。

其次，我們正在努力創(chuàng)建越來越和現(xiàn)實(shí)對(duì)齊，更為可控的模型。我們從第一版GPT-3模型轉(zhuǎn)向InstructGPT和ChatGPT模型就是一個(gè)踐行此目標(biāo)的例子。

我們尤其認(rèn)為社會(huì)必須就AI的使用范圍達(dá)成廣泛共識(shí)，在這個(gè)范圍內(nèi)，個(gè)體用戶應(yīng)具有很大的自主權(quán)。我們最終的希望是，全球機(jī)構(gòu)將就這些界限達(dá)成共識(shí)；在短期內(nèi)，我們計(jì)劃進(jìn)行外部輸入的實(shí)驗(yàn)，不斷完善我們的AI使用界限規(guī)則。同時(shí)世界機(jī)構(gòu)也需要增強(qiáng)這方面的額外能力和經(jīng)驗(yàn)，以便為AGI 的復(fù)雜決策的部署應(yīng)用做好相關(guān)的準(zhǔn)備。

雖然我們產(chǎn)品內(nèi)置的“默認(rèn)設(shè)置”可能會(huì)一定范圍內(nèi)限制用戶使用發(fā)揮的空間，但我們計(jì)劃讓用戶更輕松地更改他們正在使用的AI的行為。我們相信這樣是對(duì)的，賦予每個(gè)人做出自己的決定的權(quán)力，尊重和鞏固多樣性的力量。

隨著我們的模型變得更加強(qiáng)大，我們需要開發(fā)新的對(duì)齊技術(shù)（以及測(cè)試來了解我們當(dāng)前的技術(shù)何時(shí)失效）。我們的短期計(jì)劃是使用AI幫助人類評(píng)估更復(fù)雜模型的輸出并監(jiān)控復(fù)雜系統(tǒng)，并在長期內(nèi)使用AI幫助我們想出更好的技術(shù)對(duì)齊方案。

更重要的是，我們經(jīng)常認(rèn)為需要同時(shí)取得AI在安全性和應(yīng)用性能上的協(xié)同發(fā)展。單獨(dú)談?wù)撍鼈兤渲兄豢赡苁且环N錯(cuò)誤的二元論，它們?cè)谠S多方面是彼此相關(guān)的。我們目前做得最好的安全工作，就是與我們最強(qiáng)的AI模型一起完成的。所以，調(diào)高安全進(jìn)步與模型能力進(jìn)步的比率也很重要。

最后，我們希望進(jìn)行全球?qū)υ?#xff0c;探討三個(gè)關(guān)鍵問題：如何治理這些系統(tǒng)，如何公平分配它們產(chǎn)生的利益以及如何公平的進(jìn)行共享接入。

除了上述這三個(gè)問題，我們嘗試以一種使我們的激勵(lì)與正向結(jié)果相一致方式，來建立我們的公司治理結(jié)構(gòu)。我們?cè)诠菊鲁讨杏幸粭l條款是關(guān)于協(xié)助其他組織推進(jìn)安全性，而不是在后期階段的AGI開發(fā)與他們進(jìn)行激烈競爭。我們?cè)O(shè)有一個(gè)股東回報(bào)上限，這樣我們就不會(huì)被激勵(lì)去追求無盡的利潤，從而冒險(xiǎn)部署可能造成災(zāi)難性危險(xiǎn)的AI系統(tǒng)（當(dāng)然這也是為了與社會(huì)進(jìn)行分享利益的一種方式）。我們有一個(gè)非營利組織來管理我們，讓我們始終以人類的利益為導(dǎo)向而運(yùn)營（并且可以置于任何營利利益之上），為了人類的安全需要，我們甚至可以做像取消股東的股權(quán)義務(wù)這樣的行為，我們當(dāng)然還會(huì)去贊助全球最廣泛的UBI(普遍基本收入)試驗(yàn)。

同時(shí)我們也認(rèn)為，向我們這樣的AI機(jī)構(gòu)在發(fā)布新系統(tǒng)之前接受獨(dú)立審計(jì)很重要，我們將在今年晚些時(shí)候詳細(xì)討論這個(gè)問題。在某個(gè)時(shí)候，在新的AI系統(tǒng)進(jìn)行訓(xùn)練之前，很有必要進(jìn)行獨(dú)立審查，對(duì)于目前最先進(jìn)的AI系統(tǒng)，我們也同意限制其用于創(chuàng)建新模型的計(jì)算資源增長率。我們認(rèn)為，關(guān)于AGI的相關(guān)安全使用，包括應(yīng)該何時(shí)停止訓(xùn)練運(yùn)行、決定釋放安全模型或從生產(chǎn)中撤回模型的這些決策，需要在公共標(biāo)準(zhǔn)的制定中進(jìn)行體現(xiàn)。最后，我們認(rèn)為政府的介入?yún)⑴c也很重要，世界上的一些主要政府應(yīng)該主動(dòng)監(jiān)督關(guān)注，超過一定規(guī)模的大模型的訓(xùn)練運(yùn)行可能產(chǎn)生的問題，對(duì)此需要培養(yǎng)并具備對(duì)此的風(fēng)險(xiǎn)洞察力。

關(guān)于更遠(yuǎn)的規(guī)劃，我們認(rèn)為，人類的未來應(yīng)該由人類決定，并且分享我們的工作進(jìn)展信息對(duì)于公眾來說是很重要的。所有嘗試構(gòu)建AGI的工作都應(yīng)該受到嚴(yán)格審查，并對(duì)重大決策進(jìn)行公眾咨詢。

第一個(gè)實(shí)現(xiàn)的AGI將成為智能持續(xù)演進(jìn)的起點(diǎn)。我們認(rèn)為，從這個(gè)起點(diǎn)開始會(huì)持續(xù)的向前進(jìn)步，并在相當(dāng)長的一段時(shí)間內(nèi)保持過去十年的發(fā)展速度。如果這個(gè)真的實(shí)現(xiàn)，世界可能會(huì)變得非常不同，風(fēng)險(xiǎn)也會(huì)變得很高。一個(gè)錯(cuò)位的超級(jí)智能AGI可能會(huì)給世界帶來嚴(yán)重的傷害，一個(gè)擁有決定性超級(jí)智能領(lǐng)先地位的專制政權(quán)也同樣如此。

另外，能夠加速科學(xué)進(jìn)展的人工智能是特別值得考慮的，因?yàn)檫@可能比其他一切都更具影響力。足以加速自身進(jìn)展的AGI可能會(huì)引起重大變革的出現(xiàn)，這可能發(fā)生得非常迅速（即使過渡開始比較緩慢，我們也預(yù)計(jì)在最后階段會(huì)變得非常迅速）。我們認(rèn)為，一個(gè)更緩慢的啟動(dòng)方式更容易保障安全，所以AGI的工作在關(guān)鍵時(shí)刻通過人類協(xié)調(diào)介入，使之減速就變得非常重要（即使在不需要介入?yún)f(xié)調(diào)問題的情況下，減速也可能很重要，因?yàn)橐o社會(huì)足夠的時(shí)間來適應(yīng)這種變化）。

成功地過渡到具有超級(jí)智能的世界，可能是人類歷史上最重要、最令人充滿希望，也最令人恐懼的項(xiàng)目。這種成功還遠(yuǎn)未得到保證，而其間的利害關(guān)系（無限的下行和無限的上行）卻可能將我們所有人團(tuán)結(jié)起來。

我們可以想象人類能到達(dá)這樣一個(gè)世界，這個(gè)世界的繁榮可能對(duì)于我們中的任何人來說都無法完全想象。我們希望為世界做出貢獻(xiàn)，創(chuàng)造一個(gè)與創(chuàng)造這種繁榮相一致的AGI。

總結(jié)

以上是生活随笔為你收集整理的通向AGI的规划和展望 - Sam Altman ,the CEO of OpenAI的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。