The economics of superintelligence

如果硅谷的預(yù)測(cè)哪怕只是接近準(zhǔn)確，那也將迎來(lái)前所未有的動(dòng)蕩。

插圖：皮特·瑞安

2025年7月26日

在歷史的大部分時(shí)間里，最穩(wěn)妥的預(yù)測(cè)是事情會(huì)大致保持原樣。但有時(shí)未來(lái)會(huì)變得面目全非。硅谷的科技巨頭們表示，人類正接近這樣一個(gè)時(shí)刻，因?yàn)樵诙潭處啄陜?nèi)，人工智能在所有認(rèn)知任務(wù)上的表現(xiàn)將超過(guò)普通人類。即便你認(rèn)為他們說(shuō)得對(duì)的可能性不高，也能明白他們的說(shuō)法值得深思。如果這真的成為現(xiàn)實(shí)，其影響將堪比世界經(jīng)濟(jì)史上的任何事件。

自近十年前取得突破性進(jìn)展以來(lái)，人工智能的能力一再驚人地超出預(yù)期。今年，OpenAI和谷歌DeepMind的大型語(yǔ)言模型在國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽中獲得金牌，這比專家們?cè)?021年預(yù)測(cè)的時(shí)間提前了18年。這些模型正變得越來(lái)越強(qiáng)大，背后的推動(dòng)力一方面來(lái)自科技公司之間的軍備競(jìng)賽——它們都期望成為贏家通吃的那一方；另一方面來(lái)自中美之間的競(jìng)爭(zhēng)——兩國(guó)都擔(dān)心如果屈居第二，就會(huì)遭遇系統(tǒng)性失敗。到2027年，訓(xùn)練一個(gè)模型所用的計(jì)算資源可能會(huì)是構(gòu)建GPT-4的1000倍，而GPT-4正是當(dāng)今最受歡迎的聊天機(jī)器人的基礎(chǔ)。

這對(duì)2030年或2032年人工智能的能力意味著什么？正如我們?cè)诒局艿膬善?jiǎn)報(bào)之一中所描述的，許多人擔(dān)心會(huì)出現(xiàn)一種地獄般的景象：配備人工智能的恐怖分子制造出殺死數(shù)十億人的生物武器，或者一個(gè)“失調(diào)”的人工智能掙脫束縛并智取人類。不難理解為什么這些尾部風(fēng)險(xiǎn)會(huì)吸引如此多的關(guān)注。然而，正如我們的第二篇簡(jiǎn)報(bào)所解釋的，這些風(fēng)險(xiǎn)已經(jīng)擠占了人們對(duì)非末日?qǐng)鼍跋氯斯ぶ悄芩鶐?lái)的直接、可能、可預(yù)測(cè)且同樣驚人的影響的思考空間。

1700年以前，世界經(jīng)濟(jì)平均每百年增長(zhǎng)8%。任何預(yù)測(cè)接下來(lái)會(huì)發(fā)生什么的人都會(huì)顯得精神錯(cuò)亂。在接下來(lái)的300年里，隨著工業(yè)革命的興起，經(jīng)濟(jì)增長(zhǎng)平均每百年達(dá)到350%。這帶來(lái)了死亡率的下降和生育率的提高。更多的人口產(chǎn)生了更多的想法，進(jìn)而推動(dòng)了更快的增長(zhǎng)。由于需要增加人力天賦，這個(gè)循環(huán)進(jìn)展緩慢。最終，財(cái)富的增加導(dǎo)致人們少生孩子。這提高了生活水平，年增長(zhǎng)率穩(wěn)定在約2%。

從勉強(qiáng)糊口到硅基時(shí)代

人工智能不存在這樣的人口限制。技術(shù)專家們承諾，它將迅速加快發(fā)現(xiàn)的速度。OpenAI的首席執(zhí)行官山姆·奧特曼預(yù)計(jì)，人工智能明年將有能力產(chǎn)生“新穎的見(jiàn)解”。人工智能已經(jīng)在幫助編寫更好的人工智能模型程序。有人說(shuō)，到2028年，它們將能夠監(jiān)督自身的改進(jìn)。

因此，經(jīng)濟(jì)增長(zhǎng)有可能出現(xiàn)第二次爆發(fā)。如果計(jì)算能力在沒(méi)有人力投入的情況下帶來(lái)技術(shù)進(jìn)步，并且足夠多的收益被重新投資于建造更強(qiáng)大的機(jī)器，財(cái)富可能會(huì)以前所未有的速度積累。長(zhǎng)期以來(lái)，經(jīng)濟(jì)學(xué)家們一直清楚自動(dòng)化發(fā)現(xiàn)思想這一不可阻擋的數(shù)學(xué)邏輯。根據(jù)一家看漲的智庫(kù)“時(shí)代人工智能”最近的預(yù)測(cè)，一旦人工智能能夠完成30%的任務(wù)，年增長(zhǎng)率將超過(guò)20%。

包括埃隆·馬斯克在內(nèi)的忠實(shí)信徒得出結(jié)論，自我改進(jìn)的人工智能將創(chuàng)造出超級(jí)智能。人類將能夠獲得所有可能的想法——包括制造最好的機(jī)器人、火箭和反應(yīng)堆的想法。能源獲取和人類壽命將不再構(gòu)成限制。經(jīng)濟(jì)的唯一約束將是物理定律。

即便不走到那種極端，也能想象出人工智能令人難以置信的影響。不妨做個(gè)思維實(shí)驗(yàn)，只考慮達(dá)到人類水平智能這一漸進(jìn)步驟。在勞動(dòng)力市場(chǎng)上，一項(xiàng)任務(wù)使用計(jì)算能力的成本會(huì)限制從事該任務(wù)的工資水平：為什么要向工人支付超過(guò)數(shù)字競(jìng)爭(zhēng)對(duì)手的報(bào)酬呢？然而，那些技能無(wú)法被自動(dòng)化且能直接與人工智能互補(bǔ)的少數(shù)超級(jí)明星，將獲得巨大的回報(bào)。最有可能比他們過(guò)得更好的，是與人工智能相關(guān)的資本所有者，他們將吞噬越來(lái)越大份額的經(jīng)濟(jì)產(chǎn)出。

其他人則必須適應(yīng)人工智能能力的不足以及新富階層的消費(fèi)模式。在自動(dòng)化和勞動(dòng)力供應(yīng)存在瓶頸的地方，工資可能會(huì)迅速上漲。這種被稱為“成本病”的效應(yīng)可能非常強(qiáng)烈，以至于會(huì)限制衡量出的GDP增長(zhǎng)，即便經(jīng)濟(jì)已經(jīng)發(fā)生了徹底的變化。

這種新的豐裕與短缺模式將反映在價(jià)格上。任何人工智能有助于生產(chǎn)的東西——比如全自動(dòng)化工廠生產(chǎn)的商品，或者數(shù)字娛樂(lè)——其價(jià)值都將暴跌。如果你擔(dān)心被人工智能搶走工作，至少可以期待能擁有很多這樣的東西。在仍然需要人類的地方，成本病可能會(huì)顯現(xiàn)。轉(zhuǎn)向體力工作的知識(shí)工作者可能會(huì)發(fā)現(xiàn)，他們能負(fù)擔(dān)得起的嬰童照料或外出就餐次數(shù)比現(xiàn)在還要少。而且人類可能最終會(huì)與人工智能爭(zhēng)奪土地和能源。

這種經(jīng)濟(jì)動(dòng)蕩將反映在金融市場(chǎng)上。隨著哪些公司在贏家通吃的競(jìng)爭(zhēng)中勝出或失敗變得明朗，股票價(jià)格可能會(huì)出現(xiàn)劇烈波動(dòng)。人們會(huì)有強(qiáng)烈的投資欲望，既要用于生成更強(qiáng)大的人工智能，也要讓基礎(chǔ)設(shè)施和工廠的存量跟上經(jīng)濟(jì)增長(zhǎng)的步伐。與此同時(shí)，為未來(lái)儲(chǔ)蓄的意愿可能會(huì)下降，因?yàn)槿藗?mdash;—尤其是儲(chǔ)蓄最多的富人——預(yù)期收入會(huì)大幅增加。

因此，要說(shuō)服人們拿出資本進(jìn)行投資，就需要更高的利率——或許高到足以讓長(zhǎng)期資產(chǎn)價(jià)格下跌，盡管經(jīng)濟(jì)在爆發(fā)式增長(zhǎng)。學(xué)者們對(duì)此存在分歧，但在一些模型中，利率的上升幅度與增長(zhǎng)率持平甚至更高。在爆發(fā)式增長(zhǎng)的情況下，這意味著不得不以20%-30%的利率再融資債務(wù)。即使收入增長(zhǎng)迅速的債務(wù)人也可能受到影響；那些收入與飛速增長(zhǎng)無(wú)關(guān)的人則會(huì)遭受重創(chuàng)。無(wú)法或不愿利用人工智能熱潮的國(guó)家可能會(huì)面臨資本外流。任何地方都可能出現(xiàn)宏觀經(jīng)濟(jì)不穩(wěn)定，因?yàn)殡S著人們揮霍預(yù)期的財(cái)富，而中央銀行沒(méi)有足夠快地加息，通貨膨脹可能會(huì)失控。

這是一個(gè)令人眩暈的思維實(shí)驗(yàn)。人類能應(yīng)對(duì)嗎？經(jīng)濟(jì)增長(zhǎng)以前也加速過(guò)，但工業(yè)革命時(shí)期沒(méi)有大規(guī)模的民主制度；歷史上最著名的機(jī)器仇恨者盧德分子沒(méi)有投票權(quán)。即使平均工資飆升，更高的不平等也可能引發(fā)對(duì)再分配的需求。國(guó)家也將擁有更強(qiáng)大的工具來(lái)監(jiān)控和操縱民眾。因此，政治局勢(shì)將動(dòng)蕩不安。各國(guó)政府將不得不重新思考從稅基到教育再到公民權(quán)利保護(hù)的一切事務(wù)。

盡管如此，超級(jí)智能的崛起仍應(yīng)引發(fā)人們的驚嘆。Anthropic的老板達(dá)里奧·阿莫迪本周告訴《經(jīng)濟(jì)學(xué)人》，他相信人工智能將幫助治療曾經(jīng)的不治之癥。如果經(jīng)濟(jì)再次加速，看待它的方式應(yīng)該是將其視為一個(gè)漫長(zhǎng)奇跡的延續(xù)，而這個(gè)奇跡之所以成為可能，只是因?yàn)槿藗儞肀Я俗兏铩?strong>人類可能會(huì)發(fā)現(xiàn)自己的智能被超越，但仍然需要智慧。