原文標(biāo)題：《d/acc: one year later》

作者： Vitalik Buterin ，以太坊創(chuàng)始人

編譯：Leek，bitget交易所

文章圍繞去中心化加速（d/acc）理念展開，探討其在技術(shù)發(fā)展中的應(yīng)用及面臨的挑戰(zhàn)，包括人工智能安全與監(jiān)管、與加密貨幣的關(guān)聯(lián)以及公共物品資助等方面，強(qiáng)調(diào)了 d/acc 對構(gòu)建更安全美好世界的重要性及未來發(fā)展的機(jī)遇與挑戰(zhàn)。作者深入闡述 d/acc 的內(nèi)涵，通過對比不同策略分析其在應(yīng)對人工智能風(fēng)險等方面的作用，同時論述加密貨幣在其中的價值及公共物品資助機(jī)制的探索，最后展望未來技術(shù)發(fā)展雖有挑戰(zhàn)但人類仍有機(jī)會憑借現(xiàn)有工具和理念構(gòu)建更優(yōu)世界。

前言

特別感謝 Liraz Siri、Janine Leger 和 Balvi 等志愿者的反饋與審閱。

大約一年前，我撰寫了一篇關(guān)于技術(shù)樂觀主義的文章，文中闡述了我對技術(shù)所持的總體熱忱，以及技術(shù)能夠帶來的巨大效益，同時也表達(dá)了我對一些特定問題的審慎態(tài)度，這些問題主要聚焦于超級智能人工智能，以及倘若這項技術(shù)構(gòu)建不當(dāng)，便可能引發(fā)的毀滅風(fēng)險，或者導(dǎo)致人類不可逆轉(zhuǎn)地喪失權(quán)力的風(fēng)險。

我在那篇文章中的一個核心觀點是秉持一種理念：去中心化、民主且差異化的防御性加速。既要加速技術(shù)發(fā)展，又要有區(qū)別地聚焦于那些能夠提升我們防御能力而非造成傷害能力的技術(shù)，并且致力于推動權(quán)力分散，而非讓權(quán)力集中在少數(shù)精英手中，避免由這些精英代表所有人去判定是非善惡。防御的模式應(yīng)如同民主的瑞士，以及歷史上準(zhǔn)無政府主義的佐米亞地區(qū)那般，而非中世紀(jì)封建主義下領(lǐng)主和城堡所代表的模式。

自那時起的一年間，這些理念和想法經(jīng)歷了顯著的發(fā)展與成熟。我在「80,000 小時」（注：一個專注于職業(yè)選擇的組織）這一平臺上分享了這些想法，收獲了諸多回應(yīng)，其中大部分是積極的，當(dāng)然也存在一些批評的聲音。

這項工作本身持續(xù)推進(jìn)并取得了切實成果：在可驗證開源疫苗領(lǐng)域，我們目睹了進(jìn)展；人們對健康室內(nèi)空氣價值的認(rèn)知不斷深化；「社區(qū)筆記」持續(xù)發(fā)揮著積極效用；預(yù)測市場作為一種信息工具迎來了突破之年；零知識簡潔非交互式知識論證（ZK - SNARKs）在政府身份識別和社交媒體領(lǐng)域得以應(yīng)用（并且通過賬戶抽象確保了以太坊錢包的安全）；開源成像工具在醫(yī)學(xué)和腦機(jī)接口（BCI）領(lǐng)域獲得應(yīng)用，等等。

在去年秋季，我們迎來了首個重要的 d/acc 活動：于 Devcon 舉辦的「d/acc 發(fā)現(xiàn)日」（d/aDDy），活動匯聚了來自 d/acc 各個支柱領(lǐng)域（生物、物理、網(wǎng)絡(luò)、信息防御，以及神經(jīng)技術(shù)）的演講者，活動持續(xù)了整整一天。多年來致力于這些技術(shù)的人們愈發(fā)了解彼此的工作，而外部人士也越發(fā)意識到這一更為宏大的愿景：推動以太坊和加密貨幣發(fā)展的相同價值觀能夠拓展至更廣闊的世界。

d/acc 的內(nèi)涵與外延

時光流轉(zhuǎn)至 2042 年。你在媒體報道中看到一則消息，稱你所在的城市可能爆發(fā)新的疫情。對于此類消息，你已然司空見慣：人們往往會對每一種動物疾病突變反應(yīng)過度，而絕大多數(shù)情況下，這些突變最終都不會引發(fā)實際危機(jī)。此前的兩次潛在疫情，均通過廢水監(jiān)測以及對社交媒體的開源分析得以在早期察覺，并成功被遏制在萌芽狀態(tài)。然而，此次情況有所不同，預(yù)測市場顯示出現(xiàn)至少 10,000 例病例的概率高達(dá) 60%，這讓你憂心忡忡。

就在昨天，該病毒的基因序列已被確定。用于你口袋中空氣測試儀的軟件更新隨即推出，借助這一更新，測試儀能夠檢測新病毒（無論是通過一次呼吸檢測，還是在房間內(nèi)暴露于室內(nèi)空氣 15 分鐘后檢測）。與此同時，使用全球任何現(xiàn)代醫(yī)療設(shè)施都能獲取的設(shè)備來生成疫苗的開源指令和代碼，預(yù)計將在幾周內(nèi)發(fā)布。大多數(shù)人目前尚未采取任何行動，他們主要依賴廣泛采用的空氣過濾和通風(fēng)措施來保護(hù)自身安全。

由于你自身存在免疫問題，所以行事更為謹(jǐn)慎：你所使用的開源本地運行個人助理人工智能，除了承擔(dān)導(dǎo)航、餐廳和活動推薦等常規(guī)任務(wù)外，還會綜合考慮實時空氣測試數(shù)據(jù)和二氧化碳數(shù)據(jù)，從而僅向你推薦最為安全的場所。這些數(shù)據(jù)由成千上萬的參與者和設(shè)備提供，借助 ZK - SNARKs 和差分隱私技術(shù)，最大限度地降低了數(shù)據(jù)被泄露或濫用于其他目的的風(fēng)險（如果你有意為這些數(shù)據(jù)集貢獻(xiàn)數(shù)據(jù)，還有其他個人助理人工智能會驗證這些加密工具是否確實有效）。

兩個月后，疫情奇跡般地消散了：似乎 60% 的人遵循了基本防疫協(xié)議，即當(dāng)空氣測試儀發(fā)出警報并顯示存在病毒時便佩戴口罩，若個人檢測結(jié)果呈陽性則居家隔離。正是這一舉措，足以將由于被動強(qiáng)力空氣過濾而已經(jīng)大幅降低的傳播率進(jìn)一步降至 1 以下。一場模擬結(jié)果顯示可能比二十年前的新冠疫情嚴(yán)重五倍的疾病，如今卻未造成嚴(yán)重影響。

 Devcon 的 d/acc 日

Devcon 舉辦的 d/acc 活動取得了一項極為積極的成果，那就是 d/acc 理念成功地將來自不同領(lǐng)域的人們凝聚在一起，并切實激發(fā)了他們對彼此工作的濃厚興趣。

舉辦一場具有「多樣性」的活動并非難事，但要讓不同背景和興趣的人真正建立起緊密的聯(lián)系卻殊為不易。我至今仍對初中和高中時期被迫觀看冗長歌劇的經(jīng)歷記憶猶新，當(dāng)時我個人覺得這些歌劇枯燥乏味。我深知自己「理應(yīng)」欣賞它們，因為若不如此，便會被視為沒有文化的計算機(jī)科學(xué)懶蟲，但我卻未能在更深層次上與歌劇內(nèi)容產(chǎn)生共鳴。然而，d/acc 日的活動氛圍卻截然不同：感覺人們真心喜愛了解不同領(lǐng)域的各類工作。

倘若我們渴望構(gòu)建一個比統(tǒng)治、減速和毀滅更為光明的未來，就必然需要開展這種廣泛的聯(lián)盟建設(shè)。d/acc 在這方面似乎取得了顯著成效，僅此一點便足以彰顯這一理念的寶貴價值。

d/acc 的核心思想簡潔明了：去中心化、民主且差異化的防御性加速。構(gòu)建能夠促使攻防平衡向防御傾斜的技術(shù)，并且在實施過程中不依賴于將更多權(quán)力交予中央權(quán)威機(jī)構(gòu)。這兩個方面之間存在著內(nèi)在的緊密聯(lián)系：任何一種去中心化、民主或自由的政治結(jié)構(gòu)，在防御易于實施時往往能夠蓬勃發(fā)展，而在防御面臨重重困難時則會遭遇嚴(yán)峻挑戰(zhàn)——在那些情況下，更有可能出現(xiàn)的結(jié)果是一段所有人相互對抗的混亂時期，最終達(dá)成由最強(qiáng)者統(tǒng)治的平衡狀態(tài)。

理解嘗試同時實現(xiàn)去中心化、防御性和加速性的重要意義的一種方式，是將其與放棄這三個方面中的任意一個所產(chǎn)生的理念進(jìn)行對比。

去年《我的技術(shù)樂觀主義》中的圖表

去中心化加速，但忽視「差異化防御」部分

從本質(zhì)上講，這類似于成為一名有效加速主義者（e/acc），但同時追求去中心化。有許多人采取這種方式，其中一些人自稱 d/acc，但他們有益地將自身重點描述為「進(jìn)攻」。此外，還有許多其他人對「去中心化人工智能」及類似話題表現(xiàn)出更為溫和的熱情，但在我看來，他們對「防御」層面的關(guān)注明顯不足。

在我看來，這種方式或許能夠避免特定群體對全球人類實施獨裁統(tǒng)治的風(fēng)險，但它卻未能解決潛在的結(jié)構(gòu)性問題：在一個有利于進(jìn)攻的環(huán)境中，始終存在著災(zāi)難降臨的持續(xù)風(fēng)險，或者有人會將自己定位為保護(hù)者，并永久性地占據(jù)統(tǒng)治地位。就人工智能而言，它也無法妥善解決人類整體相對于人工智能被削弱權(quán)力的風(fēng)險。

差異化防御加速，但忽略「去中心化和民主」

為了實現(xiàn)安全目標(biāo)而接受集中控制，這對一部分人始終具有一定的吸引力，讀者無疑已經(jīng)熟知眾多此類事例，以及它們所帶來的弊端。近期，一些人擔(dān)憂極端集中控制可能是應(yīng)對未來極端技術(shù)的唯一途徑：例如，設(shè)想這樣一個假設(shè)情景，「每個人都佩戴一個‘自由標(biāo)簽’——這是當(dāng)今更為有限的可穿戴監(jiān)控設(shè)備的后續(xù)產(chǎn)品，類似于幾個國家用作監(jiān)獄替代方案的腳踝標(biāo)簽……加密的視頻和音頻被持續(xù)上傳，并實時由機(jī)器進(jìn)行解讀」。然而，集中控制存在一個程度的問題。一種通常被忽視但仍然有害的相對溫和的集中控制形式，體現(xiàn)在生物技術(shù)領(lǐng)域（例如食品、疫苗）對公眾監(jiān)督的抵制，以及允許這種抵制行為不受挑戰(zhàn)的閉源規(guī)范。

這種方式的風(fēng)險顯而易見，那就是中心本身往往會成為風(fēng)險的源頭。我們在新冠疫情期間便已見證了這一點，由多個主要世界政府資助的功能獲得性研究可能是疫情的根源所在，集中的認(rèn)識論導(dǎo)致世界衛(wèi)生組織多年來拒絕承認(rèn)新冠病毒是通過空氣傳播的，而強(qiáng)制性的社交距離和疫苗強(qiáng)制令則引發(fā)了可能持續(xù)數(shù)十年的政治反彈。類似的情況極有可能在與人工智能或其他風(fēng)險技術(shù)相關(guān)的任何風(fēng)險情境中再次發(fā)生。相比之下，去中心化的方式將更有效地應(yīng)對來自中心自身的風(fēng)險。

去中心化防御，但排斥加速

從本質(zhì)上來說，這是試圖減緩技術(shù)進(jìn)步或推動經(jīng)濟(jì)衰退。

這種策略面臨著雙重挑戰(zhàn)。首先，總體而言，技術(shù)和經(jīng)濟(jì)增長對人類而言是極為有益的，任何對其的延遲都會帶來難以估量的代價。其次，在一個非極權(quán)主義的世界中，停滯不前是不穩(wěn)定的：那些「作弊」最多，能夠找到看似合理的方式繼續(xù)推進(jìn)發(fā)展的人或群體將會占據(jù)優(yōu)勢。減速主義策略在某些特定情境下能夠在一定程度上發(fā)揮作用：例如歐洲食物比美國食物更為健康，這便是一個例證；核不擴(kuò)散到目前為止取得的成功也是如此。然而，這些策略不可能永遠(yuǎn)奏效。

通過 d/acc，我們致力于實現(xiàn)以下目標(biāo)：

• 在當(dāng)今世界日益部落化的趨勢下堅守原則，而不僅僅是盲目地構(gòu)建各種事物——相反，我們期望構(gòu)建特定的事物，從而使世界變得更加安全、美好。
• 認(rèn)識到指數(shù)級的技術(shù)進(jìn)步意味著世界將變得極為奇特，并且人類在宇宙中的總體「足跡」必然會不斷增加。我們保護(hù)脆弱的動物、植物和人群免受傷害的能力必須持續(xù)提升，而唯一的出路便是勇往直前。
• 構(gòu)建能夠切實保護(hù)我們的技術(shù)，而不是基于「好人（或好的人工智能）掌控一切」的假設(shè)。我們通過構(gòu)建在用于構(gòu)建和保護(hù)時自然比用于破壞時更為有效的工具來達(dá)成這一目標(biāo)。

思考 d/acc 的另一種視角是回歸到 21 世紀(jì) 00 年代末歐洲海盜黨運動的一個框架：賦權(quán)。

我們的目標(biāo)是構(gòu)建一個能夠保留人類能動性的世界，實現(xiàn)消極自由，即避免他人（無論是普通公民、政府，還是超級智能機(jī)器人）對我們塑造自身命運的能力進(jìn)行積極干預(yù)，同時實現(xiàn)積極自由，即確保我們擁有知識和資源去踐行這一能力。這呼應(yīng)了一個延續(xù)數(shù)世紀(jì)的古典自由主義傳統(tǒng)，其中涵蓋了斯圖爾特·布蘭德對「工具獲取」的關(guān)注，以及約翰·斯圖爾特·密爾對教育與自由并列作為人類進(jìn)步關(guān)鍵要素的強(qiáng)調(diào)——或許還可以補(bǔ)充巴克敏斯特·富勒期望全球解決問題的過程是參與式和廣泛分布的愿景。鑒于 21 世紀(jì)的技術(shù)格局，我們可以將 d/acc 視為實現(xiàn)這些相同目標(biāo)的一種途徑。

第三維度：生存與繁榮的協(xié)同發(fā)展

在我去年的文章中，d/acc 特別聚焦于防御性技術(shù)：物理防御、生物防御、網(wǎng)絡(luò)防御和信息防御。然而，單純的去中心化防御并不足以構(gòu)建一個偉大的世界：我們還需要一個具有前瞻性的積極愿景，明確人類在獲得新的去中心化和安全性之后能夠?qū)崿F(xiàn)何種目標(biāo)。

去年的文章在兩個方面確實包含了一個積極的愿景：

1、在關(guān)注超級智能的挑戰(zhàn)時，我提出了一條路徑（這對我來說并非原創(chuàng)），即我們?nèi)绾卧诓粏适?quán)力的情況下實現(xiàn)超級智能：

•  當(dāng)下，構(gòu)建人工智能作為工具，而非高度自主的智能體。
•  未來，運用虛擬現(xiàn)實、肌電技術(shù)和腦機(jī)接口等工具，在人工智能與人類之間建立更為緊密的反饋機(jī)制。
•  隨著時間的推移，逐步邁向最終的結(jié)局，即超級智能是機(jī)器與人類緊密融合的產(chǎn)物。

2、在談及信息防御時，我也曾順便提及，除了那些旨在幫助社區(qū)在面對攻擊者時保持凝聚力并進(jìn)行高質(zhì)量討論的防御性社會技術(shù)之外，還存在進(jìn)步性社會技術(shù)，能夠助力社區(qū)更輕松地做出高質(zhì)量判斷：Pol.is 便是一個實例，預(yù)測市場亦是如此。

但當(dāng)時這兩點感覺與 d/acc 的核心論點存在脫節(jié)：「這里有一些關(guān)于在基礎(chǔ)層面構(gòu)建一個更民主、更有利于防御的世界的想法，順便說一下，這里還有一些關(guān)于我們?nèi)绾螌崿F(xiàn)超級智能的不相關(guān)想法」。

然而，我認(rèn)為在現(xiàn)實中，上述被標(biāo)記為「防御性」和「進(jìn)步性」的 d/acc 技術(shù)之間存在著一些至關(guān)重要的聯(lián)系。讓我們擴(kuò)展去年文章中的 d/acc 圖表，通過在圖表中添加這個軸（同時將其重新標(biāo)記為「生存與繁榮」），來看看會呈現(xiàn)出怎樣的結(jié)果：

在各個領(lǐng)域中存在著一個一致的模式，即那些能夠幫助我們在某一領(lǐng)域「生存」的科學(xué)、思想和工具，與能夠助力我們「繁榮」的科學(xué)、思想和工具密切相關(guān)。以下是一些具體例子：

• 眾多近期的抗新冠研究聚焦于病毒在體內(nèi)的持續(xù)存在，這被視為長新冠問題的一個關(guān)鍵機(jī)制。近來，也有跡象表明病毒持續(xù)存在可能是阿爾茨海默病的致病因素——倘若這一觀點成立，那么解決所有組織類型中的病毒持續(xù)存在問題，或許將成為攻克衰老難題的關(guān)鍵所在。
• 低成本和微型成像工具，如 Openwater 正在研發(fā)的那些，在治療微血栓、病毒持續(xù)存在、癌癥等方面具有強(qiáng)大的潛力，同時也可應(yīng)用于腦機(jī)接口領(lǐng)域。
• 推動構(gòu)建適用于高度對抗性環(huán)境的社會工具（如社區(qū)筆記）和合理合作環(huán)境的社會工具（如 Pol.is）的理念極為相似
• 預(yù)測市場在高合作和高對抗環(huán)境中均具有重要價值。
• 零知識證明及類似技術(shù)在保護(hù)隱私的同時對數(shù)據(jù)進(jìn)行計算，既增加了可用于科學(xué)研究等有益工作的數(shù)據(jù)量，又增強(qiáng)了隱私保護(hù)。
• 太陽能和電池對于推動下一波清潔經(jīng)濟(jì)增長意義非凡，同時在去中心化和物理彈性方面也表現(xiàn)出色。

除此之外，不同學(xué)科領(lǐng)域之間還存在著重要的相互依存關(guān)系：

• 腦機(jī)接口作為一種信息防御和協(xié)作技術(shù)至關(guān)重要，因為它能夠?qū)崿F(xiàn)我們思想和意圖的更精細(xì)交流。腦機(jī)接口不僅僅是機(jī)器人與意識之間的連接：它還可以是意識 - 機(jī)器人 - 意識之間的交互。這與多元性理念中腦機(jī)接口的價值相呼應(yīng)。
• 許多生物技術(shù)依賴于信息共享，而在諸多情況下，人們只有在確信信息僅會用于特定應(yīng)用時才愿意共享。這依賴于隱私技術(shù)（如零知識證明、全同態(tài)加密、混淆技術(shù)等）。
• 協(xié)作技術(shù)能夠用于協(xié)調(diào)對其他任何技術(shù)領(lǐng)域的資助。

難題：人工智能安全、緊迫時間線與監(jiān)管困境

不同的人有截然不同的人工智能時間表。圖表來自 2023 年黑山的 Zuzalu。

去年我的文章所收到的最具說服力的反對觀點來自人工智能安全社區(qū)。其論點為：「當(dāng)然，如果我們有半個世紀(jì)的時間來發(fā)展強(qiáng)人工智能，我們可以集中精力構(gòu)建所有這些有益的事物。但實際上，看起來我們可能僅有三年時間發(fā)展到通用人工智能，再過三年發(fā)展到超級智能。因此，如果我們不想讓世界陷入毀滅或以其他方式陷入不可逆轉(zhuǎn)的困境，我們不能僅僅加速有益技術(shù)的發(fā)展，還必須減緩有害技術(shù)的發(fā)展，這意味著需要通過可能會觸怒權(quán)勢階層的強(qiáng)有力監(jiān)管措施」。在我去年的文章中，除了含糊地呼吁不要構(gòu)建具有風(fēng)險的超級智能形式之外，我確實未曾提出任何具體的「減緩有害技術(shù)發(fā)展」的策略。所以在此，有必要直接探討這個問題：如果我們身處最不理想的世界，人工智能風(fēng)險極高且時間線可能僅有五年之短，我會支持何種監(jiān)管措施呢？

對新監(jiān)管持謹(jǐn)慎態(tài)度的理由

去年，主要的人工智能監(jiān)管提案是加利福尼亞州的 SB - 1047 法案。SB - 1047 要求最強(qiáng)大模型（即那些訓(xùn)練成本超過 1 億美元，或微調(diào)成本超過 1000 萬美元的模型）的開發(fā)者在發(fā)布前采取一系列安全測試措施。此外，如果人工智能模型開發(fā)者未能足夠謹(jǐn)慎，將對其追究責(zé)任。許多批評者認(rèn)為該法案「對開源構(gòu)成威脅」；我對此持有異議，因為成本閾值意味著它僅影響最強(qiáng)大的模型：即使是 Llama3 模型可能也低于該閾值。然而，回顧過去，我認(rèn)為該法案存在一個更為嚴(yán)重的問題：如同大多數(shù)監(jiān)管措施一樣，它過度適應(yīng)了當(dāng)前的情況。對訓(xùn)練成本的關(guān)注在面對新技術(shù)時已被證明是脆弱的：近期最先進(jìn)的 DeepSeek v3 模型的訓(xùn)練成本僅為 600 萬美元，而且在像 o1 這樣的新模型中，成本通常從訓(xùn)練更多地轉(zhuǎn)移到了推理階段。

最有可能對人工智能超級智能毀滅場景負(fù)責(zé)的行為者

實際上，最有可能對人工智能超級智能毀滅場景負(fù)責(zé)的行為者是軍隊。正如我們在過去半個世紀(jì)的生物安全（及更早時期）中所目睹的那樣，軍隊愿意采取一些可怕的行動，而且他們極易犯錯。如今，人工智能在軍事領(lǐng)域的應(yīng)用正在迅速發(fā)展（如在烏克蘭、加沙地區(qū)的應(yīng)用）。并且，任何政府通過的安全監(jiān)管措施，默認(rèn)情況下都會豁免本國軍隊以及與軍隊密切合作的公司。

應(yīng)對策略

盡管如此，這些論點并非讓我們束手無策的理由。相反，我們可以將它們作為指引，嘗試制定引發(fā)這些擔(dān)憂最少的規(guī)則。

策略 1：責(zé)任

如果某人的行為以某種方式造成了可依法追究的損害，他們可能會被起訴。這并不能解決來自軍隊和其他「凌駕于法律之上」的行為者所帶來的風(fēng)險問題，但這是一種非常通用的方法，可避免過度擬合，正因如此，傾向于自由意志主義的經(jīng)濟(jì)學(xué)家通常支持這種做法。

到目前為止所考慮的主要責(zé)任目標(biāo)如下：

• 用戶：即使用人工智能的人。
• 部署者：為用戶提供人工智能服務(wù)的中間人。
• 開發(fā)者：構(gòu)建人工智能的人。

將責(zé)任歸于用戶似乎最符合激勵機(jī)制。雖然模型的開發(fā)方式與最終使用方式之間的聯(lián)系往往不明確，但用戶決定了人工智能的具體使用方式。對用戶追究責(zé)任會產(chǎn)生一種強(qiáng)大的壓力，促使人們以我認(rèn)為正確的方式使用人工智能：專注于為人類思維構(gòu)建機(jī)械套裝，而非創(chuàng)造新的自我維持的智能生命形式。前者會定期響應(yīng)用戶意圖，因此除非用戶希望，否則不會導(dǎo)致災(zāi)難性行動。而后者則存在最大的風(fēng)險，即可能失控并引發(fā)經(jīng)典的「人工智能失控」場景。將責(zé)任盡可能靠近最終使用端的另一個好處是，它最大限度地減少了責(zé)任導(dǎo)致人們采取在其他方面有害的行動的風(fēng)險（例如閉源、了解你的客戶（KYC）和監(jiān)控、國家 / 企業(yè)勾結(jié)秘密限制用戶，如銀行拒絕為某些客戶提供服務(wù)，將世界上大片地區(qū)排除在外）。

有一種經(jīng)典的反對僅將責(zé)任歸于用戶的觀點：用戶可能是普通個人，沒有太多錢，甚至可能是匿名的，這樣就沒有人能夠?qū)嶋H為災(zāi)難性的損害買單。這種觀點可能被夸大了：即使有些用戶太小而無法承擔(dān)責(zé)任，人工智能開發(fā)者的普通客戶卻不是，因此人工智能開發(fā)者仍然會受到激勵，去構(gòu)建能夠讓用戶確信他們不會面臨高責(zé)任風(fēng)險的產(chǎn)品。也就是說，這仍然是一個有效的觀點，需要加以解決。你需要激勵管道中的某個有資源采取適當(dāng)謹(jǐn)慎措施的人這樣做，而部署者和開發(fā)者都是容易找到的目標(biāo)，他們?nèi)匀粚δＰ偷陌踩杂泻艽笥绊憽?/p>

部署者責(zé)任似乎是合理的。一個常見的擔(dān)憂是它對開源模型不起作用，但這似乎是可以管理的，特別是因為最強(qiáng)大的模型很有可能是閉源的（如果結(jié)果是開源的，那么雖然部署者責(zé)任最終可能不是非常有用，但也不會造成太大危害）。開發(fā)者責(zé)任也存在同樣的擔(dān)憂（盡管對于開源模型，需要微調(diào)模型以使其做一些原本不被允許的事情存在一定障礙），但同樣的反駁理由也適用。作為一般原則，對控制施加一種「稅」，本質(zhì)上是說「你可以構(gòu)建你無法控制的東西，或者你可以構(gòu)建你能夠控制的東西，但如果你構(gòu)建你能夠控制的東西，那么 20% 的控制權(quán)必須用于我們的目的」，這似乎是法律體系應(yīng)有的合理立場。

一個似乎尚未得到充分探索的想法是將責(zé)任歸于管道中的其他行為者，這些行為者更有可能擁有充足的資源。一個非常符合 d/acc 理念的想法是，對人工智能在執(zhí)行某些災(zāi)難性有害行動過程中所接管（例如通過黑客攻擊）的任何設(shè)備的所有者或操作者追究責(zé)任。這將創(chuàng)造一種非常廣泛的激勵，促使人們努力使世界（特別是計算和生物領(lǐng)域）的基礎(chǔ)設(shè)施盡可能安全。

策略 2：工業(yè)規(guī)模硬件上的全球「軟暫停」按鈕

如果我確信我們需要比責(zé)任規(guī)則更「強(qiáng)有力」的措施，我會選擇這個策略。目標(biāo)是在關(guān)鍵時期具備將全球可用計算能力降低約 90% - 99% 的能力，持續(xù) 1 - 2 年，為人類爭取更多準(zhǔn)備時間。1 - 2 年的價值不應(yīng)被高估：一年的「戰(zhàn)時模式」在自滿的情況下很容易抵得上一百年的常規(guī)工作。實現(xiàn)「暫停」的方法已經(jīng)在探索中，包括一些具體的提案，如要求硬件注冊和驗證位置。

一種更先進(jìn)的方法是使用巧妙的加密技術(shù)手段：例如，生產(chǎn)出來的工業(yè)規(guī)模（但非消費級）人工智能硬件可以配備一個可信硬件芯片，只有在每周獲得來自主要國際機(jī)構(gòu)（包括至少一個非軍事附屬機(jī)構(gòu)）的 3/3 簽名時，才允許其繼續(xù)運行。這些簽名將與設(shè)備無關(guān)（如果需要，我們甚至可以要求在區(qū)塊鏈上發(fā)布零知識證明），所以這將是全有或全無的：沒有實際方法可以授權(quán)一個設(shè)備繼續(xù)運行而不授權(quán)所有其他設(shè)備。

這在最大化利益和最小化風(fēng)險方面似乎「符合要求」：

• 這是一項有用的能力：如果我們收到跡象表明接近超級智能的人工智能開始做出可能導(dǎo)致災(zāi)難性損害的事情，我們會希望更緩慢地進(jìn)行過渡。
• 在這樣的關(guān)鍵時刻到來之前，僅僅擁有軟暫停的能力對開發(fā)者造成的危害很小。
• 專注于工業(yè)規(guī)模硬件，并且僅將目標(biāo)設(shè)定為 90% - 99%，將避免一些反烏托邦的做法，如在消費級筆記本電腦中植入間諜芯片或強(qiáng)制關(guān)閉開關(guān)，或強(qiáng)迫小國違背其意愿采取嚴(yán)厲措施。
• 專注于硬件似乎對技術(shù)變化具有很強(qiáng)的適應(yīng)性。我們在多代人工智能中已經(jīng)看到，質(zhì)量在很大程度上取決于可用計算能力，尤其是在新范式的早期版本中。因此，將可用計算能力降低 10 - 100 倍很容易使失控的超級智能人工智能在與試圖阻止它的人類的快速戰(zhàn)斗中產(chǎn)生勝負(fù)之分。
• 每周需要上線獲取簽名的內(nèi)在麻煩性將強(qiáng)烈抑制將該方案擴(kuò)展到消費級硬件的想法。
• 可以通過隨機(jī)檢查進(jìn)行驗證，并且在硬件層面進(jìn)行操作將使豁免特定用戶變得困難（基于法律強(qiáng)制關(guān)閉而非技術(shù)手段的方法不具備這種全有或全無的屬性，這使得它們更容易滑向?qū)婈牭鹊幕砻猓?/li>

硬件監(jiān)管已經(jīng)在被強(qiáng)烈考慮，盡管通常是在出口管制的框架內(nèi)，這本質(zhì)上具有一種「我們信任自己一方，但不信任另一方」的理念。利奧波德·阿申布倫納曾著名地主張美國應(yīng)該競相取得決定性優(yōu)勢，然后迫使中國簽署一項協(xié)議，限制他們可以運行的設(shè)備數(shù)量。在我看來，這種方法似乎有風(fēng)險，并且可能結(jié)合多極競賽和集中化的缺陷。如果我們必須限制人們，似乎更好的做法是平等地限制每個人，并努力實際合作來組織實施，而不是一方試圖支配所有人。

d/acc 技術(shù)在人工智能風(fēng)險中的作用

這兩種策略（責(zé)任和硬件暫停按鈕）都存在漏洞，并且很明顯它們只是暫時的權(quán)宜之計：如果在時間 T 時在超級計算機(jī)上能夠做某事，那么在時間 T 5 年時在筆記本電腦上也很可能能夠做到。因此，我們需要更穩(wěn)定的措施來爭取時間。許多 d/acc 技術(shù)在這里是相關(guān)的。我們可以如下看待 d/acc 技術(shù)的作用：如果人工智能接管世界，它會如何做到？

• 它入侵我們的計算機(jī)→網(wǎng)絡(luò)防御
• 它制造超級瘟疫→生物防御
• 它說服我們（要么信任它，要么不信任彼此）→信息防御

如上文簡要提到的，責(zé)任規(guī)則是一種自然符合 d/acc 理念的監(jiān)管方式，因為它們可以非常有效地激勵世界各地采用這些防御措施并認(rèn)真對待。臺灣最近一直在試驗對虛假廣告追究責(zé)任，這可以被視為利用責(zé)任來鼓勵信息防御的一個例子。我們不應(yīng)過于熱衷于到處施加責(zé)任，并且要記住普通的自由在使小人物能夠參與創(chuàng)新而無需擔(dān)心訴訟方面的好處，但是在我們確實希望更強(qiáng)有力地推動安全的地方，責(zé)任可以相當(dāng)靈活和有效。

加密貨幣在 d/acc 中的作用

d/acc 的很多方面遠(yuǎn)遠(yuǎn)超出了典型的區(qū)塊鏈主題：生物安全、腦機(jī)接口和協(xié)作話語工具似乎與加密貨幣人士通常談?wù)摰膬?nèi)容相去甚遠(yuǎn)。然而，我認(rèn)為加密貨幣和 d/acc 之間存在一些重要聯(lián)系，特別是：

• d/acc 是加密貨幣的基本價值（去中心化、抗審查、開放的全球經(jīng)濟(jì)和社會）向其他技術(shù)領(lǐng)域的延伸。
• 因為加密貨幣用戶是自然的早期采用者，并且存在價值觀的一致性，加密貨幣社區(qū)是 d/acc 技術(shù)的自然早期用戶。對社區(qū)的高度重視（包括線上和線下，例如活動和快閃活動），以及這些社區(qū)實際上做高風(fēng)險事情而不僅僅是相互交談的事實，使得加密貨幣社區(qū)成為 d/acc 技術(shù)特別有吸引力的孵化器和試驗場，這些技術(shù)從根本上是基于群體而非個人運作的（例如大部分信息防御和生物防御技術(shù)）。加密貨幣人士就是一起做事。
• 許多加密貨幣技術(shù)可以用于 d/acc 主題領(lǐng)域：區(qū)塊鏈用于構(gòu)建更強(qiáng)大和去中心化的金融、治理和社交媒體基礎(chǔ)設(shè)施，零知識證明用于保護(hù)隱私等。如今，許多最大的預(yù)測市場建立在區(qū)塊鏈上，并且它們正逐漸變得更加復(fù)雜、去中心化和民主。
• 在與加密貨幣相鄰的技術(shù)方面也存在雙贏的合作機(jī)會，這些技術(shù)對加密貨幣項目非常有用，同時也是實現(xiàn) d/acc 目標(biāo)的關(guān)鍵：形式驗證、計算機(jī)軟件和硬件安全以及具有對抗性的穩(wěn)健治理技術(shù)。這些使以太坊區(qū)塊鏈、錢包和去中心化自治組織（DAO）更加安全和穩(wěn)健，并且它們還實現(xiàn)了重要的文明防御目標(biāo)，例如降低我們對網(wǎng)絡(luò)攻擊（包括可能來自超級智能人工智能的攻擊）的脆弱性。

Cursive 是一款使用全同態(tài)加密技術(shù)（FHE）的應(yīng)用程序，它允許用戶識別與其他用戶共同感興趣的領(lǐng)域，同時保護(hù)隱私。清邁的 Edge City（Zuzalu 的眾多分社之一）就使用了這款應(yīng)用。

d/acc 與公共物品資助

我一直感興趣的一個問題是想出更好的機(jī)制來資助公共物品：即對非常大的群體有價值但沒有自然可及商業(yè)模式的項目。我過去在這方面的工作包括我對二次方資金資助及其在 Gitcoin 贈款、追溯性公共物品資金（retro PGF）以及最近的深度資金資助中的貢獻(xiàn)。

許多人對公共物品這個概念持懷疑態(tài)度。這種懷疑通常來自兩個方面：

• 公共物品在歷史上一直被用作政府對社會和經(jīng)濟(jì)進(jìn)行強(qiáng)硬中央計劃和干預(yù)的理由。
•  一種普遍的看法是公共物品資助缺乏嚴(yán)謹(jǐn)性，并且是基于社會期望偏差運作的——即聽起來好的東西，而不是真正好的東西——并且有利于能夠玩轉(zhuǎn)社交游戲的內(nèi)部人士。

這些都是重要的批評，而且是合理的批評。然而，我認(rèn)為強(qiáng)大的去中心化公共物品資助對于 d/acc 愿景至關(guān)重要，因為 d/acc 的一個關(guān)鍵目標(biāo)（最小化中央控制點）本身就阻礙了許多傳統(tǒng)商業(yè)模式。在開源基礎(chǔ)上建立成功的企業(yè)是可能的——幾個 Balvi 受資助者正在這樣做——但在某些情況下這足夠困難，以至于重要項目需要額外的持續(xù)支持。因此，我們必須做困難的事情，即弄清楚如何以一種解決上述兩個批評的方式進(jìn)行公共物品資助。

第一個問題的解決方案基本上是可信的中立性和去中心化。中央計劃是有問題的，因為它將控制權(quán)交給了可能變得濫用權(quán)力的精英，并且因為它經(jīng)常過度適應(yīng)當(dāng)前情況，隨著時間推移變得越來越無效。二次方資金資助和類似機(jī)制正是關(guān)于以盡可能可信的中立和（在架構(gòu)和政治上）去中心化的方式資助公共物品。

第二個問題更具挑戰(zhàn)性。對于二次方資金資助，一個常見的批評是它很快就變成了一場人氣競賽，要求項目資助者花費大量精力進(jìn)行公開宣傳。此外，那些「在人們眼前」的項目（例如最終用戶應(yīng)用程序）得到資助，而那些更在幕后的項目（典型的「由內(nèi)布拉斯加州的一個人維護(hù)的依賴項」）根本得不到任何資助。樂觀主義追溯性資金依賴于較少數(shù)量的專家徽章持有者；在這里，人氣競賽效應(yīng)減少了，但與徽章持有者有密切個人關(guān)系的社會效應(yīng)被放大了。

深度資金資助是我自己為解決這個問題所做的最新努力。深度資金資助有兩個主要創(chuàng)新：

• 依賴關(guān)系圖。我們不是問每個陪審員一個全球性問題（「項目 A 對人類的價值是什么？」），而是問一個局部問題（「項目 A 或項目 B 對結(jié)果 C 更有價值？價值多少？」）。人類在回答全球性問題方面是出了名的糟糕：在一項著名的研究中，當(dāng)被問及他們愿意花多少錢來拯救 N 只鳥時，受訪者對 N = 2000、N = 20000 和 N = 200000 的回答大致都是 80 美元。局部問題更容易處理。然后，我們通過維護(hù)一個「依賴關(guān)系圖」將局部答案組合成一個全局答案：對于每個項目，哪些其他項目對其成功有貢獻(xiàn)，貢獻(xiàn)多少？
•  人工智能作為提煉后的人類判斷。陪審員每人只被分配所有問題中的一小部分隨機(jī)樣本。有一個開放競賽，任何人都可以提交人工智能模型，試圖有效地填補(bǔ)圖中的所有邊。最終答案是與陪審團(tuán)答案最兼容的模型的加權(quán)總和。有關(guān)代碼示例，請參閱此處。這種方法允許機(jī)制擴(kuò)展到非常大的規(guī)模，同時要求陪審團(tuán)只提交少量的「信息位」。這減少了腐敗的機(jī)會，并確保每個信息位都是高質(zhì)量的：陪審員可以在每個問題上花很長時間思考，而不是快速點擊瀏覽數(shù)百個問題。通過使用人工智能的開放競賽，我們減少了來自任何單一人工智能訓(xùn)練和管理過程的偏差。人工智能的開放市場作為引擎，人類作為方向盤。

但深度資金資助只是最新的例子；之前還有其他公共物品資助機(jī)制的想法，未來也會有更多。allo.expert 在對它們進(jìn)行編目方面做得很好。根本目標(biāo)是創(chuàng)建一個社會工具，能夠以至少接近市場資助私人物品的準(zhǔn)確性、公平性和開放準(zhǔn)入水平來資助公共物品。它不必完美；畢竟，市場本身也遠(yuǎn)非完美。但它應(yīng)該足夠有效，使得從事對每個人都有益的高質(zhì)量開源項目的開發(fā)者能夠繼續(xù)這樣做，而不會覺得需要做出不可接受的妥協(xié)。

如今，大多數(shù) d/acc 主題領(lǐng)域的領(lǐng)先項目：疫苗、腦機(jī)接口、像手腕肌電和眼動追蹤這樣的「邊緣腦機(jī)接口」、抗衰老藥物、硬件等，都是專有項目。這在確保公眾信任方面有很大的缺點，正如我們在上述許多領(lǐng)域已經(jīng)看到的那樣。它還將注意力轉(zhuǎn)向競爭動態(tài)（「我們的團(tuán)隊必須贏得這個關(guān)鍵行業(yè)！」），而遠(yuǎn)離了確保這些技術(shù)足夠快地出現(xiàn)以在超級智能人工智能的世界中保護(hù)我們的更大競爭。出于這些原因，強(qiáng)大的公共物品資助可以成為開放性和自由的有力推動者。這是加密貨幣社區(qū)可以幫助 d/acc 的另一種方式：通過認(rèn)真努力探索這些資助機(jī)制，并使其在自身背景下良好運作，為更廣泛地應(yīng)用于開源科學(xué)和技術(shù)做好準(zhǔn)備。

未來

未來幾十年帶來了重要挑戰(zhàn)。最近我一直在思考兩個挑戰(zhàn)：

• 強(qiáng)大的新技術(shù)浪潮，尤其是強(qiáng)人工智能，正在迅速到來，這些技術(shù)伴隨著我們需要避免的重要陷阱。「人工超級智能」可能需要五年時間到來，也可能需要五十年。無論哪種情況，默認(rèn)結(jié)果是否自動積極并不清楚，正如在這篇文章和上一篇文章中所描述的，有多個陷阱需要避免。
•  世界變得越來越不合作。許多以前似乎至少有時會基于高尚原則（世界主義、自由、共同人性……等等）行事的強(qiáng)大行為者，現(xiàn)在更加公開和積極地追求個人或部落的自身利益。

然而，這些挑戰(zhàn)中的每一個都有一線希望。首先，我們現(xiàn)在擁有非常強(qiáng)大的工具來更快地完成我們的剩余工作：

• 當(dāng)前和近期的人工智能可以用于構(gòu)建其他技術(shù)，并且可以作為治理中的一個要素（如在深度資金資助或信息金融中）。它與腦機(jī)接口也非常相關(guān)，腦機(jī)接口本身可以提供進(jìn)一步的生產(chǎn)力提升。
•  大規(guī)模協(xié)調(diào)現(xiàn)在比以前在更大的規(guī)模上成為可能。互聯(lián)網(wǎng)和社交媒體擴(kuò)展了協(xié)調(diào)的范圍，全球金融（包括加密貨幣）增強(qiáng)了其力量，現(xiàn)在信息防御和協(xié)作工具可以提高其質(zhì)量，也許很快腦機(jī)接口以人 - 計算機(jī) - 人的形式可以增加其深度。
• 形式驗證、沙盒技術(shù)（網(wǎng)絡(luò)瀏覽器、Docker、Qubes、GrapheneOS 等等）、安全硬件模塊和其他技術(shù)正在改進(jìn)，使得更好的網(wǎng)絡(luò)安全成為可能。
• 編寫任何類型的軟件都比兩年前容易得多。
• 最近關(guān)于理解病毒如何工作的基礎(chǔ)研究，特別是對最重要的傳播形式是空氣傳播的簡單理解，為如何改善生物防御展示了更清晰的路徑。
• 生物技術(shù)的最新進(jìn)展（例如 CRISPR、生物成像的進(jìn)展）使得各種生物技術(shù)，無論是用于防御、長壽、超級幸福、探索多種新的生物假設(shè)，還是僅僅做非常酷的事情，都更容易獲得。
• 計算和生物技術(shù)的共同進(jìn)步正在使合成生物工具成為可能，你可以使用這些工具來適應(yīng)、監(jiān)測和改善你的健康。網(wǎng)絡(luò)防御技術(shù)，如密碼學(xué)，使這種個性化維度更加可行。

其次，現(xiàn)在許多我們珍視的原則不再被舊勢力的少數(shù)特定部分所占據(jù)，它們可以被一個歡迎世界上任何人加入的廣泛聯(lián)盟所重新奪回。這可能是最近世界各地政治「重新調(diào)整」的最大好處，值得加以利用。加密貨幣已經(jīng)出色地利用了這一點并找到了全球吸引力；d/acc 也可以做到同樣的事情。

獲取工具意味著我們能夠適應(yīng)和改善我們的生物特性和環(huán)境，而 d/acc 中的「防御」部分意味著我們能夠做到這一點而不侵犯他人同樣做的自由。自由多元主義原則意味著我們在如何做到這一點上可以有很大的多樣性，而我們對共同人類目標(biāo)的承諾意味著它應(yīng)該得以實現(xiàn)。

我們?nèi)祟惾匀皇亲钜鄣拿餍恰[在我們面前的任務(wù)，即構(gòu)建一個更加光明的 21 世紀(jì)，在我們邁向星辰的過程中保護(hù)人類的生存、自由和能動性，是一項具有挑戰(zhàn)性的任務(wù)。但我相信我們能夠勝任。

AD：

鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請第一時間聯(lián)系我們修改或刪除，多謝。