智東西（公眾號(hào)：zhidxcom）
編譯｜萬(wàn)貴霞
編輯｜云鵬
智東西1月27日消息，據(jù)英國(guó)《金融時(shí)報(bào)》昨日?qǐng)?bào)道，Anthropic的CEO達(dá)里奧·阿莫迪（Dario Amodei）周一發(fā)布了一篇長(zhǎng)達(dá)約兩萬(wàn)字的文章《技術(shù)的青春期（The Adolescence of Technology）》，系統(tǒng)闡述了未來(lái)幾年強(qiáng)大的AI技術(shù)可能帶來(lái)的災(zāi)難性風(fēng)險(xiǎn)。
人類(lèi)擁有AI技術(shù)，但卻無(wú)法熟練駕馭AI。
阿莫迪在文中直言，“人類(lèi)需要清醒過(guò)來(lái)，一些AI公司對(duì)當(dāng)前模型中出現(xiàn)的兒童性化問(wèn)題表現(xiàn)出令人不安的漠視。”他同時(shí)警告，失控的AI技術(shù)可能帶來(lái)從大規(guī)模失業(yè)到生物恐怖主義等一系列極端后果。
▲1月27日，Anthropic的CEO達(dá)里奧·阿莫迪在X上發(fā)帖公布其撰寫(xiě)的文章《技術(shù)的青春期》（圖源：X）
以下是阿莫迪兩萬(wàn)字文章《技術(shù)的青春期》的金句提煉：
1、AI時(shí)代考驗(yàn)：我們正進(jìn)入一個(gè)關(guān)鍵時(shí)期，人類(lèi)擁有強(qiáng)大的AI技術(shù)，而我們的社會(huì)、政治和技術(shù)體系駕馭 AI的成熟度，仍是未知數(shù)。
2、應(yīng)對(duì)AI風(fēng)險(xiǎn)原則：2026年的我們比2023年時(shí)更接近AI風(fēng)險(xiǎn)，我們需要以現(xiàn)實(shí)、務(wù)實(shí)的態(tài)度討論和應(yīng)對(duì)風(fēng)險(xiǎn)，保持冷靜、立足事實(shí)，并具備應(yīng)對(duì)趨勢(shì)變化的能力。
3、強(qiáng)大的AI定義：我所說(shuō)的“強(qiáng)大的AI”，是指一種AI模型，我們可以將其總結(jié)為“數(shù)據(jù)中心中的天才國(guó)家”。
4、AI發(fā)展速度預(yù)判：如果AI持續(xù)指數(shù)級(jí)增長(zhǎng)，那么AI在幾乎所有領(lǐng)域超越人類(lèi)，也不過(guò)是幾年時(shí)間。
5、AI價(jià)值與風(fēng)險(xiǎn)并存：AI創(chuàng)造難以估量的經(jīng)濟(jì)價(jià)值，同時(shí)提升人類(lèi)的生活質(zhì)量，但也有可能讓人用來(lái)搞破壞，因?yàn)橹挥猩贁?shù)具備高技能、經(jīng)過(guò)專(zhuān)業(yè)訓(xùn)練且專(zhuān)注投入的人才能正確使用AI。
6、AI與專(zhuān)制風(fēng)險(xiǎn)：人類(lèi)在執(zhí)行不人道行為時(shí)往往存在底線，AI驅(qū)動(dòng)的專(zhuān)制政權(quán)，則不會(huì)受到限制。
7、AI對(duì)就業(yè)的沖擊：AI的進(jìn)步速度遠(yuǎn)超以往任何一次技術(shù)革命，人們很難跟上這種變化的節(jié)奏，無(wú)論是工作方式的調(diào)整，還是轉(zhuǎn)換新工作的需求，都讓人難以適應(yīng)。
8、AI的勞動(dòng)替代屬性：AI并非是取代人類(lèi)特定工種的工具，而是可以替代人類(lèi)一般性勞動(dòng)的存在。
9、AI風(fēng)險(xiǎn)的制衡關(guān)系：AI正從多個(gè)維度向人類(lèi)發(fā)起挑戰(zhàn)，不同危險(xiǎn)之間存在著真實(shí)的制衡關(guān)系，如果我們處理時(shí)不夠謹(jǐn)慎，那么減輕某一類(lèi)風(fēng)險(xiǎn)的同時(shí)，可能加劇其他危險(xiǎn)的危害程度。
外媒普遍認(rèn)為，這篇文章標(biāo)志著AI行業(yè)最具影響力的企業(yè)家之一，罕見(jiàn)地就當(dāng)前AI安全保障不足發(fā)出了強(qiáng)烈警告。
一、Anthropic CEO對(duì)強(qiáng)大的AI系統(tǒng)性風(fēng)險(xiǎn)的判斷
Anthropic是OpenAI的競(jìng)爭(zhēng)對(duì)手。達(dá)里奧·阿莫迪曾是OpenAI的早期核心成員，但在2020年因與薩姆·阿爾特曼（Sam Altman）在公司發(fā)展方向及AI安全理念上出現(xiàn)分歧而離開(kāi)，隨后與他人共同創(chuàng)立了Anthropic。
目前，Anthropic正與包括微軟、英偉達(dá)在內(nèi)的科技巨頭，以及新加坡主權(quán)財(cái)富基金GIC、Coatue、紅杉資本等投資方洽談新一輪融資，融資規(guī)?？赡苓_(dá)到250億美元（約合人民幣1739.5億元）甚至更高，公司估值或升至3500億美元（約合人民幣2.4萬(wàn)億元）。
在文章中，阿莫迪重點(diǎn)描述了強(qiáng)大的AI系統(tǒng)可能帶來(lái)災(zāi)難性的風(fēng)險(xiǎn)。這類(lèi)AI系統(tǒng)將“在幾乎所有領(lǐng)域超越任何諾貝爾獎(jiǎng)得主、政治家或技術(shù)專(zhuān)家”，而這一節(jié)點(diǎn)，他判斷很可能在未來(lái)幾年內(nèi)到來(lái)。
▲達(dá)里奧·阿莫迪對(duì)強(qiáng)大的AI（powerful AI）的定義（圖源：The Adolescence of Technology原文）
強(qiáng)大的AI所帶來(lái)的最極端的風(fēng)險(xiǎn)之一，是普通個(gè)人可能借助AI研發(fā)出致命級(jí)別的生物武器，造成數(shù)百萬(wàn)人死亡，甚至“在最壞的情況下，摧毀地球上的所有生命”。
阿莫迪擔(dān)心，如果每個(gè)人都能輕易掌握AI技術(shù)，那么門(mén)檻就會(huì)被徹底消除，人人都能成為病毒學(xué)博士，并能一步步地學(xué)習(xí)如何設(shè)計(jì)、合成和釋放生物武器。
▲阿莫迪擔(dān)心有人利用AI進(jìn)行生物破壞。（圖源：The Adolescence of Technology原文）
他同時(shí)警告，AI還有可能“失控并壓制人類(lèi)”，或被獨(dú)裁者和其他惡意行為體利用，最終導(dǎo)致“全球性的極權(quán)統(tǒng)治”。
不過(guò)，阿莫迪也在文中明確提到，這并非對(duì)技術(shù)未來(lái)的確定性判斷，而是一種“低概率、高后果”的風(fēng)險(xiǎn)評(píng)估。他認(rèn)為，正因?yàn)榻Y(jié)果不可逆，人類(lèi)才有必要在風(fēng)險(xiǎn)顯性化之前提前干預(yù)。
此外，阿莫迪認(rèn)為，AI可能會(huì)在未來(lái)1到5年內(nèi)取代多達(dá)50%的入門(mén)級(jí)白領(lǐng)工作崗位，并推動(dòng)經(jīng)濟(jì)權(quán)力和財(cái)富進(jìn)一步向硅谷集中。
對(duì)于AI濫用問(wèn)題，他補(bǔ)充說(shuō)，即便AI不發(fā)生失控或惡意濫用，僅從生產(chǎn)效率角度看，其對(duì)勞動(dòng)力結(jié)構(gòu)、技能需求和組織形態(tài)的沖擊，也足以對(duì)社會(huì)運(yùn)行方式構(gòu)成長(zhǎng)期挑戰(zhàn)。
二、AI模型安全問(wèn)題引發(fā)的行業(yè)與政策討論
在文中，阿莫迪以兒童性化這一備受爭(zhēng)議的話題為例，雖然他沒(méi)有直接點(diǎn)名xAI，但目前xAI開(kāi)發(fā)的Grok模型正因未經(jīng)同意對(duì)真人圖像進(jìn)行性化處理而在多個(gè)國(guó)家面臨調(diào)查。
▲1月26日，埃隆·馬斯克的xAI正面臨歐盟的調(diào)查，以查明其是否傳播非法內(nèi)容，此前該平臺(tái)引發(fā)公眾強(qiáng)烈抗議。（圖源：路透社）
阿莫迪寫(xiě)道：“一些AI公司在當(dāng)前模型中，對(duì)兒童性化問(wèn)題表現(xiàn)出令人不安的疏忽，這讓我懷疑，他們是否真的有意愿或能力，在未來(lái)更強(qiáng)大的模型中應(yīng)對(duì)自主性風(fēng)險(xiǎn)?！?/p>
事實(shí)上，早在2023年，生物武器、自主武器以及惡意國(guó)家行為體等AI安全議題，就已成為全球公共討論的焦點(diǎn)，這在一定程度上正是受到阿莫迪等業(yè)內(nèi)人士持續(xù)警告的推動(dòng)。這類(lèi)討論的積極意義在于推動(dòng)行業(yè)形成最低安全共識(shí)，但如果缺乏可執(zhí)行的技術(shù)標(biāo)準(zhǔn)與持續(xù)評(píng)估機(jī)制，僅靠原則性表態(tài)難以真正降低風(fēng)險(xiǎn)。
▲行業(yè)形成的應(yīng)對(duì)AI風(fēng)險(xiǎn)共識(shí)，有助于推動(dòng)政策性變革（圖源：The Adolescence of Technology原文）
同年，英國(guó)政府在布萊切利莊園舉辦了首屆AI安全峰會(huì)，多國(guó)政府與AI實(shí)驗(yàn)室達(dá)成共識(shí)，承諾共同應(yīng)對(duì)相關(guān)風(fēng)險(xiǎn)，下一場(chǎng)會(huì)議計(jì)劃于今年2月在印度舉行。
不過(guò)，阿莫迪說(shuō)，當(dāng)前圍繞AI的政治決策，正越來(lái)越多地被“抓住技術(shù)紅利”的訴求所主導(dǎo)，而非“主動(dòng)降低風(fēng)險(xiǎn)”。
阿莫迪是AI行業(yè)中最積極倡導(dǎo)AI立法的人士之一?！拔視?huì)支持以公民自由為中心的立法，甚至可能是憲法修正案，來(lái)加強(qiáng)對(duì)AI濫用行為的防范?！彼f(shuō)，盡管Meta和微軟支持聯(lián)邦政府大于州級(jí)AI法律，但Anthropic公司支持加州和紐約州的AI透明度法案現(xiàn)已生效。
他寫(xiě)道：“AI的快速發(fā)展，可能會(huì)造成一些我們現(xiàn)有的法律框架無(wú)法妥善應(yīng)對(duì)的情況?！边@就是阿莫迪會(huì)不惜一切代價(jià)支持憲法修正案的原因。
結(jié)語(yǔ)：加速與失控之間，AI走向關(guān)鍵拐點(diǎn)
就在上個(gè)月，美國(guó)前總統(tǒng)特朗普簽署了一項(xiàng)行政命令，試圖阻止各州加強(qiáng)對(duì)AI公司的監(jiān)管。去年，他還公布了一份AI行動(dòng)計(jì)劃，核心目標(biāo)是進(jìn)一步加速美國(guó)的技術(shù)創(chuàng)新步伐，AI監(jiān)管已經(jīng)明顯滯后于技術(shù)發(fā)展速度。
在資本、算力和政策共同推動(dòng)下，AI正以前所未有的速度向前狂奔。但正如阿莫迪所警告的那樣，真正的問(wèn)題已不再是“AI能做什么”，而是“人類(lèi)是否準(zhǔn)備好承受它的后果”。
原文鏈接：https://www.darioamodei.com/essay/the-adolescence-of-technology#fnref:10
來(lái)源：金融時(shí)報(bào)、路透社
