芯東西（公眾號：aichip001）
編譯?| 王傲翔
編輯 | 程茜

芯東西4月3日消息，據(jù)路透社昨日報(bào)道，美國和英國于4月1日簽署了一份諒解備忘錄，正式宣布建立新的合作伙伴關(guān)系，在AI安全和測試方面開展合作，共同致力于AI安全科學(xué)的研究與發(fā)展。

隨著AI技術(shù)的加速迭代及其在社會(huì)中的普遍使用，AI暴露出來的潛在安全和倫理問題也成為社會(huì)熱議話題，民眾對即將到來的下一代AI版本的擔(dān)憂與日俱增。英美兩國計(jì)劃合作開發(fā)最先進(jìn)AI模型測試技術(shù)，以兌現(xiàn)去年11月AI安全峰會(huì)上做出的應(yīng)對AI風(fēng)險(xiǎn)的承諾。此外，雙方還打算加強(qiáng)兩國AI研究所的人員交流與協(xié)作，運(yùn)用專業(yè)知識應(yīng)對AI風(fēng)險(xiǎn)。

一、全球首個(gè)AI雙邊協(xié)議，趕在下一代模型之前合作

根據(jù)4月1日建立的正式合作伙伴關(guān)系，英美兩國計(jì)劃在一個(gè)可公開訪問的大模型上進(jìn)行至少一次聯(lián)合測試演練，并考慮探索兩機(jī)構(gòu)之間的人員交流。據(jù)報(bào)道，兩國正與其他國家發(fā)展類似的伙伴關(guān)系，以促進(jìn)AI安全。

美國商務(wù)部部長吉娜·雷蒙多（Gina Raimondo）和英國技術(shù)大臣米歇爾·唐蘭（Michelle Donelan）周一在接受路透社聯(lián)合采訪時(shí)表示，各國迫切需要采取聯(lián)合行動(dòng)來應(yīng)對AI風(fēng)險(xiǎn)。

在接受采訪時(shí)，雷蒙多說：“我們都知道AI是我們這一代人的決定性技術(shù)。兩國的此次合作將加速美英兩家研究所在各個(gè)領(lǐng)域的工作，以應(yīng)對國家安全風(fēng)險(xiǎn)，并回應(yīng)社會(huì)的廣泛關(guān)切?！贝送?，她稱將在周四于比利時(shí)舉行的美歐貿(mào)易和技術(shù)委員會(huì)（U.S.-EU Trade and Technology Council）上提出AI相關(guān)問題，并透露美國政府計(jì)劃很快宣布AI研究所的新增人員。

“這是世界上的首個(gè)此類協(xié)議。”唐蘭稱，“AI已經(jīng)是我們社會(huì)中一股非凡且有益的力量，在應(yīng)對世界上一些最大的挑戰(zhàn)方面有著巨大的潛力，但前提是我們必須能夠控制AI潛在的風(fēng)險(xiǎn)?！?/p>

在采訪中，唐蘭強(qiáng)調(diào)時(shí)間至關(guān)重要，因?yàn)樾碌腁I大模型即將發(fā)布，其能力將大大增強(qiáng)。她認(rèn)為此次合作的重點(diǎn)是美英兩國分工、掌握并將其真正專業(yè)化的AI領(lǐng)域。

此外，兩國計(jì)劃分享與AI模型和系統(tǒng)相關(guān)的能力和風(fēng)險(xiǎn)，以及AI安全和安保技術(shù)研究方面的關(guān)鍵信息。

雷蒙多最后提到，她尤其擔(dān)心AI應(yīng)用于生物恐怖主義或模擬核戰(zhàn)爭的威脅。她認(rèn)為這些事情的后果可能是災(zāi)難性的，因此必須對這種功能的模型采取零容忍的態(tài)度。

二、建立AI安全研究所，英美兌現(xiàn)《布萊切利宣言》承諾

去年11月1日，由英國倡議發(fā)起的首屆“全球AI安全峰會(huì)”在倫敦北部布萊切利園（Bletchley Park）舉行。會(huì)議首日，包括中國、美國、英國在內(nèi)的28個(gè)國家及歐盟共同簽署了《布萊切利宣言》，承諾加快識別AI產(chǎn)生的風(fēng)險(xiǎn)，建立對風(fēng)險(xiǎn)的科學(xué)認(rèn)知，并制定跨國風(fēng)險(xiǎn)緩解政策。

會(huì)議當(dāng)日，美國政府指示美國商務(wù)部成立美國AI安全研究所。今年2月8日，美國商務(wù)部部長吉娜·雷蒙多（Gina Raimondo）宣布了美國人工智能安全研究所（AISI）執(zhí)行領(lǐng)導(dǎo)團(tuán)隊(duì)的主要成員。AISI專注于評估前沿AI模型帶來的風(fēng)險(xiǎn)，并與200家公司和經(jīng)濟(jì)實(shí)體建立了合作。

英國首相里?！ぬK納克（Rishi Sunak）也于去年11月2日宣布成立全球首個(gè)AI安全研究所，以研究、評估和測試新型AI，并于今年2月宣布將斥資超過1億英鎊（約合9.09億人民幣）啟動(dòng)九個(gè)新的研究中心，并對監(jiān)管機(jī)構(gòu)進(jìn)行AI技術(shù)培訓(xùn)。

結(jié)語：加強(qiáng)AI治理，各國應(yīng)合作共贏

生成式AI可以根據(jù)開放式的提示創(chuàng)建文本、照片和視頻，引發(fā)了人們對AI的普遍關(guān)注，同時(shí)也使許多人擔(dān)心它可能會(huì)讓一些工作崗位被淘汰，并產(chǎn)生用戶隱私泄露、數(shù)據(jù)篡改等安全風(fēng)險(xiǎn)。此外，大模型的訓(xùn)練數(shù)據(jù)如果存在誤導(dǎo)，可能會(huì)出現(xiàn)歧視性問題。

英美此次在AI領(lǐng)域的正式合作，使兩國能夠共享AI治理技術(shù)，并在未來能夠相互借調(diào)研究人員交流AI專業(yè)知識，給全球AI治理提供創(chuàng)新思考。另外，在技術(shù)之外，各國政府正在加強(qiáng)合作，建立監(jiān)管機(jī)構(gòu)以及加強(qiáng)AI技術(shù)普及與宣傳，共同應(yīng)對AI安全風(fēng)險(xiǎn)，在保障AI技術(shù)的安全與合規(guī)基礎(chǔ)上，促進(jìn)AI技術(shù)的發(fā)展和普遍應(yīng)用。

來源：路透社