智東西（公眾號：zhidxcom）
編譯 | 楊蕊伃
編輯 |?漠影

智東西8月29日消息，據(jù)《紐約時報》報道，周三，美國加州立法者通過了一項備受爭議的法案，旨在對人工智能（AI）設立新的限制，確保AI技術既具有創(chuàng)新性，也具備安全性和可靠性。

SB-1047法案全稱“前沿AI模型安全創(chuàng)新法案”。其目的是為那些開發(fā)成本超過1億美元或具備一定計算能力的開發(fā)者建立安全準則，以保障大規(guī)模AI模型的安全性。

據(jù)悉，本周還需再進行一次程序投票，最后由美國加州州長加文·紐森（Gavin Newsom）于9月30日之前決定簽署還是否決。

盡管歐盟已經(jīng)制定了AI法案，但美國尚未通過有關限制使用較高風險技術的法律，如限制使用面部識別軟件。

一、美國加州要求AI公司進行安全性測試

美國加州議會批準的SB-1047法案要求大型AI公司在向公眾發(fā)布其系統(tǒng)之前，必須對系統(tǒng)進行安全性測試。

據(jù)路透社報道，SB-1047還要求開發(fā)人員聘請第三方審計師來評估其安全實踐，并為公開反對AI濫用行為的舉報人提供額外保護。

此外，加州AI法案允許州檢察長向造成重大傷害事故的AI制造商提起訴訟，例如死亡或財產(chǎn)損失。

隨著類人機器人和逼真的圖像、視頻生成器的引入，加州AI法案認為如果AI的發(fā)展沒有適當?shù)厥艿饺祟惪刂?，未來這項技術可能會對公共安全造成新的威脅。

“議會采取了歷史性的措施，主動確保這一令人興奮的新技術在發(fā)展過程中保護公眾利益，”加州AI法案的共同作者、民主黨參議員Scott Wiener在一份聲明中寫道。

然而，自2月提交以來，加州AI法案一直飽受爭議。

美聯(lián)社Juliana Yamada稱，美國加州立法的通過引發(fā)了一場關于如何監(jiān)管這一新技術的激烈辯論，AI因其潛在的利益和危害而廣受關注。

本月，Wiener又對法案進行了多項修改，以安撫Anthropic、OpenAI、Meta和谷歌等科技行業(yè)的批評者。

他將創(chuàng)建專注AI安全的獨立機構的這項提議刪除，并降低了公司的責任標準，僅在造成實際傷害時才追究責任。

新聞機構CalMatters關于SB-1047的總結記錄顯示，加州AI法案目前已修正過十一版。

據(jù)《環(huán)球時報》報道，Wiener稱：“隨著國會在AI監(jiān)管問題上陷入僵局，美國加州必須采取行動，在AI帶來可預見的風險之前采取行動，同時促進創(chuàng)新也不能放?！?/p>

在他看來，AI安全與創(chuàng)新并不互斥。

二、加州AI法案獲支持：確保AI發(fā)展與公共安全并行

目前，加州AI法案的最新修訂版已經(jīng)解決了此前一些批評者的擔憂。

埃隆·馬斯克（Elon Musk）本周在他的社交網(wǎng)站發(fā)文稱，這是一個“艱難的決定”，但“綜合考慮所有因素”，他支持對AI進行監(jiān)管，支持通過加州AI法案，因為這項技術對公眾存在潛在風險。

SB-1047法案的其他支持者也認為，如果沒有保護措施，AI可能帶來災難性后果。它可能被用于生物戰(zhàn)爭，或通過虛假信息運動推翻民主選舉和政府。

“政府現(xiàn)在就如何開發(fā)和部署這些強大的AI系統(tǒng)所做的選擇可能會對當代和未來幾代美國加州人乃至世界各地的人產(chǎn)生深遠的影響。”蒙特利爾大學計算機科學教授Yoshua Bengio和因AI安全問題辭去谷歌職務的Geoffrey Hinton在寫給紐森的信中談到。

三、弊大于利：行業(yè)擔憂美國加州AI法案可能抑制技術創(chuàng)新

加州AI法案雖然得到了部分科技界人士的支持，但仍面臨來自行業(yè)內(nèi)的強烈反對，呼吁保護創(chuàng)新與發(fā)展。

包括前眾議院議長南?！づ迓逦鳎∟ancy Pelosi）在內(nèi)的數(shù)名國會議員已致信紐森，警告他該立法可能會威脅到AI的發(fā)展。他們認為這項技術仍處于初期階段，現(xiàn)在就要明確AI系統(tǒng)是否安全還為時過早。

佩洛西在上周發(fā)表的一封公開信中寫道：“我們國會中的許多人認為，SB-1047法案的初衷是好的，但缺乏充分了解?！?/p>

OpenAI日前也公開反對加州AI法案。

據(jù)《環(huán)球時報》報道，OpenAI首席戰(zhàn)略官Jason Kwon在給Wiener的信中寫道，SB-1047法案威脅到“美國加州作為AI全球領導者的獨特地位”。他補充說，這可能“減緩創(chuàng)新步伐，并導致世界級工程師和企業(yè)家離開該州到其他地方尋找機會”。

Wiener對此也作出回應，他認為SB-1047是一項非常合理的法案，它要求大型AI實驗室測試他們的大型模型是否存在災難性的安全風險，“我們一整年都在努力工作，與開源倡導者、Anthropic和其他組織一起完善和改進SB-1047法案?！?/p>

SB-1047法案的反對者擔心，這可能會扼殺創(chuàng)新，阻礙初創(chuàng)公司的發(fā)展。他們認為，這將使科技巨頭不愿意與其他企業(yè)和軟件開發(fā)者分享其AI的底層軟件代碼，也就是通常所說的“開源”。

目前，紐森尚未對該立法表態(tài)。

結語：美國加州通過SB-1047法案，AI監(jiān)管再邁出一步

隨著美國加州立法機關通過SB-1047法案，美國AI監(jiān)管進入新階段。這項立法不僅為美國加州設定了新的技術標準，也可能影響全球范圍內(nèi)對AI的監(jiān)管政策。

通過立法來確保技術的安全性和可靠性，有助于增強公眾對AI技術的信任，促進AI在更廣泛領域的應用。美國加州通過SB-1047法案，不僅對現(xiàn)有技術的發(fā)展提出了挑戰(zhàn)，也為行業(yè)的長期健康發(fā)展奠定了基礎。

美國空軍退役中將Lieutenant General John (Jack) Shanahan稱，SB-1047法案針對公民社會和國家安全面臨的近期潛在風險提供了務實的解決方案，同時也為科技行業(yè)與各級政府之間的進一步對話奠定了基礎。

如果加州AI法案簽署成功，其具體效果及各方面的反饋也將成為國際社會關注的熱點。AI技術的發(fā)展和監(jiān)管將繼續(xù)在全球不斷的討論和探索中進化，以尋求平衡創(chuàng)新與倫理、安全等多方面的需求。

來源：《紐約時報》、《環(huán)球時報》、路透社