智東西（公眾號：zhidxcom）
編譯 | 尹明順
編輯 |?漠影
智東西9月30日消息，據(jù)路透社報道，美國加利福尼亞州參議員（Scott Wiene）于今年2月7日擬定的《SB-1047前沿AI大模型安全創(chuàng)新法案》（簡稱SB-1047法案）于今日凌晨，被加州州長Gavin Newsom徹底否決。其認為，該法案可能會將AI公司趕出加州，并對科技創(chuàng)新造成阻礙。
據(jù)悉，SB-1047法案主要用于增強大模型安全性、透明性、完善AI使用規(guī)范條例，該法案一經(jīng)提出就引發(fā)極大爭議。
法案要求對許多最先進的AI模型進行安全測試，這些模型的開發(fā)成本超過1億美元，需要特定數(shù)量的計算能力。此外，法案還將通過設(shè)立一個州級機構(gòu)，負責監(jiān)督所謂“前沿模型”的開發(fā)。
對此，多家科技公司對SB-1047法案都表達了抗拒態(tài)度。Meta認為該法案有可能對AI在加州的開發(fā)和部署產(chǎn)生不利作用。Facebook母公司的首席科學家Yann LeCun曾在社交媒體X的一篇帖子中稱該法案可能對研究工作產(chǎn)生負面影響。
OpenAI的ChatGPT也認為AI應該由聯(lián)邦政府監(jiān)管，但SB-1047創(chuàng)造了一個充滿不確定的法律環(huán)境。它認為該法案將對AI發(fā)展構(gòu)成威脅，并可能導致企業(yè)家和工程師離開該州。
一、AI發(fā)展迅速，SB-1047法案提出利弊交加
生成式AI可以根據(jù)提示創(chuàng)建文本、照片和視頻，這令人興奮，也讓人擔憂。因為AI的使用可能會使得一些工作崗位不那么被需要，會對選舉造成顛覆性影響，還可能在某些方面因超越人類而造成災難性影響。
Wiener稱，在AI的發(fā)展變得難以駕馭或無法控制之前，有必要通過立法來保護公眾。
但一些領(lǐng)導人對此發(fā)出了質(zhì)疑，如今AI產(chǎn)業(yè)在加利福尼亞州快速發(fā)展，如果該法案通過，確立為正式法律條例，可能會使那些AI公司在該州未來的發(fā)展受到影響。
Newsom認為：“我們不能等到發(fā)生重大災難后才采取行動來保護公眾”，但他同樣覺得，該法案目前尚待完善，將其正式立法可能會對AI公司在加州的發(fā)展造成阻力，不利于科技創(chuàng)新。
▲美國加州州長Gavin Newsom（圖源：X平臺個人社交帳號）
科技行業(yè)聯(lián)盟“進步商會”（Chamber of Progress）對Newsom的否決意見表達了贊賞，稱“加利福尼亞州的科技與經(jīng)濟一直依賴于競爭和開放的環(huán)境才得以蓬勃發(fā)展?！?/p>
對于Newsom的否決，Wiener回應稱，此行會使得加利福尼亞州的安全性降低，這意味著“那些想要創(chuàng)造極其強大技術(shù)的公司不會面臨任何強制性限制”。他補充說：“行業(yè)的自愿承諾是缺少執(zhí)行性的，對公眾來說幾乎沒什么好結(jié)果。”
二、SB-1047“BUG”眾多，急需打造AI風險科學分析體系
Newsom出面徹底否決了該法案，除去認為該法案不利科技創(chuàng)新與AI發(fā)展外，他還給出了這樣的一個原因：“我并不認為我們應該遵循那些沒有基于AI系統(tǒng)和能力的實際發(fā)展軌跡進行實證分析所得出的解決方案?！?/p>
他補充道，該法案沒有考慮到AI模型是否部署在高風險環(huán)境中。這一點很關(guān)鍵，因為在低風險環(huán)境中并不需要如此嚴格的監(jiān)管措施。
另外，Newsom還解釋稱，法案對于AI對關(guān)鍵決策的影響也未進行說明，也沒有定義何為敏感數(shù)據(jù)。這一點的模糊界定會使得法案難以對隱私以及數(shù)據(jù)進行有效保護。
Newsom稱自己已經(jīng)請了生成式AI的領(lǐng)先專家?guī)椭又蓍_發(fā)“護欄”，并將專注于開發(fā)一種基于經(jīng)驗與科學的AI軌跡分析模型。他還命令美國各州機構(gòu)完善對與AI使用相關(guān)的潛在災難性事件的風險評估體系。
此處的護欄，意指一套機制或者系統(tǒng)，主要是用于保護技術(shù)使用安全并預防可能存在的風險。而AI軌跡分析模型，則是對AI未來發(fā)展路徑進行預測的一種科學分析手段。
Newsom還簽署了另一項法案，要求該州評估生成式AI對加利福尼亞州關(guān)鍵基礎(chǔ)設(shè)施構(gòu)成的潛在威脅。
Newsom說，他將在下一屆立法會議期間與立法機構(gòu)合作，推動AI立法。
這一行動恰好發(fā)生在這樣一個時刻，美國國會關(guān)于設(shè)立人AI保障措施的立法工作陷入了停滯狀態(tài)，而與此同時，拜登政府正在積極推動關(guān)于人工智能監(jiān)管監(jiān)督的提案。
結(jié)語：SB-1047法案在過去的半年里爭議良多
眾多團體強烈反對SB-1047法案的提出與落實。其中包括谷歌（旗下的Alphabet）、微軟支持的OpenAI和Meta Platforms在內(nèi)的公司都在開發(fā)生成式AI模型，它們都對該提案表達了擔憂。眾議院議長南希·佩洛西（Nancy Pelosi）在內(nèi)的一些美國國會民主黨人也反對過該法案。
但該法案也有很多的支持者，其中包括特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk），他經(jīng)營著一家名為xAI的AI公司。亞馬遜支持的Anthropic認為，該法案的益處可能大于成本，但也補充說，仍有一些方面含混不清，令人擔憂。
來源：路透社、X
