智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西9月7日報道，2023Inclusion·外灘大會9月7日在上海黃浦世博園正式開幕。這場以“科技·創(chuàng)造可持續(xù)未來”為主題的大會為期三天，設(shè)有1場主論壇、36場見解論壇、8000平方米科技展覽、3000平方米綠色集市，并首次舉辦科技人才招聘會。
在主論壇上，機(jī)器學(xué)習(xí)泰斗、三院院士Michael I.Jordan分享了對解決人工智能（AI）系統(tǒng)中不確定性的思考，中國科學(xué)院院士張人禾談到科學(xué)智能已成AI重點發(fā)展方向，中國科學(xué)院院士何積豐重點探討了大模型時代的安全與隱私問題。
包括他們在內(nèi)，近20位“兩院”院士、諾貝爾獎和圖靈獎得主，全球超500位有影響力的科技領(lǐng)軍企業(yè)和專家學(xué)者，以及來自孟加拉、馬來西亞、尼日利亞等新興市場國家的科技創(chuàng)業(yè)者，聚焦人工智能、大模型、抗量子密碼、隱私計算、圖計算、安全智能、區(qū)塊鏈、Web3.0等前沿數(shù)字科技及產(chǎn)業(yè)實踐，展開深度交流，并與會發(fā)布最新科技成果。
本屆大會以“科技·創(chuàng)造可持續(xù)未來”為主題，展區(qū)面積達(dá)8000平米，參展單位包括英偉達(dá)、螞蟻集團(tuán)、美國運通中國合資公司、眾安保險、復(fù)旦大學(xué)、同濟(jì)大學(xué)、泰康、萬事利等。6G、無人安全檢測實驗室、腦紋核身、蟻鑒2.0、城市鏈、AI大腦訓(xùn)練、支付芯、寵物生物識別系統(tǒng)、區(qū)塊鏈溯源、數(shù)字人虛擬空間等十大黑科技在展區(qū)亮相。
▲由螞蟻安全實驗室聯(lián)合信通院、腦機(jī)合作生產(chǎn)廠商博瑞康共同推出的全球首個腦機(jī)頭戴核身技術(shù)互動
現(xiàn)場還有一支特殊的講解團(tuán)——由螞蟻集團(tuán)與上海老年大學(xué)共同打造的藍(lán)馬甲銀發(fā)宣講團(tuán)，用通俗易懂的語言，向參展觀眾介紹隱私計算、圖計算、可信AI等，帶領(lǐng)大家感受科技力量。
本屆外灘大會同時打造有線上虛擬空間，在支付寶上搜索“外灘大會”進(jìn)入官方小程序，即可創(chuàng)建屬于自己的虛擬數(shù)字人，在虛擬世界中體驗數(shù)字展廳、觀看外灘論壇直播。
一、機(jī)器學(xué)習(xí)泰斗Michael I.Jordan：AI的本質(zhì)是集體，而不是個體
機(jī)器學(xué)習(xí)泰斗，美國科學(xué)院、美國工程院、美國藝術(shù)與科學(xué)院三院院士Michael I.Jordan在演講中談道，不確定性應(yīng)對不好，不可能有非常好的金融科技技術(shù)。ChatGPT也沒有辦法對不確定性進(jìn)行量化，所以我們需要去解決這個問題，找到一個可能的方法去應(yīng)對這些挑戰(zhàn)。
怎么應(yīng)對在一個協(xié)作式的、去中心化的系統(tǒng)當(dāng)中來實現(xiàn)集體智能？他分享說，可以設(shè)計一個集體智能體，去解決AI系統(tǒng)中不確定性。
一個小小的個體錯誤，可能會產(chǎn)生很大的系統(tǒng)性錯誤。以AI蛋白質(zhì)結(jié)構(gòu)預(yù)測系統(tǒng)AlphaFold為例，它的預(yù)測能力強(qiáng)于人類，但可能得出完全錯誤的預(yù)測結(jié)果，如果不用AlphaFold，又沒辦法很快做科學(xué)實驗。
對此，Michael I.Jordan提到一個叫預(yù)測驅(qū)動的推理方法，能夠找到一個高可信的值，可將置信區(qū)間做修正，得出一個新的可預(yù)測數(shù)字。
“我并沒有覺得AI會替代人，它只不過就是一個新的工程系統(tǒng)，”Michael I.Jordan說，“科技就是一個非常很好的新的工程系統(tǒng)，因為每個人是普適，而且是公平、公正、透明、穩(wěn)定的，這些特性是整個工程系統(tǒng)的特點，而不是系統(tǒng)當(dāng)中個體的特點。所以AI它是關(guān)于一個集體，而不是關(guān)于一個個體。”
二、中科院院士張人禾：科學(xué)智能已成AI重點發(fā)展方向，要進(jìn)行“有組織科研”
耗時3秒以內(nèi)，擁有45億參數(shù)的伏羲氣象大模型，即可預(yù)報未來15天的全球天氣。這便是AI和科學(xué)研究結(jié)合之后帶來的改變。
中國科學(xué)院院士、復(fù)旦大學(xué)副校長張人禾在演講時談道，科學(xué)智能（AI for Science）已經(jīng)成為AI的重點發(fā)展方向，推動跨學(xué)科的交叉研究，激發(fā)創(chuàng)新突破；加速科技創(chuàng)新與產(chǎn)業(yè)變革的深度融合，推動產(chǎn)業(yè)轉(zhuǎn)型升級?！翱茖W(xué)智能是推動科學(xué)研究范式變革、實現(xiàn)科技原始創(chuàng)新策源的利器，擁有引爆產(chǎn)業(yè)創(chuàng)新核爆點的巨大潛能?！?/p>
科學(xué)智能的發(fā)展正從部分機(jī)構(gòu)的探索變成產(chǎn)學(xué)研各界的共識，從點狀突破轉(zhuǎn)變?yōu)橄到y(tǒng)布局。
近年來，國外加速布局，科學(xué)智能發(fā)展進(jìn)入快車道。2023年5月，美國能源部發(fā)布《面向科學(xué)、能源和安全的人工智能》報告指出AI將從底層推動科學(xué)、能源和安全的發(fā)展，并展開布局。馬斯克近期成立對標(biāo)OpenAI的新公司xAI，旨在回答更深層次的科學(xué)問題，期望未來用AI去幫助人們?nèi)ソ鉀Q復(fù)雜的科學(xué)和數(shù)學(xué)問題并且“理解”宇宙。
在科研領(lǐng)域，斯坦福大學(xué)、麻省理工學(xué)院等知名學(xué)府，谷歌、Meta等科技企業(yè)紛紛入局開展體系化研究。國內(nèi)科學(xué)智能也在迅速發(fā)展，相繼涌現(xiàn)出大量的科學(xué)領(lǐng)域大模型，但仍處在起步階段。張人禾說，隨著AI時代來臨，“單打獨斗”已不適應(yīng)大科學(xué)時代的科技創(chuàng)新，要進(jìn)行“有組織科研”，最大的優(yōu)勢在于布局建設(shè)大平臺。
他透露道，近年來，復(fù)旦大學(xué)在AI領(lǐng)域進(jìn)行了頗有成效的探索。截至2023年6月17日，復(fù)旦大學(xué)申請的有效法律狀態(tài)的發(fā)明專利共6973件，其中計算機(jī)科學(xué)技術(shù)領(lǐng)域2048件。此外，學(xué)校承擔(dān)“人工智能前沿基礎(chǔ)理論與關(guān)鍵技術(shù)”、“腦與類腦智能基礎(chǔ)轉(zhuǎn)化應(yīng)用研究”兩個市級重大專項攻關(guān)國際首個全腦計算平臺。多個團(tuán)隊在頂刊、頂級會議發(fā)表AI領(lǐng)域代表性論文成果。
三、中科院院士何積豐：給大模型安全問題戴上“緊箍咒”
中國科學(xué)院院士何積豐談道，大模型存在一些安全隱憂：1、大模型開啟了真正意義上的通用人工智能，人類如何應(yīng)對一個比自己更強(qiáng)大的智能？2、大模型的通用能力讓其能應(yīng)用到人類生產(chǎn)生活的各個場景中，一旦AI出現(xiàn)安全問題，其影響將難以預(yù)估。
大模型的安全問題包括隱私與對齊。
隱私問題主要是指未經(jīng)同意的情況下收集、使用和泄露個人信息，可能發(fā)生在訓(xùn)練過程中，涉及大量用戶個人信息和數(shù)據(jù)，也可能發(fā)生在使用過程中，涉及很多用戶私密信息。而大模型的生成能力讓“隱私泄露”的方式變得多樣化，使得隱私保護(hù)更加困難。
應(yīng)對這些問題，需要大模型對齊技術(shù)。
何積豐說，對齊是指系統(tǒng)的目標(biāo)和人類價值觀一致，使其符合設(shè)計者的利益和預(yù)期不會產(chǎn)生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，對齊就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會任意使用能力胡作非為?！?/p>
他分享了機(jī)器人學(xué)三定律：第一定律是機(jī)器人不得傷害人類，或因不作為使人類受傷害；第二定律是除非違背第一定律，機(jī)器人必須服從人類的命令；第三定律是除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。
對齊的基礎(chǔ)是，“人類價值觀”是多元且動態(tài)變化的。人類的價值與判定系統(tǒng)本身充滿偏見和盲點，有很多互相矛盾的地方和沒有明確指出的潛在條件。大模型“有用性”和“無害性”兩個目標(biāo)不完全一致，如何對錯誤進(jìn)行有效糾正，設(shè)好大模型的“緊箍咒”，給做好對齊帶來挑戰(zhàn)。
因此，對齊技術(shù)成為一項令人眼花繚亂的跨學(xué)科研究，不僅考驗技術(shù)，也在審視我們的文化。
何積豐認(rèn)為，反饋強(qiáng)化學(xué)習(xí)是實現(xiàn)對齊的技術(shù)途徑，目前有兩種方式，一是通過反饋給模型不同的獎勵信號，引導(dǎo)模型高質(zhì)量輸出；二是基于給大模型提供明確的原則，系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序?！斑@意味著，不僅智能系統(tǒng)需要向人類價值觀對齊，人類的訓(xùn)練方法也要向價值觀對齊?！焙畏e豐說。
四、麥肯錫中國區(qū)主席倪以理：生成式AI或為全球經(jīng)濟(jì)增加數(shù)萬億美元
麥肯錫中國區(qū)主席、麥肯錫全球資深董事合伙人倪以理以《中國下一個十年：中國企業(yè)的制勝關(guān)鍵期》為主題發(fā)表演講。
他談道，生成式AI可能會為全球經(jīng)濟(jì)增加數(shù)萬億美元的價值，但這個時代才剛剛開始。
“我們做了一個測算，在未來的AI對于全球經(jīng)濟(jì)的創(chuàng)造的收益，是9萬億美金，但是整體廣泛的AI可能是達(dá)到25萬億美元?！蹦咭岳碚f，所有的行業(yè)多多少少都受到生成式AI的影響，生成式AI的是2萬億到4萬億美金。
生成式AI用例可能大幅度促進(jìn)生產(chǎn)力提升，并提供新的就業(yè)機(jī)會。2023年，生成式AI對過去自動化潛力較低的領(lǐng)域?qū)a(chǎn)生最大影響，對所有的決策跟協(xié)作的工作帶來的影響是加大的。
然而，關(guān)鍵是組織要改變、適應(yīng)、重新培訓(xùn)員工，從而使生成式AI和其他創(chuàng)新在組織中落地——這需要領(lǐng)導(dǎo)力和變革。
2023年是變革開啟的一年，倪以理認(rèn)為中國十年、二十年，中國企業(yè)的商業(yè)模式須從過去的Beta走到Alpha。Beta是市場，Alpha是在市場當(dāng)中比人家做得好。
從Beta到Alpha年代的轉(zhuǎn)變中，倪以理看到中國企業(yè)大規(guī)模轉(zhuǎn)型面臨的關(guān)鍵挑戰(zhàn)有4個：
1、沿用固有戰(zhàn)法。中國企業(yè)過去20年取得了輝煌成就，但未來20年的制勝因素與過去的成功因素明顯不同。
2、人才和思維。部分高管白手起家，缺少面向未來作出改變的思維模式?！跋旅?、強(qiáng)管控”的領(lǐng)導(dǎo)風(fēng)格在復(fù)雜的行業(yè)環(huán)境下需要適應(yīng)和調(diào)整。
3、創(chuàng)新成果“規(guī)模效應(yīng)”。新業(yè)務(wù)規(guī)模太小，短期無法產(chǎn)生影響。各項變革往往半途而廢，或在阻力增大時被叫停。
4、變革的勇氣不足。任何轉(zhuǎn)型需要勇氣和企業(yè)文化深刻變革，漸進(jìn)主義是變革大敵，關(guān)鍵是轉(zhuǎn)型知易行難。
”時代新章即將開啟，下一個時代將是一個怎么樣的時代？最主要當(dāng)然是科技，最主要當(dāng)然是人工智能，還有很多其他的，讓我們覺得未來的十年，未來的年代，跟過去不一樣?！蹦咭岳碚f，更重要的是企業(yè)本身，要具備這樣的條件、勇氣、抱負(fù)、愿景，使其能戰(zhàn)勝下一個新的時代。
結(jié)語：集中展示前沿技術(shù)創(chuàng)新，注重人文、綠色、可持續(xù)發(fā)展
本屆外灘大會展示了AI、區(qū)塊鏈、隱私計算等前沿技術(shù)的創(chuàng)新突破、產(chǎn)業(yè)實踐，同時也將以沉浸式、場景化的方式讓與會者體驗數(shù)字技術(shù)推動下城市、產(chǎn)業(yè)和生活的新可能。
“人文”這一關(guān)鍵詞貫穿大會始終，在技術(shù)發(fā)展的大背景下，如何幫助社會更好地適應(yīng)數(shù)字革命？對此，大會設(shè)有“可持續(xù)發(fā)展篇章”，重點關(guān)注社會責(zé)任、風(fēng)險應(yīng)對、ESG、科技倫理、消費者權(quán)益保護(hù)、數(shù)據(jù)安全和隱私保護(hù)、就業(yè)和人才發(fā)展等話題，并將舉辦40家科技企業(yè)聯(lián)合招聘會。
本屆大會的科技展覽和綠色集市，展示科技在金融服務(wù)、出行、政務(wù)辦事、安全等領(lǐng)域的應(yīng)用成果，更加貼近市民生活；綠色集市設(shè)有荒漠、森林、海洋、城市四大主題體驗區(qū)，近30個綠色可持續(xù)品牌參與，展示新潮的綠色生活方式、豐富的低碳商品、有趣的公益環(huán)?；?。
