中新網上海新聞9月7日電(記者  姜煜)中國工程院院士、多位大會等前華東理工大學教授、院士沿話全國政協常委、匯聚上海市政協副主席、外灘CAAI監事/Fellow錢鋒7日在上海舉辦的共論外灘大會相關論壇上表示，人工智能作為新一輪科技革命和產業變革的數字核心力量，是經濟加快建設科技強國、實現高水平科技自立自強的人工重要支撐。

（中國工程院院士、華東理工大學教授 、全國政協常委、上海市政協副主席、CAAI監事/Fellow錢鋒發表演講 記者 姜煜 攝）

　　外灘大會當日在上海黃浦世博園正式開幕，這場以“科技·創造可持續未來”為主題的大會為期三天，近20位“兩院”院士、諾貝爾獎和圖靈獎得主，全球超500位有影響力的科技領軍企業代表和專家學者匯聚于此，帶來科技、人文和產業的思想碰撞。

　　錢鋒說，縱觀人類發展史，每一次科技革命都引起了社會生產力和生產關系的巨大變革，推動了社會的高速發展。新一輪科技革命是中國巨大的歷史機遇，是踏上中國式現代化強國之路、順利實現中華民族偉大復興的關鍵。

　　錢鋒認為，數字經濟成為新一輪科技革命中各國發展的核心戰略，在全球經濟衰退背景下，人工智能、工業互聯網、大數據等新一代信息技術與制造業的深度融合對于重振產業經濟、重塑產業格局將發揮重要的作用。數字經濟是以數據資源為關鍵要素，主要體現在數據產業化和產業數據化兩個方面，是以現代信息網絡為主要載體，以信息通信技術融合應用、全要素數字化轉型為重要推動力，促進公平與效率更加統一的新經濟形態。

　　“自2015年起，我國先后發布多項政策，強調加快推進人工智能技術和制造業的融合發展，發展工業智能與智能系統，為制造業轉型升級賦能。上海市也重點布局數字經濟，主動服務和融入新發展格局，加快打造國內大循環的中心節點、國內國際雙循環的戰略鏈接，致力打造有國際影響力的智能制造產業新高地。”錢鋒說。

　　中國科學院院士、復旦大學副校長張人禾在外灘大會相關論壇上指出，科學智能已經成為人工智能的重點發展方向，是推動科學研究范式變革、實現科技原始創新策源的利器。他說：“近年來，國外加速布局，科學智能發展進入了快車道。國外方興未艾的同時，國內科學智能也在迅速發展，相繼涌現出大量的科學領域大模型。面對‘AI時代’的來臨，‘單打獨斗’已不適應大科學時代的科技創新，要進行‘有組織的科研’。”

　　張人禾透露，近年來，復旦大學在人工智能領域進行了頗有成效的探索。學校承擔“人工智能前沿基礎理論與關鍵技術”“腦與類腦智能基礎轉化應用研究”兩個市級重大專項攻關項目，多個團隊在頂級刊物、頂級會議發表人工智能領域代表性論文成果。

　　模型的通用能力讓其能夠應用到人類生產生活的各個場景中，可謂“無孔不入”。AI的發展因此帶來了新的安全隱私問題，如何解決這一隱患，中國科學院院士何積豐在外灘大會發表演講時開出了他的“藥方”：利用對齊技術為大模型戴上緊箍咒。

　　何積豐認為，大模型的安全問題主要是在未經同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發生在訓練過程，也可能發生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護更加困難。“為了應對這些問題，德甲买球需要大模型對齊技術，對齊是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害后果。如果把人工智能看作西游記里的孫悟空，對齊技術就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會被任意使用。”

　　何積豐介紹，反饋強化學習是實現對齊的技術途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎勵信號，引導模型的高質量輸出；另一種方式，事先給大模型提供明確的原則，系統自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著，不僅智能系統需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”(完)