張亞勤稱大模型會產生三大風險,并給出五條建議

張亞勤稱大模型會產生三大風險,并給出五條建議
2024年03月25日 10:39 市場資訊

股市瞬息萬變,投資難以決策?來#A股參謀部#超話聊一聊,[點擊進入]

專題:中國發展高層論壇2024年年會

  據中國經濟時報消息,中國發展高層論壇2024年年會于3月24日在京召開。在人工智能發展與治理專題研討會上,清華大學智能產業研究院院長、中國工程院院士張亞勤表示,目前,Sora的能量很大,但是剛剛開始,未來5年,我們會看到其在各領域的大規模應用,所以會帶來很多風險。他認為有三大風險:一是信息世界的風險。比如,有錯誤的信息、虛假的信息。二是在大模型領域獨有的幻覺,但這個風險本身是可控的。而比較大的風險是,當把信息智能延伸到物理智能、延伸到生物智能,在大規模使用的時候,會出現風險的規模化。三是大模型連接到經濟體系、金融體系、電站、電力網絡等的風險是相當大的。

  怎樣防備這些風險?張亞勤提出以下五個建議。第一,標識我們所產生的數字人或者智能體。第二,要有映射和注冊機制。未來會有很多機器人,但機器人本身是一個從屬體,不是主體,必須要映射到主體。第三,建立分級體制。對于一般規模的模型監管可以少一點,對于前沿大模型、萬億級參數用到物理世界無人車的、用到金融系統的、用到生物系統監管的要多一些,要分級。第四,呼吁把10%的經費投入到大模型風險的研究中,這不僅是政策研究,還有很多算法、技術的研究。第五,人工智能大模型一定不要跨越紅線。紅線可能在不同的時間并不一樣,但是需要有這個紅線。中國需要和全球不同人工智能領域一起合作,否則就會有生存風險。

  新浪聲明:所有會議實錄均為現場速記整理,未經演講者審閱,新浪網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。

海量資訊、精準解讀,盡在新浪財經APP

責任編輯:梁斌 SF055

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財經公眾號
新浪財經公眾號

24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時

  • 04-01 宏鑫科技 301539 --
  • 03-29 燦芯股份 688691 --
  • 03-25 中瑞股份 301587 21.73
  • 03-22 廣合科技 001389 17.43
  • 03-20 芭薇股份 837023 5.77
  • 新浪首頁 語音播報 相關新聞 返回頂部