丁寧:大模型的關鍵突破是“預訓練”,效果超出想象

丁寧:大模型的關鍵突破是“預訓練”,效果超出想象
2023年08月26日 10:54 睿見Economy

股市瞬息萬變,投資難以決策?來#A股參謀部#超話聊一聊,[點擊進入]

下載新浪財經APP,了解全球實時匯率

  2023年亞布力論壇夏季高峰會于8月24日-27日在深圳召開。深圳市人工智能與機器人研究院常務副院長丁寧出席并演講。

  丁寧坦言,“大模型讓人印象非常深刻”。在其看來,大模型的關鍵突破是“預訓練的步驟”。

  他解釋說,以前機器學習是就問題本身學習相關數據,而“預訓練”是先不學某個具體的問題,而是所有知識都要了解——構建一種世界的常識體系,把人的認知體系,包括物理和邏輯關系都搞清楚了,再來說解決具體問題,“它的效果一下子超出人的想象”。

  “這是大模型里面的一個比較關鍵的問題,通過預訓練方法把常識體系構建起來”,他說。

  新浪聲明:所有會議實錄均為現場速記整理,未經演講者審閱,新浪網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。

海量資訊、精準解讀,盡在新浪財經APP

責任編輯:梁斌 SF055

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財經公眾號
新浪財經公眾號

24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時

  • 09-04 斯菱股份 301550 --
  • 08-30 熱威股份 603075 --
  • 08-29 福賽科技 301529 --
  • 08-28 中巨芯 688549 5.18
  • 08-28 威爾高 301251 28.88
  • 新浪首頁 語音播報 相關新聞 返回頂部