安裝新浪財經客戶端第一時間接收最全面的市場資訊→【下載地址】
專題：OpenAI稱奧特曼將回歸擔任CEO 并組建新的董事會
來源：華爾街見聞
為了防范人工智能（AI）帶來的重大風險，OpenAI決定賦予董事會更高的權力，給上月剛剛在“宮斗”中獲勝的CEO Sam Altman上“緊箍咒”。
OpenAI美東時間12月18日周一發布一系列指引，旨在“跟蹤、評估、預測和防范日益強大的（AI）模型帶來的災難性風險”。
這個27頁篇幅的指引名為“準備框架”，其中提出，即使公司領導層、即CEO或領導層指定的人認為將發布的AI模型是安全的，公司董事會也可以選擇推遲發布該模型。其認為，雖然OpenAI 的CEO將負責日常工作的決策，但董事會將了解有關風險的發現，并可以否決CEO的決定。
除了對公司領導層和董事會的權限規定，OpenAI的準備框架主要建議，使用矩陣方法，記錄多個類別的前沿AI模型所帶來的風險水平，包括行為不端者用AI模型創建惡意的軟件、發起社會工程攻擊，或者傳播有害的核武或生物武器信息。
具體來說，OpenAI定義了網絡安全等幾個類別的風險閾值，在針對每個風險類別實施緩解風險措施之前和之后，OpenAI 都會將每種風險分為低、中、高或嚴重四個類級別。
OpenAI規定，只有風險緩解后評級為“中”或以下級別的AI模型，才能部署，只有風險緩解后評級為“高”或以下的模型，才能進一步開發，如果不能將風險降低到嚴重以下級別，公司將停止開發模型。
股市回暖，抄底炒股先開戶！智能定投、條件單、個股雷達……送給你>>
海量資訊、精準解讀，盡在新浪財經APP
責任編輯：周唯
VIP課程推薦
加載中...
APP專享直播
熱門推薦
收起
新浪財經公眾號
24小時滾動播報最新的財經資訊和視頻，更多粉絲福利掃描二維碼關注（sinafinance）
