來源：新智元

游戲里的NPC一向是「呆板」的代名詞。

隨著AI技術的不斷發展，人工智能加持下的NPC也能根據玩家的特點來生成不一樣的對話和劇情。

2019年12月，一家創業公司 Latitude 推出了一款名為 AI Dungeon 的在線游戲，展示了一種開創性的NPC交互方式。他們利用 OpenAI 的GPT模型的文本生成技術，基于「龍與地下城」開發的自選冒險游戲。

龍與地下城被認為是近代桌上角色扮演游戲(TRPG)的開山鼻祖，對之后的RPG游戲有著深遠影響。

在AI Dungeon中，當玩家輸入他們想要角色執行的動作或對話時，AI 算法將為玩家制定個性化的、不可預知的冒險。

創始人當時開發這款游戲的目的是創建一個真正開放的游戲世界，但GPT-2完全版之前的所有模型，都無法滿足要求，隨著游戲的不斷進行，最后都會變成亂碼。

所以當2019年11月 GPT-2 發布完全體后，12月發布新版本 AI Dungeon 2，終于能夠流暢地寫出合理的內容了。

AI Dungeon 2剛發布的幾個月，就迅速吸引了超10萬名玩家。

去年夏天，openAI還專門為 Latitude 開發了一個更強大的商業版本。甚至在宣傳語言模型時，還把AI Dungeon作為文本生成技術領域中有巨大潛力的商業應用來推廣。

然而基于神經網絡的 AI 技術最可怕的一面也展現出來了。

一些玩家發現AI會主動提出一些和性有關的話題。

上個月，openAI對此發表聲明，他們發現一些用戶在玩AI Dungeon時輸入了一些「陰暗」的詞匯，這種操作會使語言模型生成一些兒童性接觸的故事。

openAI的首席執行官隨后表示，內容審核對于這種事情來說十分必要，生成邪惡的AI并不是我們所希望的人工智能的未來。

事實上，Latitude的聯合創始人Nick Walton在游戲發布的幾天后就在Reddit社區承認了這個問題，他說一些玩家發給他一些讓他們感覺非常不舒服的例子。

上周，Latitude就上線了一個新的審核系統，然而用戶卻并不買賬，他們認為這個審核系統太敏感了，連「八年前的筆記本電腦」這樣的詞都要被警告。

內部人士聲稱Latitude有計劃通過人工來審查標記的內容，將那些虛構的、涉及隱私或成年人內容的部分給刪除掉，但在AI Dungeon中這部分又很受歡迎。

簡而言之，Latitude 試圖將人和算法結合起來，監管由人和算法產生的內容，但結果卻不盡如人意，所有玩家都不滿意當前的措施。

一名叫Mimi玩家說，感覺AI Dungeon的社區跟以前完全不一樣了，Latitude會掃描、訪問和閱讀虛構的文學內容。Mimi聲稱自己在文本生成AI的幫助下，總共寫了超過100萬字，包括詩歌、陰陽魔界的玄幻故事和色情冒險，她還說這種技術幫助她探索自己的心靈世界。

這些不滿的用戶表示，他們理解Latitude希望管理公開、管理生成內容的想法，但他們也表示，這種做法有些過分，破壞了一個強大的創意領域。

Latitude的發言人也表示，過濾系統、可接受內容的判定策略等都在不斷完善中。在OpenAI對他們發出警告之后，該公司還在進行「必要的改革」。他們在博客中也承諾，AI Dungeon將繼續支持NSFW的內容，包括雙方自愿的成人內容。

(NSFW, not safe for wok, 指不適合上班時間瀏覽的內容)

對于GPT模型或是其他神經網絡模型來說，指定他們生成特定的內容，并且過濾其他類型的成人內容來說是很困難的。

GPT可以生成多種不同風格的文本，這是優勢，也是劣勢。這種能力來源于網絡上的數十億詞匯，這些詞是未經審核和過濾的，訓練后的模型自然就學到了這些可能不適合未成年人使用的部分。

語言模型以其驚人的模仿能力，加上人類在互聯網上的邪惡創造力，他們產生出來的內容可能是美麗的，也可能是有毒的。

但這項技術如果用在合理的地方，就會大大提升人類的想象力。OpenAI在2019年底開放GPT-2之后，這項服務能夠讓人生成令人印象深刻的笑話、十四行詩、對聯等等。

OpenAI表示，他將仔細審查客戶以剔除不良行為，要求大多數客戶使用過濾器以屏蔽褻瀆、仇恨言論或性內容。

有多少是違規內容？

AI Dungeon每天有超過兩萬名玩家在線，但具體有多少內容是違規的，Latitude一直沒有透露。

但上周，一位AI Dungeon玩家借助一個安全漏洞，能夠下載四天內創建的42萬4471個冒險故事。他分析了其中18萬8000份樣本，其中超過31%都包含色情、露骨的內容。

這安全漏洞目前已經修復，但玩家們對此仍然很憤怒。

Modbox前兩個月也更新了2.0版本，最大的特色也是AI NPC，同樣也是借助GPT-3模型生成的，甚至NPC之間的對話也是生成的，毫無疑問，這個游戲也面臨著無法控制的問題。

但有網友表示延遲太高。

如何負責任地部署人工智能系統是AI公司必須考慮的問題，語言模型從互聯網文本中訓練，不可避免地包括大量令人討厭的部分，可解釋性和可控制性還是AI領域一個重要的研究問題。

去年兩位研究員離開谷歌，因為他們的上司拒絕發表關于謹慎使用AI技術的論文。

我們應該害怕無法控制的AI，就像害怕無法踩剎車的特斯拉一樣。

參考資料：

https://github.com/AetherDevSecOps/aid_adventure_vulnerability_report/

https://www.wired.com/story/ai-fueled-dungeon-game-got-much-darker/

（聲明：本文僅代表作者觀點，不代表新浪網立場。）