作者 | 丹木

　　來源 | 價值星球Planet

　　最近，“AI孫燕姿”成了B站網紅，B站上流傳的各種“孫燕姿”翻唱其他歌手的視頻，點擊量往往超過了十萬，甚至有些突破百萬。

　　在一個又一個視頻里，印著孫燕姿頭像的光盤緩緩旋轉，由其聲音翻唱的各種經典或流行歌曲包括周杰倫的《發如雪》《愛在西元前》、劉歡的《好漢歌》等等。

　　彈幕評論給AI孫燕姿的歌曲視頻增加了更多樂趣。有人說：“這是中了十香軟筋散的好漢唱的吧？”還有人說：“聽到孫燕姿唱這首歌，這輩子值了?！?/p>

　　利用AI模擬人聲、生成歌曲，是AI技術的一大進步，但同時也帶來各種各樣的問題。例如，用AI翻唱歌曲，可能涉及版權問題。

　　圖源：Pexels

　　而AI技術的發展，也讓文化娛樂行業的工作者感到了巨大危機——也許有一天，他們的工作將被AI取代。

　　AI歌手走紅網絡

　　對于當下的許多年輕人來說，孫燕姿這個名字，已經有些陌生了。

　　2021年，一名14歲的網友在NGA論壇發帖：“給大家推薦一個冷門華語歌手孫燕姿”，話題立刻登上了微博熱搜，無數80后、90后網友感嘆，在00后的世界里，孫燕姿竟然也成了“時代的眼淚”。

　　二十多年前，周杰倫、孫燕姿等歌壇“天王天后”，曾經引領了一代人的青春。如今，那個華語歌壇最璀璨的時代已經過去，流行歌手的唱片、歌迷的彩鈴、卡拉OK里略顯模糊的MV，對很多人來說，成為了久遠的記憶。

　　但這一次，AI讓孫燕姿翻紅，再次成了名人。

　　根據許多歌迷鑒定，AI孫燕姿與其本人歌聲相似度非常高，無論是音色、唱腔，還是極具個人特征的咬字和尾音，都能夠以假亂真。由AI孫燕姿翻唱的《發如雪》等歌曲幾乎難辨真假，而與歌手本人風格迥異的《好漢歌》則因極具反差感，激起了網友玩梗的強烈欲望。

　　AI孫燕姿引發歌迷和網友瘋狂的同時，也帶動了資本市場的熱度。5月11日，與AIGC相關的華策影視和其他多支影視傳媒股漲停收盤，有券商分析師認為，擁有經紀業務的影視公司掌握大量藝人版權素材，結合AIGC，互動版本的AI藝人將應運而生。

　　同時，這位分析師也認為，比起上次的元宇宙風口，這次AIGC的風口更加“靠譜”，因為階段性的進展正在發生。

　　AI孫燕姿的原理，是通過開源的生成式語音訓練模型收集素材，進行訓練。首先，需要把孫燕姿的歌曲去掉伴奏，或截取孫燕姿的訪談、對話視頻，獲取沒有伴奏、混響的原始聲音，然后把素材作為目標音色輸入到模型中進行訓練，得到一個孫燕姿音色的模型，轉換任意的歌聲，最后進行后期處理。

　　或許，AI歌手在未來有廣闊的前景，除了娛樂性的AI歌手視頻，詞曲作者也可以借助不同歌手的AI模型生成樣帶，進行試聽之后，為歌曲匹配到風格最合適的演唱者。此外，唱片公司還可以發布旗下歌手的音色模型供用戶有償使用。

　　圖源：Unsplash

　　對于已故歌星、演員的粉絲來說，AI技術也是一個福音：人們可以通過AI技術生成逝者的聲音模型，重現那些令人念念不忘的聲音。

　　目前，B站上已經有人發布了已故相聲大師馬三立的單口相聲，通過一個叫“SoVits AI”的開源項目，生成了一段馬三立的虛擬表演節目。在這段節目中，馬三立的頭像與電腦繪制的長衫結合在一起。

　　在節目開頭，馬三立的聲音說道：“我們這兒其實來說挺新鮮的，都是高科技啊這是，叫什么人工智能，AI搞出來的，都是假的，沒有真人……您在這聽個味道吧?！?/p>

　　很多網友期待，可以用AI“復活”更多逝世名人的聲音，如張國榮、黃家駒等，在建立聲音模型后，可以為他們撰寫與個人風格匹配的新作品，或者演唱他們所屬樂隊的新歌，讓他們在逝世多年以后，以另一種方式再次為他們的粉絲獻唱。

　　AI合成聲音被濫用，后果可能很嚴重

　　盡管AI歌手前景廣闊，“復活”已經去世的知名歌星、演員也令觀眾充滿期待，但它仍然可能涉及侵權問題。另外，AI模擬聲音也可能帶來一系列倫理和法律的風險。

　　技術更新的速度，已經超過了知識產權法律更新的速度，經過人工智能提取的歌手音色模型，尚未被納入現行知識產權法律保護范圍內，但利用AI歌手翻唱其他歌手的作品，至少已經涉及原唱歌手、詞曲作者的版權。

　　按照相關法律規定，除非著作權人聲明不得使用，對已經合法錄制為錄音制品的音樂作品進行翻唱、二次創作等可以不經著作權人許可，但應當按照規定支付報酬。

　　被用作素材的孫燕姿聲音同樣可能涉及“侵權”。律師、學者普遍認為，雖然音色和唱腔不受到著作權法的保護，但按照《商標法》規定，聲音和文字、圖形等一樣，可以作為商標申請注冊。

　　另外，根據《民法典》規定，對自然人聲音的保護參照適用肖像權保護規定，以防止聲音被混淆、濫用、冒用、不正當使用，損害聲音主體的合法權利。

　　是否起訴“AI孫燕姿”的制作者，需要孫燕姿自行決定，截止到目前，孫燕姿尚未在其個人微博上做出回應。

　　AI歌手可能侵犯相關各方的權利，除此之外，用AI生成人聲，可能還會為社會帶來其他更嚴重的法律和倫理問題。

　　圖源：Pexels

　　隨著通信技術的進步，電信詐騙成為了各個國家都要面臨的問題。過去的電信詐騙多半是通過文字信息偽裝成熟人，或通過電話偽裝成各個機構的工作人員進行詐騙，但在AI聲音模型技術輔助下，騙子可以很輕易地模仿熟人聲音進行詐騙。

　　在國外，已經發生了AI語音詐騙的案例。據報道，4月初，加拿大有犯罪分子利用AI技術行騙，他們合成了受害者親人的聲音模型，實施電話詐騙，在3天內騙了8名老年人。受害者表示，騙子使用的聲音和親人一模一樣，難以分辨。

　　得到語音素材并不難，詐騙者既可以通過黑客手段、非法購買信息等渠道獲得素材，也可以通過不斷撥打騷擾電話，以“廣撒網”的方法獲得語音素材，經過AI訓練和后期處理后，制作成足以亂真的語音信息。

　　除此之外，AI語音的侵權使用可能還會造成倫理問題。例如，如果有人收集網紅、主播的聲音進行AI訓練，用于提供軟色情服務，既違反法律，也會對當事人的名譽、心理造成傷害。

　　4月11日，國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法（征求意見稿）》，有法律學者認為，這是對人工智能進行管理的良好開端，但在未來，仍然需要制定更詳細的規定，對使用人工智能的各個主體進行更加明確的責任認定，對提供模型的服務商、內容生產者和發布者進行責任區分。

　　文娛產業創作者開始反擊

　　對人工智能的未來感到擔憂的，不只是法律界學者，還有各類文化工作者——AI在文化領域的應用，可能會讓他們的工作岌岌可危。

　　前段時間，聊天機器人模型ChatGPT走紅，它的本質是一種大型預訓練語言模型，可以和人類通過人機對話的形式溝通。

　　在各個社交平臺上，網友們紛紛曬出自己與ChatGPT的對話，它可以檢索信息、生成文案，一些網友也表達了對ChatGPT的擔憂：它可以讓寫作效率更高，在未來，這可能導致相當一部分靠“碼字”吃飯的記者、編劇、作家甚至社會科學研究人員失業。

　　除了文字工作者，插畫師、視頻制作者、教師也擔心自己的“飯碗”被AI搶走。人類剪輯一條視頻、繪制一張畫可能需要幾個小時的時間，但AI只需幾分鐘就可以完成。

　　目前，ChatGPT可能并不會和人類“搶飯碗”，因為AI的力量還不夠強大。

　　一位研究歷史、藝術的工作者告訴價值星球，在試用了ChatGPT之后，他“松了一口氣”，因為ChatGPT在專業領域獲得的訓練材料還比較少。當他試圖讓ChatGPT寫一段關于昆曲的文字，他發現ChatGPT缺乏基本常識。

　　另一位用AI生成畫像的網友則發現，在他提供給AI的幾張素材中，只有一張自拍合照被生成了勉強能看出長相的繪畫，“但是人臉閃爍著奇怪的星形光芒，眼鏡框也扭曲了，看起來十分恐怖?！倍渌掌傻膱D片則更加詭異，風景變成了扭曲的色塊，人像則全部變成了二次元風格的“紙片人”。

　　不過，隨著訓練素材的增加，以及人工智能技術的發展，未來AI確實可能對各行各業造成威脅：只要添加的訓練素材足夠多，AI的“學習能力”更強，它就可以生成更加精美、更加準確的作品。

　　而且，很多文字、藝術工作者創作的作品版權并不屬于自己，而是屬于公司。在公司面前，個人的力量過于渺小，一旦公司把作品用作訓練素材，作者很難采取有效的措施通過法律維護權益。

　　面對這種可能出現的威脅，美國好萊塢的編劇們已經坐不住了。5月2日，美國編劇協會（WGA）與電影制作、流媒體公司談判破裂后宣布罷工，除了呼吁提高薪資待遇，他們還要求限制人工智能的使用，例如不允許公司將編劇的原創作品提供給AI進行訓練，不承認AI作品的原創定義。此前，在談判中，WGA要求制片公司“確保編劇不被強迫改寫AI創作的劇本”。

　　圖源：Pexels

　　WGA的罷工隊伍經過迪士尼、華納、Netflix等大型制片公司和流媒體公司的門口，他們手中的牌子印有“WRITERS GUILD ON STRIKE（編劇協會正在罷工）”的統一標語，以及編劇們手寫的口號。

　　有人打出“AI沒有靈魂”的標語，有人打出“用AI代替高管”，希望把矛盾轉移到更高薪的其他行業；還有人幽默地吐槽ChatGPT寫作能力較差：“我讓ChatGPT寫一個標語，但它的表現很爛。”

　　目前，沒人可以預測這次罷工會持續多久。

　　在這一次罷工之前，美國編劇已經十幾年沒有發生過大罷工了。上一次罷工發生在2007年到2008年之間，持續了100多天，導致美國電影業損失高達20億美元，2008年電影電視金球獎頒獎典禮被迫取消，只公布了獲獎名單。

　　WGA宣布，在達成協議之前，任何WGA成員都放棄收入，并不會再撰寫新的劇本。這意味著，如果無法就編劇報酬和人工智能兩個問題達成協議，好萊塢影視行業目前600部作品或將受到影響，2萬名員工有可能停工、失業，損失高達810億美元。

　　最近一段時間，谷歌、百度、騰訊、華為等國內外大廠已經開始競相布局AI，2023年或許成為真正意義上的“人工智能元年”，而各行各業對AI技術的擔憂也越發嚴重，擔心AI成為一個“潘多拉魔盒”，打開它將造成人類無法預測的后果。

　　許多專家認為，AI并不會真正取代人類的工作，它只是人類工作的輔助者，幫助承擔較為初級的工作，例如屬于簡單重復勞動的校對、生成文字、剪輯視頻、繪畫等，但真正的創意是無法被AI取代的。以編劇行業為例，AI可以寫出通順的文字，但很難通過對社會的深入觀察產生創作靈感，寫出一個有新意或發人深省的故事。

　　然而，任何領域都遵循“二八定律”，能夠站在成功的巔峰、獲得較高收入的，永遠是少數人，大多數人都在從事重復的勞動。

　　編劇的常態是為已經設計好的大綱撰寫分場劇本，插畫師的常態是按照甲方的需求畫出他們想要的圖片，教師的常態是講解基礎知識……如果AI足夠強大，并取代大部分基礎工作，仍然會造成相當嚴重的失業。

　　《未來簡史》作者尤瓦爾·赫拉利在書中提出了“無用階級”這個新概念，他認為，隨著生物工程、人工智能等技術的革新，未來99%的人都將淪為“無用的人”，他們做的工作無法超過計算機和人工智能。

　　在一次采訪中，赫拉利對大型公司收集用戶數據、發展人工智能的未來表達了擔憂：“（如果）只有少數精英擁有了數據、權利，而大多數人卻沒有，那些擁有了數據的人，可能比你自己更了解你，他可以預測你的行為和決策，操控你的選擇和想法，為你做決定。”

　　因此，赫拉利呼吁，要讓大多數人能從新技術中獲益，而不只是少數精英。

　　技術的更新，往往會超過很多人的學習能力。在智能手機的浪潮中，我們已經看到很多老年人不會使用智能手機，淪為“技術難民”，而比起智能手機，AI波及的人群可能更加廣泛，影響也更加深遠。

　　解決新技術帶來的法律問題，乃至社會和倫理問題，已經迫在眉睫。如果等到AI已侵入每個人的日常生活再做出反應，可能為時過晚。面對這種可能顛覆人類生活的技術，態度無論如何謹慎也不算過分。

　　參考資料：

　　[1]《“AI孫燕姿”終于對人工智能下手了，律師說問題很大》，澎湃新聞

　　[2]《“AI孫燕姿”成頂流，一場法律與倫理大考》，新京報

　　[3]《直擊罷工中的好萊塢：萬余編劇拒絕給AI打工，為加薪而戰》，澎湃新聞

（聲明：本文僅代表作者觀點，不代表新浪網立場。）