蘋果AI翻車?寫作工具難應付臟話,對敏感話題“罷工”

蘋果AI翻車?寫作工具難應付臟話,對敏感話題“罷工”
2024年08月07日 02:29 網易新聞

本文作者:李丹

來源:硬AI

上周蘋果的個人智能化系統Apple Intelligence通過iOS 18.1的開發者測試版首次落地iPhone等蘋果設備。IPhone人工智能(AI)的首批功能之一——寫作工具Writing Tools才亮相一周就引發爭議,遭到網友吐槽。

據蘋果介紹,Writing Tools讓用戶能在幾乎任何場景下對文本進行改寫、校對和摘要,包括郵件(Mail)、備忘錄(Notes)、Pages 文稿和各類第三方App。曾有網友展示,該工具可以把對話中語氣生硬的話修改得更加委婉。

但有媒體指出,當用戶處理某些主題時,該工具會向用戶展示,AI生成的建議內容可能質量不高。

具體來說,當用戶需要重新調整文本時,幾乎可以在新iOS系統的任何地方調用Apple Intelligence,但如果嘗試改寫包含臟話的段落或者句子,就會看到一條系統警告,告知用戶:“Writing Tools 不是為處理這種類型的內容而設計的。” 系統通過這種文本警告用戶,AI重寫的內容質量可能會和原文有所不同。

在社交媒體X,有用戶發布了以下短視頻展示用Apple Intelligence改寫短信“Let’s fxxx daddy”這句話,AI生成的結果“不忍直視”,完全是字對字翻譯,改成要和老爸性交。

這個帖子下面,有網友熱評稱AI改寫內容“有毒”,有人稱很尬,有人諷刺說,蘋果這是添加了什么街頭AI來嘲諷Siri嗎。還有網友稱,想象下,你真把改寫的這話發出去會怎樣。

改寫臟話不是唯一會讓iOS系統發出警告的情況。如果用戶的內容提及毒品、殺人或謀殺也會出現這類警告,比如媒體展示的以下截圖警告。

有媒體稱,當用戶使用未經訓練的單詞或短語時,Apple Intelligence 也會顯示句子建議警告。其提到,有一次在試用AI寫作工具時,該媒體的人士將“sh***y”一詞用“crappy”替換,想通過這種方法讓AI警告消失,但AI 工具返回的建議警告與未替換前完全相同。對此,該媒體已要求蘋果提供更多信息,說明協作工具沒有接受哪些主題的訓練。

媒體認為,蘋果可能會通過禁止 AI 在重寫句子時處理某些單詞、主題和語調來避免任何爭議。無論如何,Apple Intelligence 驅動的寫作工具并不適用于從頭開始生成新內容。蘋果希望當 AI 正在查看原文詞語時向用戶發出警告。

除了被曝引起爭議的寫作工具,蘋果上周還發布了一些AI功能,包括:Siri的新功能,讓Siri能在文本和語音間任意切換,能回答如何使用iPhone等蘋果設備的數千問題;郵件的新功能,郵件有緊急電郵區、提供郵件全文摘要;照片的新功能,用戶可用日常語言查找照片、輸入文本后AI可利用照片制作影片,以及語音可轉錄為文本并生成摘要。

還有不少蘋果在今年6月全球開發者大會(WWDC)上介紹的AI功能未上線,蘋果稱將在明年上線,包括圖像創作功能Image Playground、創建應景Genmoji、通知功能Priority Notifications、具有屏幕感知功能的更強大Siri,同時,蘋果還未將Chat GPT接入iPhone和iPad的AI。而且,目前的iPhone AI只有注冊開發者能體驗。明年如果蘋果上線更多AI功能,并面向更多用戶,可能會有更多吐槽。

海量資訊、精準解讀,盡在新浪財經APP
蘋果 AI

VIP課程推薦

加載中...

APP專享直播

1/10

熱門推薦

收起
新浪財經公眾號
新浪財經公眾號

24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)

股市直播

  • 圖文直播間
  • 視頻直播間

7X24小時

  • 08-15 小方制藥 603207 --
  • 08-12 國科天成 301571 --
  • 08-05 珂瑪科技 301611 8
  • 08-05 巍華新材 603310 17.39
  • 07-26 龍圖光罩 688721 18.5
  • 新浪首頁 語音播報 相關新聞 返回頂部