立法者與受害者批評將Grok的AI圖像功能限制為付費用戶使用的決定，認為其「具侮辱性」且「無效」

(SeaPRwire) –   伊隆·馬斯克（Elon Musk）旗下的xAI已將其AI聊天機器人Grok的圖像生成功能僅限於付費訂閱者使用，此前該功能因被用來生成未經同意的真實女性與兒童性化圖像而遭受廣泛譴責。

「圖像生成與編輯目前僅限付費訂閱者使用，」Grok周五透過〔平台〕宣布。此限制意味著絕大多數用戶無法再使用該功能。已備存信用卡資訊的付費驗證訂閱者仍可使用，但理論上若功能遭濫用，他們更容易被識別。

然而，專家、監管機構與受害者表示，新限制並非解決當前普遍問題的辦法。

「提供用戶資訊與付款方式有助識別犯罪者的論點也難以令人信服，因為提供假資訊與使用臨時付款方式太容易了，」英國深度偽造（deepfakes）專家亨利·阿傑德（Henry Ajder）告訴〔媒體〕。「此邏輯也是被動的：它應該是在內容生成後協助識別違法者，但並未對模型本身進行任何對齊或有意義的限制。」

英國政府在言論中稱此擧對受害者「具侮辱性」。英國首相發言人周五告訴記者，此變動「僅是將可生成非法圖像的AI功能轉變為付費服務」。

「是時候讓X正視這個問題了；若另一家媒體公司在市中心的廣告牌上展示非法圖像，它會立即採取下架行動，否則將面臨公眾反彈，」他們說。

X的一位代表表示，他們正在「調查」新限制。xAI則以自動回覆回應：「傳統媒體說謊（Legacy Media Lies）。」

過去一週，真實女性成為大規模攻擊目標，用戶操縱照片移除衣物、將主體置於比基尼中，或在未經同意的情況下將其置於性暗示場景中。部分受害者表示，此趨勢讓她們感到被侵犯與困擾，許多人稱她們向X提交的投訴未得到回應，圖像仍在平台上流通。

研究人員表示，Grok生成與分享圖像的規模前所未見，因為與其他AI機器人不同，Grok本質上在X平台擁有內建的分發系統。 

一位研究人員的分析估計，X已於過去一週成為深度偽造內容最多的網站。社交媒體與深度偽造研究人員吉娜維芙·歐（Genevieve Oh）對@Grok帳號發佈至X的圖像進行了24小時分析，發現其每小時生成約6,700張性暗示或脫衣圖像。相比之下，其他五個主要的性化深度偽造網站同期每小時平均新增79張AI脫衣圖像。歐的研究還發現，性化內容佔據Grok輸出的主流，佔該聊天機器人生成所有圖像的85%。

保守評論員、馬斯克其中一個孩子的母親艾希莉·聖克萊爾（Ashley St. Clair）是受圖像影響的人之一。〔她表示〕，用戶將她X個人資料中的圖像轉變為她的露骨AI生成照片，其中一些她說描繪她是未成年人。在公開反對這些圖像並對未成年人深度偽造表達擔憂後，聖克萊爾還表示，X在未通知她或退還其每月8美元費用的情況下，取消了她的驗證付費訂閱者資格。

「將功能限制為僅付費用戶使用，表明他們打算加倍堅持此擧，讓受害者承擔向執法部門投訴的過重負擔，也讓執法部門耗費資源追查這些人，」艾希莉·聖克萊爾談及近期限制時說。「這也是一種斂財行為。」

聖克萊爾告訴〔媒體〕，許多針對她的帳號已是驗證用戶：「這根本無效，」她說。「這只是為了應對更多有關Grok圖像生成的執法調查。」

監管壓力

限制Grok功能的擧措是在全球監管機構的壓力與日俱增之際推出的。在英國，首相基爾·斯塔默（Keir Starmer）已〔呼籲〕全面禁止該平台，稱其內容「可恥」且「令人作嘔」。〔其他地區〕的監管機構也已展開調查或偵查。

歐盟委員會〔要求〕保留所有與Grok相關的內部文件和數據，並加強對該平台內容審核做法的調查，此前它將未經同意的性露骨深度偽造內容的傳播稱為「非法」、「駭人聽聞」且「令人作嘔」。

專家表示，新限制可能無法緩解監管機構的擔憂：「這種方法是生硬的手段，無法解決Grok對齊的根本問題，也可能無法讓監管機構滿意，」阿傑德說。「將功能限制為付費用戶使用無法阻止此類內容的生成；一個月的訂閱並非堅實的解決方案。」

在美國，此情況也可能考驗現有法律，例如《通訊端正法案》（Communications Decency Act）第230條，該條款保護線上服務提供商免於為用戶創建的內容承擔責任。

史丹佛大學人類中心人工智慧研究所（Stanford’s Institute for Human-Centered Artificial Intelligence）的莉亞娜·費弗科恩（Riana Pfefferkorn）此前告訴〔媒體〕，AI生成圖像的責任問題含糊不清。「我們面臨的情況是，首次由平台本身大規模生成未經同意的成人與未成年人色情內容，」她說。「無論從責任層面還是公關層面來看，兒童性剝削材料（CSAM）相關法律帶來了最大的潛在責任風險。」

馬斯克此前表示，「任何使用Grok製作非法內容的人都將面臨與上傳非法內容相同的後果。」然而，目前仍不清楚如何追究帳號的責任。