綜合避難所

馬斯克Grok又爆爭議！全新AI工具竟能生成泰勒絲裸體影片

馬斯克旗下的xAI再度引發爭議，近日在iOS上推出全新「Grok Imagine」付費工具，其中主打的「Spicy」模式，允許使用者產出NSFW限制級內容。然而，令人驚訝的是，其守門機制似乎形同虛設，竟可成功生成名人裸露的深偽影片。

Grok Imagine結合圖像與短片生成技術，用戶可透過文字生成圖片，並將圖片延伸為短片，還可加上音效。提供Custom、Normal、Fun和Spicy四種模式生成短片，Spicy模式被認為刻意導向成人與裸露內容。

與競品平台相比，Grok Imagine在處理敏感內容時明顯寬鬆，甚至被質疑遊走法律邊緣。根據外媒《The Verge》實測，輸入提示「泰勒絲(Taylor Swift)與男孩們在 Coachella音樂節狂歡」，AI立即生成超過30張泰勒絲穿著暴露的圖片，只需啟用Spicy 模式，AI就生成一段她脫去衣服、僅穿丁字褲跳舞的裸露影片。

更令人憂心的是，整個操作流程中幾乎沒有實質的年齡限制。App僅在製作影片前要求輸入出生年份，但無需經過任何驗證身分的步驟，容易讓未成年人輕易繞過。

馬斯克擁有的X(原推特)去年也曾爆發過AI換臉的泰勒絲不雅照在平台上瘋傳，當時引起軒然大波。如今又有深偽裸體影片事件，恐怕再次掀起與論的反彈聲浪，也加深外界對此類AI工具監管不足的擔憂。截至目前為止，xAI尚未對此做出回應。