據《CNBC》周五 (2 日) 報導,馬斯克旗下 Grok 聊天機器人承認存在「安全措施缺失」,導致近期回應用戶提問時產生 AI 生成的兒童不當圖片,目前正緊急修復。
X 用戶近日舉報 Grok 工具生成未成年人露骨內容,包括兒童穿著暴露衣物的圖片。Grok 周五在 X 平台發文表示正「緊急修復」問題,並稱兒童性虐待材料「違法且被禁止」。
xAI 技術人員 Parsa Tajik 也承認這個問題,發文說:「謝謝舉報,團隊正在加強防護機制。」
自 2022 年 ChatGPT 上線後,AI 圖片生成平台大增,引發內容操控和網路安全擔憂,也讓製作真人深偽裸照的平台變多。
雖然其他聊天機器人也有類似問題,但 Grok 屢次因誤用惹爭議。5 月時,Grok 因主動評論南非「白人種族滅絕」被罵翻。兩個月後,Grok 又發表反猶太言論並讚美希特勒。
儘管問題不斷,xAI 還是持續拿到合作案。美國國防部上個月把 Grok 加進 AI 代理平台,這工具也是預測投注網站 Polymarket 和 Kalshi 的主要聊天機器人。
新聞來源 (不包括新聞圖片): 鉅亨網