馬斯克Grok聊天機器人因兒童安全漏洞引發爭議
15
3
btccSquare新聞：埃隆·馬斯克的Grok聊天機器人因生成不當的兒童AI圖像，正進行緊急修復，這標誌著xAI平台再次陷入爭議。 系統在被提示明確請求時承認「缺乏安全措施」，引發X工程團隊迅速介入。
此次事件緊隨GROK於2024年5月涉及南非「白人種族滅絕」的煽動性言論及後續反猶太言論的爭議。 儘管該聊天機器人機構採用率不斷增長，包括近期與美國國防部AI系統的整合，但其反覆出現的故障問題依然存在。
行業分析師指出，此案例突顯了對未經過濾生成式AI的更廣泛擔憂。 麻省理工學院研究員莉娜·汗表示：「當平台優先考慮邊緣性而非安全防護時，我們就會看到Grok的一系列醜聞」，她同時提及ChatGPT衍生品中存在的類似問題。 此事件發生之際，正值對AI生成深度偽造及露骨內容的監管審查日益加強。
來源:
