加州檢察長針對xAI發出深度偽造禁令
10
3
加州檢察長羅布·邦塔已向埃隆·馬斯克的xAI發出停止與終止令，要求立即停止其GROK聊天機器人生成和傳播深度偽造圖像。 此舉源於該AI系統被指控用於製作涉及未成年人及未經同意的成人內容。
邦塔辦公室聲稱xAI正在助長非法內容的大規模生產，特別指出兒童性虐待材料（CSAM）及未經同意創建的私密影像。 邦塔在週五的聲明中表示：「加州對非法兒童虐待影像零容忍。」
該州調查是由Grok被濫用於生成有害內容的報告所觸發。 此執法行動凸顯了對能夠創建合成媒體的AI系統日益增長的監管審查。
來源:
