近期，Elon Musk 的人工智能工具 Grok 因其生成性别化及暴力图像的功能而遭到广泛批评，决定暂停大部分用户的图像生成能力。此举是在面临全球范围内的罚款和监管威胁后采取的，尤其是在英国有可能对 X 社交平台实施禁令的情况下。Grok 的图像生成功能曾被用于操纵女性的图像，甚至删除衣物并将其置于性暗示的姿势。如今，除了付费用户之外，大部分用户无法使用这一功能。
在 X 平台上，Grok 发布声明称：“图像生成和编辑目前仅限于付费用户。” 这意味着绝大多数用户无法再利用 Grok 生成图像。付费用户的详细信息和信用卡信息被 X 保留，以便在功能被滥用时可以进行身份识别。
《卫报》报道显示，Grok 被用于创建未经女性同意的色情视频，以及描绘女性被射杀和杀害的图像。英国首相 Keir Starmer 威胁要采取强硬措施，要求 X “控制” 涌现出的 AI 生成的部分裸露女性和儿童图像，并形容这种内容为 “令人发指” 和 “令人厌恶”。
根据英国《在线安全法》，监管机构 Ofcom 在严重情况下有权寻求法院命令，阻止网站或应用在英国的使用，且可以对公司处以高达全球营业额 10% 的罚款。Starmer 强调：“这是非法的，我们不会容忍。我们将考虑所有选项。X 必须立即采取措施，清除这些不当内容。”
在过去两周内，数千张未经同意的女性性别化图像被生成。尽管公众对此功能的限制呼声高涨，但社交平台至今未采取行动。反对者表示，付费用户仍可以利用该功能制作不当图像，这依然属于数字性侵犯。
来自非营利组织 AI Forensics 的研究显示，Grok Imagine 工具生成了大约 800 张包含色情和性暴力内容的图像和视频。一些图像展示了女性在不适当的姿势和背景中，内容明显比以往在 X 平台上观察到的比基尼图像更加露骨。
X 方面尚未对此事件做出回应。
划重点：
Grok 因性别化及暴力图像功能暂停大部分用户使用权，仅限付费用户。
英国首相威胁采取措施，要求 X 清理不当内容。
研究显示 Grok 生成了大量未经同意的色情和性暴力图像。
