埃隆·马斯克旗下的社交平台 X（原推特）正面临来自印度政府的严厉法律施压。起因是该平台内置的 AI 聊天机器人 Grok 被指控存在严重的安全漏洞，允许用户通过提示词生成涉及女性的“低俗色情”及“虚假裸露”内容。
印度信息技术部已于近日正式发布命令，要求 X 平台立即针对 Grok 的生成机制进行技术与操作流程的整改。此次监管风暴的导火索是多名印度用户及议员的公开举报。调查显示，有用户利用 Grok 的图像编辑功能，将女性照片篡改成身穿比基尼等露骨形象。此外，还有报道指出，该模型甚至生成了涉及未成年人的不雅图像。尽管 X 平台承认安全防护存在缺失并下架了部分内容，但第三方监测机构发现，相关违规图像目前仍在该平台上流传。
针对这一情况，印度政府下达了“最后通牒”:要求 X 平台在72小时内提交详细的整改报告，说明其将采取哪些具体措施来拦截裸体、性化描述及其他非法素材。如果 X 平台未能按时达标，可能会失去印度法律赋予社交媒体的“安全港”保护地位。这意味着，平台将不再对用户发布的违法内容享有免责权，高管甚至可能面临刑事追责。
作为全球最大的数字市场之一，印度此次对 Grok 的铁腕整治，被视为各国政府追究 AI 生成内容责任的标杆案例。AIbase 将持续关注马斯克将如何调整算法以应对这一监管危机。
划重点:
-
限期整改:印度政府要求 X 平台在72小时内修复 Grok 的漏洞，严禁生成低俗、色情及不雅内容。
-
法律威慑:若整改不力，X 平台将失去“安全港”免责保护，平台负责人可能面临印度法律的严厉追诉。
-
安全漏洞:此次整改源于 Grok 被滥用生成女性及未成年人的虚假性化图像，引发了印度社会与政界的强烈抗议。
