针对近期AI生成内容引发的社会伦理挑战，东南亚两国接连出手。据TechCrunch消息，印度尼西亚和马来西亚政府已正式宣布，将暂时封锁由马斯克（Elon Musk）旗下的xAI公司开发的聊天机器人Grok。
这一严厉举措的主要导火索是Grok在图像生成功能上的监管缺失。据悉，大量用户在社交平台X（原推特）上利用该工具生成了涉及真实女性及未成年人的非自愿性、色情化深度伪造(Deepfakes)图像，甚至包含暴力内容。印尼通信与数字部长Meutya Hafid在声明中严厉指出，这种行为严重侵犯了公民的人权与数字空间安全，是绝不能容忍的。
目前，监管压力正在全球范围内蔓延。除了东南亚两国的直接封锁，印度政府也已要求X采取有效措施拦截违规内容;欧盟委员会则要求公司保留相关文件，为潜在的法律调查做准备。
面对舆论压力，xAI方面曾发布致歉声明，承认部分内容违反了伦理标准及相关法律。虽然公司随后将图像生成功能限制为仅限订阅用户使用，但由于Grok独立App仍存在漏洞，监管机构认为其补救措施力度不足。与此同时，马斯克则在社交媒体上对此类监管回应称，这不过是“审查制度的借口”。
划重点:
-
两国封锁: 印度尼西亚与马来西亚因Grok涉嫌生成大量不当深度伪造图像而正式实施访问屏蔽。
-
内容违规:Grok被指控能根据用户提示生成涉及未成年人和真实人物的色情或暴力AI图片，引发国际社会公愤。
-
全球围堵: 印度、欧盟及英国监管机构已介入，xAI虽采取限制措施但效果存疑，马斯克指责此举为变相审查。
