埃隆・马斯克旗下的人工智能工具Grok已被印度尼西亚和马来西亚封禁，这两个国家也是全球首批封禁该工具的国家。此前，Grok的“数字脱衣”功能在互联网上传播了大量经篡改的、带有性暗示及低俗色情性质的女性和未成年人图像。
随着用户使用这款人工智能工具生成露骨色情深度伪造内容的行为形成病毒式传播趋势，国际社会要求马斯克管控Grok的压力正不断加大。
Grok是马斯克旗下社交媒体平台X（前身为推特）推出的一款工具。
印度尼西亚数字事务部长穆蒂娅・哈菲德于周六发表声明称，此次封禁旨在“保护女性、儿童及广大公众免受人工智能技术生成的虚假色情内容所带来的危害”。
马来西亚则于周日宣布了针对Grok的临时封禁令，理由是“Grok被反复滥用于生成低俗色情、露骨猥琐、格调低下、令人强烈反感且未经当事人同意的篡改图像，其中不乏涉及女性和未成年人的内容”。
印度尼西亚和马来西亚均为穆斯林人口占多数的国家，两国都出台了严格的反色情法律。
英国、欧盟以及印度的相关官员也已对Grok的内容管控机制表达了担忧。
马斯克及其旗下的xAI此前曾表示，他们正通过永久封禁违规账号，以及“与地方政府和执法部门展开合作”的方式来解决这一问题。但Grok针对用户请求生成的内容中，仍充斥着大量对女性进行性化刻画的图像。
与其他主流人工智能模型相比，Grok被许多用户视为一个异类——它不仅允许生成露骨色情内容，在某些情况下还会主动推广这类内容及虚拟陪伴形象。
这场“数字脱衣”风潮始于去年年末，当时大量用户发现，他们可以在平台X上标记Grok，利用该工具对图像进行篡改处理。
用户通过向这款聊天机器人下达指令，生成人物身着比基尼、摆出性暗示姿势的图像，这给全球数十万女性带来了心理困扰。
欧洲非营利算法调查机构“人工智能鉴真组织”的研究人员，对去年12月25日至今年1月1日期间Grok生成的2万余张随机图像，以及5万条用户指令展开了分析。
研究人员发现，这些用户指令中“频繁出现‘她的’‘穿上/脱掉’‘比基尼’以及‘衣物’等词汇”。
在生成的人物类图像中，超半数图像的人物“身着内衣、比基尼等暴露服饰”。
马斯克反对内容审查
长期以来，马斯克在公开场合一直主张抵制“过度迎合政治正确”的人工智能模型，以及他口中所谓的“内容审查”行为。
但据一位了解xAI内部情况的消息人士向美国有线电视新闻网（CNN）透露，这位亿万富翁在公司内部也对Grok的内容管控规则持反对态度。
xAI的安全团队规模本就小于行业竞争对手，而在此次争议爆发前的数周内，该团队又有多名员工离职。
马斯克曾表示，任何利用Grok生成非法内容的用户都将承担相应后果。但对于这款工具上存在的色情内容争议，他在很大程度上置之不理，声称各国政府“只是想压制言论自由”，并以发表表情符号的方式回应外界的批评。
上周，Grok已将部分图像生成功能仅限平台X的付费订阅用户使用，但这项限制仅针对用户与Grok互动的其中一种方式。
非订阅用户仍可在平台X上请求Grok编辑图像，而图像及视频生成功能，也依旧可通过Grok的独立网站和应用程序免费使用。
英国技术大臣莉兹・肯德尔于周五发表讲话，呼吁各方迅速采取行动，打击深度伪造图像的传播。
她表示：“对女性和儿童的图像进行性化篡改，是卑劣且令人憎恶的行为。”
她还补充道：“我希望英国通信管理局能行使议会赋予的全部法定权力，采取有力措施。”英国通信管理局是英国的独立通信监管机构。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：李肇孚
富灯网提示：文章来自网络，不代表本站观点。
