上月，X平台（原推特）在全球监管重压下，正式封禁了旗下AI聊天机器人Grok的 “比基尼模式”，禁止其将真人照片编辑成穿着暴露服装的图像。

这一举措源于Grok被广泛滥用，用户通过标签@grok就能生成未经同意的性化深度伪造内容，甚至涉及未成年人，引发 “赛博性暴力” 争议。

据了解，Grok的图像编辑功能曾允许用户上传照片并生成穿着比基尼、内衣等暴露服装的版本，每小时产生数千条违规内容，数百名女性和儿童成为受害者。

印尼、马来西亚率先封禁Grok服务，英国通信管理局 (Ofcom) 启动正式调查，欧盟委员会也发出严厉警告。

本月18日，英国政府进一步升级监管，提出AI不雅内容紧急删除新规：

要求科技公司在48小时内删除平台上未经同意的私密图像、性化深度伪造内容等侵害性图片，违规平台将面临全球收入10%的巨额罚款，或被禁止在英国提供服务。

Ofcom正考虑对私密图像实施数字标记，实现类似儿童性虐待材料的自动删除机制。

这一新规是对《在线安全法》的补充，此前英国《数据法案》已将未经同意制作私密图像定为刑事犯罪，首相基尔·斯塔默强调：“没有任何平台能获得免费通行证，必须保护民众尤其是儿童免受非法AI内容伤害”。