近日，埃隆·马斯克旗下xAI为Grok推出新图像编辑功能，却引发诸多争议。马斯克本人引领的“比基尼换装”热潮，加上功能未充分验证致违法图片生成，让普通用户与监管机构不满。xAI虽已承认防护疏漏并紧急修复，但这背后反映的AI功能滥用问题，值得深思。
Grok图像编辑功能引发争议的缘由
本周，xAI为Grok推出新图像编辑功能，此功能允许X用户在无需原作者同意且不通知原作者的情况下，即可编辑任何图像，这一设定率先引发用户争议。而1月1日，马斯克要求Grok将演员本·阿弗莱克的AI梗图替换为自己的脸，直接掀起了“比基尼换装”热潮。然而，该功能并未得到充分验证，部分“乐子人”借此生成违法图片，使得普通用户及监管机构对此极为不满。
xAI的回应与举措
面对争议，xAI于昨日承认“已识别到防护措施存在疏漏，正在紧急修复”，还强调部分材料“属于违法且被禁止的内容”。xAI技术人员帕尔萨·塔吉克也公开表示：“感谢反馈，团队正在研究进一步收紧我们的限制措施。”
xAI产品的争议过往及行业问题
事实上，马斯克旗下xAI产品常因高用户自由度、低防护度引发争议，例如其AI女友Ani可与用户调情。行业专家指出，这一现象背后是更广泛的问题，超越Grok本身。自2022年ChatGPT推出加速AI生图扩散后，许多公司目前都难以防止功能滥用，该技术助长了涉及真人的深度伪造成人内容。
印度监管部门的行动
印度电子和信息技术部上周五要求政府对Grok的安全功能进行审查。印度官员指出该平台出现“新趋势”，即用户上传女性照片并要求聊天机器人“减少其衣物并使其性感化”。该部称此行为“不可接受，是对AI功能的严重滥用”。
以上文章由 AI 总结生成
