据报道，埃隆·马斯克的AI聊天机器人Grok在11天内生成了约23338张描绘儿童的性化图片。报告该报告由反网络仇恨中心于周四发布。

图表，CCDH论点，在 12 月 29 日至 1 月 9 日期间，每 41 秒就会出现一张儿童性化图片。当时，Grok 的图像编辑功能允许用户篡改真人照片，添加暴露的服装和性暗示的姿势。

CCDH 还报告称，根据其审查的数据，Grok 制作了近 10,000 幅以性化儿童为主题的漫画。

分析估计，在此期间，Grok 总共生成了约 300 万张性暗示图片。该研究基于从 Grok 生成的 460 万张图片中随机抽取的 2 万张图片样本，发现其中 65% 的图片包含描绘男性、女性或儿童的性暗示内容。

“我们发现的情况清晰而令人不安：在那段时间里，Grok 变成了一家大规模生产性虐待材料的工厂，”CCDH 首席执行官伊姆兰·艾哈迈德说道。《卫报》.

Grok短暂涉足人工智能生成儿童性图像领域引发了全球监管反弹。继印尼和马来西亚之后，菲律宾于1月15日成为第三个封禁Grok的国家。这三个东南亚国家均指出，Grok未能有效阻止涉及未成年人的非自愿性内容的制作和传播。

在英国，媒体监管机构Ofcom 启动1月12日，一项针对X是否违反《网络安全法》的正式调查正式展开。欧盟委员会巴黎检察官办公室表示正在“非常认真地调查”此事，并认定这些图片违反了《数字服务法》。巴黎检察官办公室扩大了对X的调查范围，将制作和传播儿童色情制品的指控纳入其中。澳大利亚方面也表示正在调查此事。已展开内部调查也。

埃隆·马斯克的 xAI 公司（旗下拥有 Grok 和 X（前身为 Twitter，许多性化图片都是自动发布的））最初对媒体的询问做出了三个字的回应：“传统媒体的谎言”。

随着舆论反弹愈演愈烈，该公司后来已实施的限制先是在1月9日将图像生成功能限制为付费用户才能使用，然后在1月14日增加了技术障碍，以阻止用户对他人进行数字化脱衣。xAI宣布在此类行为违法的地区，系统会屏蔽此功能。

马斯克在X上发帖称，他“没有发现任何Grok生成未成年人裸照的情况。绝对没有”，并补充说，该系统旨在拒绝非法请求，并遵守所有司法管辖区的法律。然而，研究人员发现，主要问题并非完全裸露的图像，而是Grok让未成年人穿着暴露的服装，例如比基尼和内衣，并摆出性挑逗的姿势。

截至 1 月 15 日，尽管 X 平台已声明对儿童性虐待材料采取零容忍政策，但在 CCDH 样本中发现的儿童性化图像中，仍有约三分之一可以在 X 上访问。